Основы технологии OpenMP.

и их опции.
Распараллеливание по данным и по операциям.
Решение

проблемы синхронизации.

Multi-Processing) —
открытый развивающийся стандарт для распараллеливания программ на языках С, С++, Fortran, 
включает

описание
директив компилятора,
библиотечных процедур,
переменных ОС,
для программирования многопоточных приложений для МВС с общей памятью (имеется версия и для кластеров).
Наиболее популярная задача OpenMP — написание программ, ориентированных на циклы

потока, или нити, треда (thread – нить).
Для добавления в

программу параллелизма выполняется разветвление (fork) на несколько тредов, создается группа.
Треды группы выполняются параллельно в рамках фрагмента кода, т.наз. параллельной области.
В конце параллельной области все треды синхронизируются и заканчивают свою работу (join), оставив корневой .
После этого корневой тред продолжает выполняться до тех пор, пока не начнется следующая параллельная область (или не наступит конец программы).

выполнения (номер =0).
Встретив в коде параллельную конструкцию, он создает

новую группу тредов (порожденных).
После параллельной конструкции выполнение кода продолжает только корневой тред.

– последовательность выполняющихся команд.
Программа,
или приложение,
или процесс – может состоять из

нескольких потоков
Не путать с потоками данных (stream).

обработки исходного кода при компиляции.
Языковые конструкции в OpenMP определены как

директивы компилятора, сообщающие компилятору, что cделать для реализации параллелизма.
В C и C++ такие директивы называются прагмы (pragmatic information - полезная информация, ЯП Ada).

Синтаксис прагмы
#pragma omp имя [опции]
Пример – указание на распараллеливание операторов блока:
#pragma omp parallel
{… }

параметрах тредов в программе,
изменять их значения (set),
выполнять блокировку выполнения для

синхронизации тредов.
Синтаксис:  omp_имя()
Пример – определение номера треда (по месту вызова функции): i = omp_get_thread_num();  

позволяют управлять поведением программы (в нашем случае - параллелизмом) во

время ее выполнения (run-time).
Синтаксис:  OMP_имя
Пример – переменная, задающая максимально возможное количество тредов:
OMP_NUM_THREADS
Значение OMP_NUM_THREADS изменяет функция
void omp_set_num_threads (int n);
!!!Функции вида set (назначения параметров) имеют приоритет над соответствующими переменными окружения  

тред
. . .
//Начало параллельной области
#pragma omp parallel …
{
//операторы

выполняются всеми тредами
. . .
//все треды завершают работу, остается только корневой тред
}
//последовательная область, выполняется корневой тред
. . .
}

«Консольное приложение Win32»

элемент

эту строку.
Какие будут результаты?
Какого числа тредов удалось добиться?

- для всех тредов,
локальные области памяти - для каждого треда.
тред
Память
треда
Память
треда
ОБЩАЯ
ПАМЯТЬ
тред

на два основных класса:
shared – общие
все треды видят одну и

ту же переменную;
private - локальные
каждый тред видит свой экземпляр данной переменной,
создаются для каждого треда только на время его выполнения.

области – общие;

все переменные, определенные внутри параллельной области – локальные

область, выполняется корневой тред
. . .
//Начало параллельной области
#pragma omp

parallel [опции]
{
//операторы выполняются всеми тредами
. . .
//все треды завершают работу, остается только корневой тред
}
//последовательная область, выполняется корневой тред
. . .
}

Директивы OpenMP - parallel

firstprivate (list)
shared (list)
default (shared | none)
reduction (operator:

list)
copyin (list)

Синтаксис директивы parallel

осуществляется распараллеливание.

Иначе операторы
параллельной области выполняются
единственным корневым тредом.
Опция if

"one thread"

>> n;
omp_set_num_threads(n);
#pragma omp parallel if( n>1 )
{
int k = omp_get_thread_num();
cout << "in thread #" << k << endl;
}
cout << "one thread" << endl;
return 0;
}

Пример