Из Википедии, бесплатной энциклопедии
Перейти к навигации Перейти к поиску

Parareal является параллельным алгоритмом из численного анализа и используются для решения начальных задач . [1] Он был представлен в 2001 году Лайонс , Мадей и Туриничи. С тех пор он стал одним из наиболее широко изучаемых методов интегрирования параллельно во времени. [ необходима цитата ]

Методы параллельной интеграции [ править ]

В отличие, например, от методов Рунге-Кутты или многоступенчатых методов, некоторые вычисления в Parareal могут выполняться параллельно, и поэтому Parareal является одним из примеров метода параллельного интегрирования во времени . В то время как исторически большинство усилий по распараллеливанию численного решения уравнений в частных производных было сосредоточено на пространственной дискретизации, ввиду проблем, связанных с экзадачными вычислениями , параллельные методы временной дискретизации были идентифицированы как возможный способ увеличения параллелизма в численном программном обеспечении . [2]Поскольку Parareal вычисляет численное решение для нескольких временных шагов параллельно, он классифицируется как параллельный метод шагов . [3] Это контрастирует с подходами, использующими параллелизм по методу, таким как параллельный метод Рунге-Кутта или методы экстраполяции, где независимые этапы могут вычисляться параллельно или параллельно с помощью системных методов, таких как релаксация формы волны. [4] [5]

История [ править ]

Parareal может быть получен как многосеточный метод во времени, так и как множественная съемка по оси времени. [6] Обе идеи, многосеточная во времени, а также использование множественной съемки для временной интеграции, восходят к 1980-м и 1990-м годам. [7] [8] Parareal - это широко изученный метод, который использовался и изменялся для множества различных приложений. [9] Идеи распараллеливания решения задач с начальным значением восходят еще дальше: первая статья, предлагающая метод интегрирования параллельно во времени, появилась в 1964 году. [10]

Алгоритм [ править ]

Визуализация алгоритма Parareal. Здесь обозначен грубый пропагатор, а вот мелкий .

Parareal решает задачу начальной стоимости вида

Здесь правая часть может соответствовать пространственной дискретизации дифференциального уравнения в частных производных в методе линейного приближения.

Parareal теперь требует декомпозиции временного интервала на так называемые временные срезы , так что

Каждый временной интервал назначается одному блоку обработки при распараллеливании алгоритма, поэтому он равен количеству блоков обработки, используемых для Parareal: например, в коде на основе MPI это будет количество процессов, в то время как в коде на основе OpenMP , будет равно количеству потоков .

Parareal основан на итеративном применении двух методов интегрирования обыкновенных дифференциальных уравнений . Один, обычно помеченный , должен иметь высокую точность и вычислительную стоимость, в то время как другой, обычно помеченный , должен быть дешевым в вычислительном отношении, но может быть гораздо менее точным. Как правило, для грубого и точного интегратора выбирается какая-либо форма метода Рунге-Кутта, который может быть более низкого порядка и использовать больший временной шаг, чем . Если проблема начального значения проистекает из дискретизации УЧП, можно также использовать более грубую пространственную дискретизацию, но это может отрицательно повлиять на сходимость, если не используется интерполяция высокого порядка. [11] Результат численного интегрирования одним из этих методов по временному интервалу.для некоторого начального значения, заданного в, записывается как

или .

Тогда последовательное интегрирование по времени с помощью точного метода будет соответствовать пошаговому вычислению

Parareal вместо этого использует следующую итерацию

где - счетчик итераций. По мере того, как итерация сходится и , члены грубого метода сокращаются, и Parareal воспроизводит решение, полученное последовательным выполнением только точного метода. Можно показать, что Parareal сходится после максимального количества итераций. [6] Однако, чтобы Parareal мог обеспечить ускорение, он должен сойтись за количество итераций, значительно меньшее, чем количество временных интервалов, то есть .

В итерации Parareal вычислительно затратная оценка может выполняться параллельно на процессорах. В противоположность этому , зависимость от средств , что грубая коррекция должна быть вычислена в последовательном порядке.

Ускорение [ править ]

При некоторых предположениях может быть получена простая теоретическая модель ускорения Parareal. [12] Хотя в приложениях эти допущения могут быть слишком ограничивающими, модель все же полезна для иллюстрации компромиссов, связанных с получением ускорения с Parareal.

Во-первых, предположим, что каждый временной интервал состоит точно из шагов точного интегратора и шагов грубого интегратора. Это включает, в частности, предположение, что все временные интервалы имеют одинаковую длину и что как грубый, так и точный интегратор используют постоянный размер шага на протяжении всей симуляции. Во-вторых, обозначьте и время вычисления, необходимое для одного шага точного и грубого методов, соответственно, и предположите, что оба они постоянны. Обычно это не совсем так, когда используется неявный метод, потому что время выполнения зависит от количества итераций, необходимых для итеративного решателя .

При этих двух предположениях время выполнения точного метода, интегрирующего по временным срезам, можно смоделировать как

Время выполнения Parareal с использованием блоков обработки и выполнения итераций равно

Тогда ускорение Parareal

Эти две границы иллюстрируют компромисс, который необходимо сделать при выборе грубого метода: с одной стороны, он должен быть дешевым и / или использовать гораздо больший временной шаг, чтобы сделать первую границу как можно большей, с другой стороны. Чтобы вторая граница оставалась большой, количество итераций должно быть низким. В частности, параллельная эффективность Parareal ограничена

то есть числом, обратным количеству требуемых итераций.

Неустойчивость для мнимых собственных значений [ править ]

В ванильной версии Parareal есть проблемы с мнимыми собственными значениями . [6] Обычно он сходится только к самым последним итерациям, то есть по мере приближения , и ускорение всегда будет меньше единицы. Таким образом, либо количество итераций невелико и Parareal нестабилен, либо, если оно достаточно велико, чтобы сделать Parareal стабильным, ускорение невозможно. Это также означает, что Parareal обычно нестабилен для гиперболических уравнений. [13] Хотя формальный анализ Гандера и Вандевалля охватывает только линейные задачи с постоянными коэффициентами, проблема также возникает, когда Parareal применяется к нелинейным уравнениям Навье – Стокса.когда коэффициент вязкости становится слишком маленьким, а число Рейнольдса слишком большим. [14] Существуют различные подходы к стабилизации Parareal, [15] [16] [17] один из них - Parareal, усиленный подпространством Крылова.

Варианты [ править ]

Есть несколько алгоритмов, которые напрямую основаны или, по крайней мере, вдохновлены оригинальным алгоритмом Parareal.

Крылов-подпространство, усиленное Parareal [ править ]

Ранее было признано, что для линейных задач информация, полученная с помощью точного метода, может использоваться для повышения точности грубого метода . [16] Первоначально идея была сформулирована для параллельного неявного интегратора времени PITA [18], метода, тесно связанного с Parareal, но с небольшими различиями в том, как выполняется коррекция. На каждой итерации результат вычисляется для значений для . На основании этой информации подпространство

определяется и обновляется после каждой итерации Parareal. [19] Обозначим , как в ортогональной проекции от до . Затем замените грубый метод улучшенным интегратором .

По мере увеличения числа итераций пространство будет расти, и модифицированный пропагатор станет более точным. Это приведет к более быстрой сходимости. Эта версия Parareal может также стабильно интегрировать линейные гиперболические уравнения в частных производных. [20] Также существует расширение нелинейных задач, основанное на методе редуцированного базиса. [17]

Гибридные парареальные спектральные отложенные поправки [ править ]

М. Миньон предложил метод с повышенной параллельной эффективностью, основанный на комбинации Parareal со спектральными отложенными поправками (SDC) [21] . [22] Это ограничивает выбор для грубого и точного интегратора SDC, жертвуя гибкостью ради повышения эффективности параллельной обработки. Вместо предела , предел параллельной эффективности в гибридном методе становится

где число итераций базового метода последовательного SDC и обычно большее количество итераций параллельного гибридного метода. Гибрид Parareal-SDC был дополнительно улучшен за счет добавления полной схемы аппроксимации, используемой в нелинейной многосеточной системе . Это привело к разработке схемы параллельной полной аппроксимации в пространстве и времени (PFASST). [23] Производительность PFASST изучалась для PEPC, программы расчета частиц на основе дерева Барнса-Хата, разработанной в суперкомпьютерном центре Juelich . Моделирование с использованием всех 262 144 ядер на IBM BlueGeneСистема / P JUGENE показала, что PFASST может обеспечить дополнительное ускорение сверх насыщения распараллеливания пространственного дерева. [24]

Многосеточное сокращение времени (MGRIT) [ править ]

Многосеточный метод сокращения времени (MGRIT) обобщает интерпретацию Parareal как многосеточного алгоритма времени на несколько уровней с использованием различных сглаживающих устройств. [25] Это более общий подход, но для конкретного выбора параметров он эквивалентен Parareal. Библиотека XBraid, реализующая MGRIT, разрабатывается Ливерморской национальной лабораторией Лоуренса .

ParaExp [ править ]

ParaExp использует экспоненциальные интеграторы внутри Parareal. [26] Хотя он ограничен линейными задачами, он может обеспечить почти оптимальное параллельное ускорение.

Ссылки [ править ]

  1. Львы, Жак-Луи; Мадай, Ивон; Туриничи, Габриэль (2015). «Парареальное» в дискретизации по времени PDE » (PDF) . Comptes Rendus де l'Академии наук, Série я . 332 (7): 661–668. Bibcode : 2001CRASM.332..661L . DOI : 10.1016 / S0764-4442 (00) 01793-6 .
  2. ^ Джек Dongarra; Джеффри Хиттингер; Джон Белл; Луис Чакон; Роберт Фальгаут; Майкл Эру; Пол Ховланд; Эсмонд Нг; Клейтон Вебстер; Стефан Вильд (март 2014 г.). Прикладные математические исследования для Exascale Computing (PDF) (Отчет). Министерство энергетики США . Проверено августом 2015 года . Проверить значения даты в: |accessdate=( помощь )
  3. ^ Burrage, Кевин (1997). «Параллельные методы для ОДУ». Успехи в вычислительной математике . 7 (1–2): 1–31. DOI : 10,1023 / A: 1018997130884 .
  4. ^ Iserles, A .; NøRSETT, ИП (1990-10-01). «К теории параллельных методов Рунге-Кутта» . Журнал численного анализа IMA . 10 (4): 463–488. DOI : 10.1093 / imanum / 10.4.463 . ISSN 0272-4979 . 
  5. ^ Кетчесон, Дэвид; Вахид, Умайр бин (13.06.2014). «Сравнение явных методов Рунге – Кутты высокого порядка, экстраполяции и отложенной коррекции в последовательном и параллельном». Коммуникации в прикладной математике и вычислительной технике . 9 (2): 175–200. arXiv : 1305.6165 . DOI : 10.2140 / camcos.2014.9.175 . ISSN 2157-5452 . 
  6. ^ a b c Гандер, Мартин Дж .; Вандевалле, Стефан (2007). «Анализ Парареального метода интеграции времени с параллельным временем». Журнал SIAM по научным вычислениям . 29 (2): 556–578. CiteSeerX 10.1.1.154.6042 . DOI : 10.1137 / 05064607X . 
  7. ^ Hackbusch, Вольфганг (1985). Параболические многосеточные методы . Вычислительные методы в прикладных науках и технике, VI . С. 189–197. ISBN 9780444875976. Проверено августом 2015 года . Проверить значения даты в: |access-date=( помощь )
  8. ^ Киль, Мартин (1994). «Параллельная многократная съемка для решения начальных задач». Параллельные вычисления . 20 (3): 275–295. DOI : 10.1016 / S0167-8191 (06) 80013-X .
  9. ^ Гандер, Мартин Дж. (2015). 50 лет интеграции времени и параллельного времени . Вклад в математические и вычислительные науки. 9 (1-е изд.). Издательство Springer International. DOI : 10.1007 / 978-3-319-23321-5 . ISBN 978-3-319-23321-5.
  10. ^ Нивергельт, Юрг (1964). «Параллельные методы интегрирования обыкновенных дифференциальных уравнений». Коммуникации ACM . 7 (12): 731–733. DOI : 10.1145 / 355588.365137 .
  11. ^ Рупрехт, Даниэль (2014-12-01). «Конвергенция парареального с пространственным огрублением» (PDF) . ПАММ . 14 (1): 1031–1034. DOI : 10.1002 / pamm.201410490 . ISSN 1617-7061 .  
  12. ^ Миньон, Майкл Л. (2010). «Гибридный метод парареальной спектральной отложенной коррекции» . Коммуникации в прикладной математике и вычислительной технике . 5 (2): 265–301. DOI : 10.2140 / camcos.2010.5.265 .
  13. Персонал, Гуннар Андреас; Ренквист, Эйнар М. (01.01.2005). Барт, Тимоти Дж .; Грибель, Майкл; Киз, Дэвид Э .; Nieminen, Risto M .; Руз, Дирк; Шлик, Тамар; Корнхубер, Ральф; Хоппе, Рональд; Перио, Жак (ред.). Устойчивость парареального алгоритма . Конспект лекций по вычислительным наукам и технике. Springer Berlin Heidelberg. С. 449–456. DOI : 10.1007 / 3-540-26825-1_46 . ISBN 9783540225232.
  14. ^ Штайнер, Йоханнес; Рупрехт, Даниэль; Спек, Роберт; Краузе, Рольф (01.01.2015). Абдулле, Ассир; Депарис, Симона; Кресснер, Дэниел; Нобиле, Фабио; Пикассо, Марко (ред.). Сходимость парареального для уравнений Навье-Стокса в зависимости от числа Рейнольдса . Конспект лекций по вычислительным наукам и технике. Издательство Springer International. С. 195–202. CiteSeerX 10.1.1.764.6242 . DOI : 10.1007 / 978-3-319-10705-9_19 . ISBN  9783319107042.
  15. ^ Дай, X .; Maday, Y. (01.01.2013). "Устойчивый парареальный во времени метод для гиперболических систем первого и второго порядков" . Журнал SIAM по научным вычислениям . 35 (1): A52 – A78. DOI : 10.1137 / 110861002 . ISSN 1064-8275 . 
  16. ^ a b Фархат, Шарбель; Кортиаль, Жюльен; Дастиллунг, Климен; Бавестрелло, Анри (30.07.2006). «Параллельные времени неявные интеграторы для предсказания линейных структурных динамических реакций в режиме, близком к реальному времени». Международный журнал численных методов в инженерии . 67 (5): 697–724. Bibcode : 2006IJNME..67..697F . DOI : 10.1002 / nme.1653 . ISSN 1097-0207 . 
  17. ^ а б Чен, Фэн; Hesthaven, Jan S .; Чжу, Сюэюй (01.01.2014). Quarteroni, Alfio; Роцца, Джанлуиджи (ред.). Об использовании сокращенных базисных методов для ускорения и стабилизации парареального метода . MS&A - Моделирование, имитация и приложения. Издательство Springer International. С. 187–214. DOI : 10.1007 / 978-3-319-02090-7_7 . ISBN 9783319020891.
  18. ^ Фархат, Шарбель; Чандесрис, Марион (07.11.2003). "Разложенные во времени параллельные интеграторы времени: теория и технико-экономические обоснования для приложений жидкости, структуры и жидкости-структуры". Международный журнал численных методов в инженерии . 58 (9): 1397–1434. Bibcode : 2003IJNME..58.1397F . DOI : 10.1002 / nme.860 . ISSN 1097-0207 . 
  19. ^ Гандер, М .; Петку, М. (2008). "Анализ подпространства Крылова расширенный парареальный алгоритм для линейных задач" . ESAIM: Ход работы . 25 : 114–129. DOI : 10.1051 / процедурный: 082508 .
  20. ^ Ruprecht, D .; Краузе, Р. (30 апреля 2012 г.). «Явное интегрирование во времени линейной акустической адвекции». Компьютеры и жидкости . 59 : 72–83. arXiv : 1510.02237 . DOI : 10.1016 / j.compfluid.2012.02.015 .
  21. ^ Датт, Алок; Грингард, Лесли; Рохлин, Владимир (01.06.2000). "Спектральные методы отложенной коррекции обыкновенных дифференциальных уравнений". BIT Численная математика . 40 (2): 241–266. DOI : 10,1023 / A: 1022338906936 . ISSN 0006-3835 . 
  22. ^ Minion, Майкл (2011-01-05). «Гибридный парареалистический метод отложенной спектральной коррекции» . Коммуникации в прикладной математике и вычислительной технике . 5 (2): 265–301. DOI : 10.2140 / camcos.2010.5.265 . ISSN 2157-5452 . 
  23. ^ Эммет, Мэтью; Миньон, Майкл (28.03.2012). «На пути к эффективному параллельному по времени методу для уравнений в частных производных» . Коммуникации в прикладной математике и вычислительной технике . 7 (1): 105–132. DOI : 10.2140 / camcos.2012.7.105 . ISSN 2157-5452 . 
  24. ^ Speck, R .; Ruprecht, D .; Krause, R .; Emmett, M ​​.; Миньон, М .; Винкель, М .; Гиббон, П. (2012-11-01). Решатель N тел с параллельными массивами пространственно-временных параллелей . Высокопроизводительные вычисления, сети, хранение и анализ (SC), Международная конференция 2012 г. для . С. 1–11. DOI : 10.1109 / SC.2012.6 . ISBN 978-1-4673-0805-2.
  25. ^ Falgout, R .; Friedhoff, S .; Колев, Т .; MacLachlan, S .; Шредер, Дж. (01.01.2014). «Параллельная временная интеграция с многосеткой». Журнал SIAM по научным вычислениям . 36 (6): C635 – C661. CiteSeerX 10.1.1.701.2603 . DOI : 10.1137 / 130944230 . ISSN 1064-8275 .  
  26. ^ Гандер, М .; Гюттель, С. (1 января 2013 г.). «ПАРАЭКСП: Параллельный интегратор для линейных задач с начальным значением». Журнал SIAM по научным вычислениям . 35 (2): C123 – C142. CiteSeerX 10.1.1.800.5938 . DOI : 10.1137 / 110856137 . ISSN 1064-8275 .  

Внешние ссылки [ править ]

  • parallel-in-time.org