scienceitНаука. Инновации. ТехнологииScience. Innovations. Technologies2308-4758North-Caucasus Federal Universityscienceit-278Research ArticleФИЗИКО-МАТЕМАТИЧЕСКИЕ НАУКИPHYSICAL AND MATHEMATICAL SCIENCESПОСТРОЕНИЕ И АНАЛИЗ АЛГОРИТМОВ РАСПАРАЛЛЕЛИВАНИЯ ТЕНЗОРНЫХ ОПЕРАЦИЙConstructing and analyzing algorithms of tensor operation parallelingМакохаАнатолий НиколаевичMakokhaAnatoliy Nikolayevichanmakoha@yandex.ruТышлярТатьяна ЕвгеньевнаTyshlyarTat'yana Yevgen'yevnak-fmfprimath@stavsu.ruСеверо-Кавказский федеральный университетРоссияNorth-Caucasus Federal UniversityRussian Federation201705092022012938Copyright © Макоха А.Н., Тышляр Т.Е., 20222022Макоха А.Н., Тышляр Т.Е.Makokha A.N., Tyshlyar T.Y.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://scienceit.elpub.ru/jour/article/view/278

В данной статье алгоритмы сложения, умножения и свертки тензоров рассмотрены с точки зрения возможности их распараллеливания. Разработаны графы этих алгоритмов и проведен их анализ с точки зрения прогнозируемых величин ускорения и эффективности. Предполагается, что время выполнения любых вычислительных операций является одинаковым и равно некоторой единице времени, а передача данных между вычислительными устройствами выполняется мгновенно без каких-либо затрат времени (что допустимо, например, для параллельной вычислительной системы с общей разделяемой памятью). В частности, показано, что для операции сложения тензоров время наиболее быстрого исполнения алгоритма при неограниченном числе процессоров будет равно длине максимального пути графа, то есть минимальное время выполнения алгоритма будет достигнуто при количестве процессоров, равном количеству компонент тензора. Аналогичный анализ проведен для алгоритмов выполнения операций умножения и свертки тензоров. Все результаты исследований подтверждены соответствующими математическими выкладками и наглядно проиллюстрированы на соответствующих графах.

The algorithms of tensors' summing, multiplying and collapsing are observed in that issue from the perspectives of those paralleling possibilities. The graphs of these algorithms are developed and analyzed from the point of the forecasted values of the acceleration and efficiency. It is assumed that the time of execution for all computing operations is same and equal to a unit of time, and data transfer between computer devices is performed instantaneously without any time consuming (it is acceptable, for example, a parallel computing systems with shared memory). In particular, it is shown that for the tensors' addition the time of the fastest execution of algorithm for an unlimited number of processors is equal to the length of the maximum path in the graph. In other words, the minimum time of the algorithm will be achieved when the number of processors is equal to the number of components of the tensor. A similar analysis was performed for the algorithms of multiplication and convolution of tensors.

тензорные операциипараллельные вычисленияграф алгоритмаускорениеэффективностьtensor operationsparalleling calculationsgraph of the algorithmaccelerationeficiencyReferencesВоеводин В.В. Параллельные вычисления / В.В. Воеводин, Вл. В. Воеводин. СПб.: БХВ-Петербург, 2002. 599 с.Воеводин В.В. Параллельные вычисления / В.В. Воеводин, Вл. В. Воеводин. СПб.: БХВ-Петербург, 2002. 599 с.Гельфанд И.М. лекции по линейной алгебре / И.М. Гельфанд. М.: Добросвет, Московский центр непрерывного математического образования, 1998. 320 с.Гельфанд И.М. лекции по линейной алгебре / И.М. Гельфанд. М.: Добросвет, Московский центр непрерывного математического образования, 1998. 320 с.Гергель В.П. Теория и практика параллельных вычислений. [Электронный ресурс] URL: http://www.intuit.ru/goods_store/ebooks/8321 (дата обращения: 11.06.2016).Гергель В.П. Теория и практика параллельных вычислений. [Электронный ресурс] URL: http://www.intuit.ru/goods_store/ebooks/8321 (дата обращения: 11.06.2016).Димитриенко Ю.И. Тензорное исчисление: Учебное пособие для вузов / Ю.И. Димитриенко. М.: Высш. шк., 2001. 575 с.Димитриенко Ю.И. Тензорное исчисление: Учебное пособие для вузов / Ю.И. Димитриенко. М.: Высш. шк., 2001. 575 с.Макоха А.Н. Имитационные модели нейронных сетей, реализующих операции тензорной алгебры над полем комплексных чисел / А.Н. Макоха, Т.Е. Тышляр // Нейрокомпьютеры: разработка и применение. М.: Изд-во «Радиотехника», 2010. № 9. С. 64-70.Макоха А.Н. Имитационные модели нейронных сетей, реализующих операции тензорной алгебры над полем комплексных чисел / А.Н. Макоха, Т.Е. Тышляр // Нейрокомпьютеры: разработка и применение. М.: Изд-во «Радиотехника», 2010. № 9. С. 64-70.Макоха А.Н. Моделирование операций тензорной алгебры на базе нейронных сетей / А.Н. Макоха, Т.Е. Тышляр // Международная школа-семинар по геометрии и анализу памяти Н.В. Ефимова, Абрау-Дюрсо, 9-15 сентября 2008 г. Ростов-на-Дону: Изд-во Северо-Кавказского научного центра высшей школы. 2008. С. 187-189.Макоха А.Н. Моделирование операций тензорной алгебры на базе нейронных сетей / А.Н. Макоха, Т.Е. Тышляр // Международная школа-семинар по геометрии и анализу памяти Н.В. Ефимова, Абрау-Дюрсо, 9-15 сентября 2008 г. Ростов-на-Дону: Изд-во Северо-Кавказского научного центра высшей школы. 2008. С. 187-189.Макоха А.Н. Построение нейронной сети, реализующей операции симметрирования и альтернирования тензорной алгебры / А.Н. Макоха, Т.Е. Тышляр // Научно-инновационные достижения ФМФ в области физико-математических и технических дисциплин: Материалы 53-й научно-методической конференции преподавателей и студентов Ставропольского государственного университета «Университетская наука - региону». Ставрополь: Изд-во СГУ. 2008. С. 19-22.Макоха А.Н. Построение нейронной сети, реализующей операции симметрирования и альтернирования тензорной алгебры / А.Н. Макоха, Т.Е. Тышляр // Научно-инновационные достижения ФМФ в области физико-математических и технических дисциплин: Материалы 53-й научно-методической конференции преподавателей и студентов Ставропольского государственного университета «Университетская наука - региону». Ставрополь: Изд-во СГУ. 2008. С. 19-22.Макоха А.Н. Построение нейронной сети для классификации точек линейного комплекса плоскостей общего типа / А.Н. Макоха, Т.Е. Тышляр // Вестник Северо-Кавказского федерального университета, 2013. №2 (35). С. 20-23.Макоха А.Н. Построение нейронной сети для классификации точек линейного комплекса плоскостей общего типа / А.Н. Макоха, Т.Е. Тышляр // Вестник Северо-Кавказского федерального университета, 2013. №2 (35). С. 20-23.

The authors declare that there are no conflicts of interest present.