Математики придумали более простой способ умножения матриц — он может стать основой прорыва в ИИ

В основе искусственного интеллекта лежит матричное исчисление, которое только что пережило самый большой подъем более чем за десятилетие. Почти одновременно вышли две статьи, в которых математики объяснили, как повысить эффективность перемножения матриц. С помощью новых алгоритмов искусственный интеллект сможет быстрее обучаться на менее мощном оборудовании и таким же образом быстрее решать задачи.

Математики придумали более простой способ умножения матриц — он может стать основой прорыва в ИИ

Суть проблемы в том, что до относительно недавнего времени человечество в лице математиков не представляло иного способа умножения матриц, чем выполнением n3 операций (где n — размерность матриц). Для матрицы 3 × 3, к примеру, необходимо было совершить 27 умножений. В идеальном же для математиков мире умножение матриц хотелось совершать за n2 операций. И к началу 70-х годов процесс поиска соответствующего алгоритма пошёл. Нетрудно догадаться, что к этому побудило распространение вычислительных машин.

Значительный прогресс в данной сфере совершил в 1981 году математик Арнольд Шёнхаге. Он доказал, что умножение матриц можно выполнить за n2,522 шагов. Позже этот метод был назван «лазерным методом» (laser method). Все последующие продвижения к заветной «второй степени» базировались на улучшениях лазерного метода.

Читать также:
Разработчики «Смуты» прокомментировали утечку полной версии и объяснили, почему игра не выйдет за пределами VK Play

Заявленный в новых статьях прорыв, совершённый в 2023 году, произошёл в результате обнаружения «скрытых потерь» в лазерном методе. В ноябре 2023 года Ран Дуань и Ренфэй Чжоу из Университета Цинхуа представили метод, который устранил неэффективность лазерного метода, установив новую верхнюю границу числа необходимых операций примерно на уровне n2,371866. Это достижение ознаменовало самый существенный прогресс в этой области с 2010 года. Но всего два месяца спустя Вирджиния Василевски Уильямс, Инчжан Сюй и Цзысюань Сюй из Массачусетского технологического института опубликовали вторую статью, в которой подробно описали ещё одну оптимизацию, которая снизила верхнюю границу количества операций до n2,371552.

Безусловно, точное влияние на скорость работы моделей искусственного интеллекта зависит от конкретной аппаратной архитектуры системы ИИ и от того, насколько сильно задачи конкретной модели зависят от умножения матриц. Поэтому повышение эффективности алгоритмов будут сочетать с оптимизацией оборудования, чтобы полностью реализовать потенциальный прирост скорости. Но все же, по мере того, как улучшения в алгоритмических методах будут накапливаться с течением времени, искусственный интеллект будет становиться быстрее — это факт.

НОВОЕ НА САЙТЕ

Массаж для лица: наведи красоту и расслабься с домашним спа

Усталость, стресс, недостаток сна — всё это оставляет следы на лице. Массаж для лица — это не только косметическая процедура, но и способ вернуть коже свежесть, упругость и здоровое сияние. А ещё — прекрасный...

В Кремле прокомментировали поставки американского оружия на Украину

Дзен США продолжают поставлять оружие на Украину, заявил пресс-секретарь президента России Дмитрий Песков.Так он прокомментировал высказывание главы Белого дома Дональда Трампа, допустившего передачу ВСУ американских комплексов Patriot."Было много слов сказано о дороговизне (поставок....

Песков назвал действия стран Европы на Балтике провокационными

Дзен Пресс-секретарь президента РФ Дмитрий Песков назвал очевидной реальностью тот факт, что многие европейские страны занимаются провокационными действиями на Балтике. Он отметил, что Балтика сейчас благодаря весьма агрессивной политике прибрежных государств Европы - регион,...

Европа начала готовиться к войне с Россией

ДзенАлександр ЯковенкоВсе материалыРассеивается туман относительно того, с какой Европой нам придется иметь дело сейчас и в ближайшие годы. Цифры показывают, что расширение мощностей европейского ВПК идет полным ходом: создаются новые производства и новые цеха,...

В США заявили о попытках глобалистов вбить клин между Вашингтоном и Москвой

Дзен Леволиберальные глобалисты пытаются вбить клин между США и Россией, заявил в беседе с РИА Новости телеведущий и глава прореспубликанской организации America First Republicans of New Jersey Майк Криспи на форуме Student Action Summit....