Математики придумали более простой способ умножения матриц — он может стать основой прорыва в ИИ

В основе искусственного интеллекта лежит матричное исчисление, которое только что пережило самый большой подъем более чем за десятилетие. Почти одновременно вышли две статьи, в которых математики объяснили, как повысить эффективность перемножения матриц. С помощью новых алгоритмов искусственный интеллект сможет быстрее обучаться на менее мощном оборудовании и таким же образом быстрее решать задачи.

Математики придумали более простой способ умножения матриц — он может стать основой прорыва в ИИ

Суть проблемы в том, что до относительно недавнего времени человечество в лице математиков не представляло иного способа умножения матриц, чем выполнением n3 операций (где n — размерность матриц). Для матрицы 3 × 3, к примеру, необходимо было совершить 27 умножений. В идеальном же для математиков мире умножение матриц хотелось совершать за n2 операций. И к началу 70-х годов процесс поиска соответствующего алгоритма пошёл. Нетрудно догадаться, что к этому побудило распространение вычислительных машин.

Значительный прогресс в данной сфере совершил в 1981 году математик Арнольд Шёнхаге. Он доказал, что умножение матриц можно выполнить за n2,522 шагов. Позже этот метод был назван «лазерным методом» (laser method). Все последующие продвижения к заветной «второй степени» базировались на улучшениях лазерного метода.

Читать также:
Хакеры взломали Telegram-бот, из-за чего сотни каналов опубликовали политический спам

Заявленный в новых статьях прорыв, совершённый в 2023 году, произошёл в результате обнаружения «скрытых потерь» в лазерном методе. В ноябре 2023 года Ран Дуань и Ренфэй Чжоу из Университета Цинхуа представили метод, который устранил неэффективность лазерного метода, установив новую верхнюю границу числа необходимых операций примерно на уровне n2,371866. Это достижение ознаменовало самый существенный прогресс в этой области с 2010 года. Но всего два месяца спустя Вирджиния Василевски Уильямс, Инчжан Сюй и Цзысюань Сюй из Массачусетского технологического института опубликовали вторую статью, в которой подробно описали ещё одну оптимизацию, которая снизила верхнюю границу количества операций до n2,371552.

Безусловно, точное влияние на скорость работы моделей искусственного интеллекта зависит от конкретной аппаратной архитектуры системы ИИ и от того, насколько сильно задачи конкретной модели зависят от умножения матриц. Поэтому повышение эффективности алгоритмов будут сочетать с оптимизацией оборудования, чтобы полностью реализовать потенциальный прирост скорости. Но все же, по мере того, как улучшения в алгоритмических методах будут накапливаться с течением времени, искусственный интеллект будет становиться быстрее — это факт.

НОВОЕ НА САЙТЕ

Nintendo представила Switch 2 — игровая консоль выйдет летом и будет намного дороже первой Switch

Nintendo представила долгожданную новинку — портативную консоль Nintendo Switch 2, которая поступит в продажу уже 5 июня. Консоль, являющаяся усовершенствованным вариантом оригинальной модели, обещает принести в игровой мир немало интересных новшеств и улучшений. ...

«Торт не был ложью!»: Nintendo подтвердила релиз Hollow Knight: Silksong в 2025 году и показала 5 секунд геймплея

Вслед за несколькими обнадёживающими знаками фанаты экшен-платформера Hollow Knight: Silksong от австралийской студии Team Cherry всё-таки дождались нового (пусть и краткого) показа игры. Премьера...

Китайцы зажгли на Земле «искусственное солнце» рекордной температуры

Сообщается, что модернизированный два года назад китайский токамак Huanliu-3 (HL-3) в Чэнду приблизился к порогу запуска самоподдерживающейся термоядерной реакции. В ходе серии экспериментов реактор достиг «двойного барьера нагрева» — температуры более 100 млн °C....

AMD нашла крайнего в проблемах с запуском систем на Ryzen 7 9800X3D

Число сообщений о неисправных процессорах AMD Ryzen 7 9800X3D растёт. За первый квартал 2025 года пользователи Reddit насчитали более 100 случаев отказа этих чипов, по большей части на материнских платах ASRock. Сегодня появилось официальное...

Microsoft хочет полностью избавиться от паролей — и у неё есть план

Microsoft объявила о масштабных изменениях в системе входа в учётные записи, которые затронут более одного миллиарда пользователей по всему миру. Новый способ входа через биометрические ключи доступа (passkeys) должен снизить риск фишинга и взломов,...