Математики придумали более простой способ умножения матриц — он может стать основой прорыва в ИИ

В основе искусственного интеллекта лежит матричное исчисление, которое только что пережило самый большой подъем более чем за десятилетие. Почти одновременно вышли две статьи, в которых математики объяснили, как повысить эффективность перемножения матриц. С помощью новых алгоритмов искусственный интеллект сможет быстрее обучаться на менее мощном оборудовании и таким же образом быстрее решать задачи.

Математики придумали более простой способ умножения матриц — он может стать основой прорыва в ИИ

Суть проблемы в том, что до относительно недавнего времени человечество в лице математиков не представляло иного способа умножения матриц, чем выполнением n3 операций (где n — размерность матриц). Для матрицы 3 × 3, к примеру, необходимо было совершить 27 умножений. В идеальном же для математиков мире умножение матриц хотелось совершать за n2 операций. И к началу 70-х годов процесс поиска соответствующего алгоритма пошёл. Нетрудно догадаться, что к этому побудило распространение вычислительных машин.

Значительный прогресс в данной сфере совершил в 1981 году математик Арнольд Шёнхаге. Он доказал, что умножение матриц можно выполнить за n2,522 шагов. Позже этот метод был назван «лазерным методом» (laser method). Все последующие продвижения к заветной «второй степени» базировались на улучшениях лазерного метода.

Читать также:
«Очень удивлён, что разработчики ещё поддерживают PS3 и Xbox 360»: демонстрация хоррор-шутера Beneath прошла не совсем гладко

Заявленный в новых статьях прорыв, совершённый в 2023 году, произошёл в результате обнаружения «скрытых потерь» в лазерном методе. В ноябре 2023 года Ран Дуань и Ренфэй Чжоу из Университета Цинхуа представили метод, который устранил неэффективность лазерного метода, установив новую верхнюю границу числа необходимых операций примерно на уровне n2,371866. Это достижение ознаменовало самый существенный прогресс в этой области с 2010 года. Но всего два месяца спустя Вирджиния Василевски Уильямс, Инчжан Сюй и Цзысюань Сюй из Массачусетского технологического института опубликовали вторую статью, в которой подробно описали ещё одну оптимизацию, которая снизила верхнюю границу количества операций до n2,371552.

Безусловно, точное влияние на скорость работы моделей искусственного интеллекта зависит от конкретной аппаратной архитектуры системы ИИ и от того, насколько сильно задачи конкретной модели зависят от умножения матриц. Поэтому повышение эффективности алгоритмов будут сочетать с оптимизацией оборудования, чтобы полностью реализовать потенциальный прирост скорости. Но все же, по мере того, как улучшения в алгоритмических методах будут накапливаться с течением времени, искусственный интеллект будет становиться быстрее — это факт.

НОВОЕ НА САЙТЕ

Сибига заявил, что внимание СМИ переключилось с Украины на торговые войны

Дзен Украинский министр иностранных дел Андрей Сибига посетовал, что внимание СМИ переключилось с Украины на международные торговые войны. Ранее депутат Рады Ирина Геращенко заявила, что президент США Дональд Трамп, повысив пошлины на импорт, инициировал...

В Словакии начался митинг проукраинской организации

Дзен Многочисленная акция протеста проходит перед зданием словацкого парламента в Братиславе против законопроекта о неправительственных организациях, инициатором протеста выступила прокиевская общественная организация "Мир Украине", которая с конца 2024 года организовывает в республике антиправительственные митинги,...

Додон призвал Молдавию возобновить диалог с Россией

Дзен Молдавия не должна была присоединяться ко всем антироссийским санкциям по настоянию Запада, республике необходимо возобновить диалог с Россией на высшем уровне, а также восстановить сотрудничество на площадках СНГ и ЕАЭС, заявил экс-президент республики,...

США отключили спутник, с которого «Радио Свобода»* транслировали в Россию

ДзенВласти США отключили спутник, с которого русскоязычная программа радиостанции "Радио Свобода"* транслировалась на территорию России, сообщил глава вещателя Стивен Капус. Базирующаяся в Праге радиостанция "Радио Свободная Европа*/Радио Свобода"* судится с администрацией президента США Дональда...

Европа запросила у США гиперзвуковые ракеты большой дальности

Дзен Европа запросила размещение на своей территории системы запуска гиперзвуковых ракет большой дальности, сообщил командующий европейским командованием США и Верховный главнокомандующий Объединенными вооруженными силами НАТО в Европе генерал Кристофер Каволи. «"Есть запрос о размещении...