IBM разработала оптическую технологию для обучения ИИ со скоростью света

Компания IBM разработала новую оптическую технологию для обучения моделей ИИ со скоростью света, при этом экономя массу энергии. Заявляется, что благодаря применению прорывов в центрах обработки данных сэкономленная энергия при обучении модели ИИ эквивалентна годовому потреблению энергии 5000 домов в США.

IBM объяснила, что хотя центры обработки данных подключаются к внешнему миру с помощью оптоволоконных кабелей, внутри они по-прежнему используют медные провода.

Провода соединяют ускорители графических процессоров, которые проводят много времени в ожидании данных от других устройств, расходуя при этом энергию и увеличивая расходы.

Комментируя разработку, Дарио Джил, старший вице-президент и директор по исследованиям IBM, сказал:

«Поскольку генеративный ИИ требует больше энергии и вычислительной мощности, центр обработки данных должен развиваться – и ко-пакетная оптика может сделать эти центры обработки данных перспективными. Благодаря этому прорыву чипы будущего будут взаимодействовать так же, как оптоволоконные кабели передают данные в центры обработки данных и из них, открывая новую эру более быстрых и устойчивых коммуникаций, которые могут справиться с рабочими нагрузками ИИ будущего».

IBM описывает свой новый прототип ко-пакетной оптики (CPO) в техническом документе. Значительно увеличив пропускную способность в центрах обработки данных, можно свести к минимуму время простоя графического процессора, что ускорит обработку ИИ.

Также IBM объясняет, что обучение больших языковых моделей (LLM) можно сократить с трех месяцев до трех недель. В то же время повышение энергоэффективности сократит потребление энергии и снизит затраты, связанные с обучением LLM.