Прорыв в области энергоэффективности: чип, работающий на машинном обучении, меняет правила игры в ИИ
Учёные из Университета штата Орегон (OSU) представили революционную разработку, которая может кардинально изменить подход к энергопотреблению в сфере искусственного интеллекта. На недавней конференции IEEE Custom Integrated Circuits Conference в Бостоне был представлен новый энергоэффективный чип, способный сократить энергопотребление крупных языковых моделей ИИ, таких как Gemini и GPT-4, вдвое по сравнению с традиционными решениями.
Студент Рамин Джавади и доцент кафедры электротехники Теджасви Ананде разработали чип, основанный на принципах искусственного интеллекта. По словам Ананде, руководителя лаборатории смешанных сигналов и систем в OSU, главная проблема современных дата-центров заключается в том, что энергозатраты на передачу одного бита не снижаются с той же скоростью, с которой растёт потребность в объёме передаваемых данных. Это приводит к колоссальному энергопотреблению, что становится всё более актуальной проблемой в условиях роста объёмов данных и увеличения мощности вычислительных систем.
Источник: Oregon State University
Большие языковые модели требуют передачи и приёма огромных объёмов данных по проводным медным каналам связи в центрах обработки данных, что требует значительных энергетических затрат. Один из способов решения этой проблемы — разработка более эффективных чипов для проводной связи. При высокоскоростной передаче данных сигнал на приёмнике искажается и требует коррекции. Большинство традиционных систем проводной связи используют для этого эквалайзеры, которые потребляют значительное количество энергии.
В новом чипе используется инновационный подход, основанный на машинном обучении. Встроенный классификатор обучается распознавать и исправлять ошибки, что позволяет восстанавливать данные более эффективно и с меньшими энергозатратами. Этот подход, по словам Джавади, позволяет значительно снизить энергопотребление.
Проект, получивший поддержку Агентства по перспективным оборонным исследовательским проектам (DARPA), Корпорации исследований полупроводников и Центра повсеместной связи, принёс Джавади награду за лучшую студенческую работу на конференции. Сейчас Джавади и Ананде работают над следующим поколением чипа, надеясь достичь ещё большей энергоэффективности. Их разработки обещают стать важным шагом к снижению энергопотребления современных систем искусственного интеллекта.
Таким образом, новая разработка учёных из OSU может стать ключевым элементом в создании более экологичных и экономичных систем ИИ, что особенно важно в условиях глобального роста потребления энергии и необходимости снижения углеродного следа.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros