Российские учёные совершили прорыв в оптимизации ИИ-моделей — теперь их можно использовать без мощных серверов
Лаборатория исследований искусственного интеллекта Yandex Research совместно с учёными из Национального исследовательского университета «Высшая школа экономики» (НИУ ВШЭ), Массачусетского технологического института (MIT), Австрийского института науки и технологий (ISTA) и Научно-технологического университета им. короля Абдаллы (KAUST) достигла значительного прогресса в области оптимизации больших языковых моделей (LLM). Благодаря новому методу сжатия, эти модели теперь могут работать на устройствах с ограниченными вычислительными ресурсами, таких как смартфоны и ноутбуки, без необходимости использования дорогих серверов и графических ускорителей.
Большие языковые модели, такие как те, которые используются в передовых системах обработки естественного языка, требуют значительных вычислительных ресурсов для своей работы. Это ограничивало их применение в условиях, где доступ к мощным серверам и графическим процессорам был ограничен. Однако новый метод сжатия, разработанный совместными усилиями учёных, позволяет существенно уменьшить требования к вычислительным ресурсам без потери качества модели.
Этот прорыв открывает новые возможности для применения искусственного интеллекта в повседневной жизни. Теперь пользователи могут воспользоваться передовыми ИИ-моделями на своих личных устройствах, что делает технологии более доступными и удобными. Например, это может улучшить работу виртуальных assistanтов, переводчиков и других приложений, использующих обработку естественного языка.
Разработка нового метода сжатия является результатом международного сотрудничества и объединения усилий ведущих учёных в области искусственного интеллекта. Это достижение подчёркивает важность совместной работы и обмена знаниями для решения сложных технических задач.
В будущем ожидается, что этот метод будет усовершенствован и адаптирован для других типов ИИ-моделей, что ещё больше расширит их применение и доступность. Это открывает перспективы для создания новых инновационных решений, которые смогут улучшить качество жизни и работу в различных областях.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros