В Microsoft разработали сверхэффективную ИИ-модель, которая запускается на CPU
Исследователи из Microsoft представили новую модель искусственного интеллекта, которая может стать революционной в области ИИ. Речь идет о самой масштабной однобитной модели, известной как BitNet b1.58 2B4T. Эта модель уже доступна для всех по лицензии MIT и может работать даже на процессорах с невысокой производительностью, включая Apple M2.
Что такое BitNet?
BitNet — это архитектурный подход, который позволяет создавать сжатые модели ИИ, способные работать на оборудовании с ограниченными ресурсами. В отличие от стандартных моделей, где веса (значения, определяющие внутреннюю структуру модели) часто квантуются, BitNet использует квантование в три значения: «-1», «0» и «1». Это позволяет значительно сократить количество битов, необходимых для представления весов, и, как следствие, повысить эффективность модели с точки зрения памяти и вычислительных ресурсов.
Преимущества BitNet
Одним из ключевых преимуществ BitNet является её способность работать на центральных процессорах (CPU) без необходимости использования графических процессоров (GPU). Это делает модель доступной для широкого круга пользователей, включая тех, кто использует устройства с процессорами Apple M2. Кроме того, использование квантования в три значения позволяет BitNet быть более эффективной по сравнению с большинством современных систем ИИ.
Открытый доступ и возможности
Модель BitNet b1.58 2B4T выложена в открытый доступ по лицензии MIT, что означает, что любой желающий может использовать и модифицировать её для своих нужд. Это открывает широкие возможности для разработчиков и исследователей, стремящихся создать эффективные и доступные ИИ-системы.
Заключение
Разработка BitNet — это важный шаг вперёд в области искусственного интеллекта. Microsoft удалось создать модель, которая сочетает в себе высокую эффективность и доступность, что делает её потенциально полезной для различных приложений, от мобильных устройств до серверных решений.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros