ИИ научился запоминать: Mem0 представила решение для бесконечных диалогов
Компания Mem0 представила инновационные архитектуры памяти Mem0 и Mem0g, которые значительно улучшают способность больших языковых моделей (LLM) запоминать и использовать информацию в длительных диалогах. Это решение решает одну из ключевых проблем современных LLM — ограничение контекстного окна, даже если оно расширено до миллионов токенов.
По словам Таранджит Сингха, генерального директора Mem0, существующие системы часто страдают от «забывания» важных данных. Например, медицинский ассистент может игнорировать аллергии пациента, а планировщик поездок — терять детали разговора. Новые архитектуры Mem0 и Mem0g решают эту проблему, позволяя ИИ эффективно работать с данными за пределами контекстного окна.
Mem0 использует динамическое извлечение и обновление информации. На первом этапе система анализирует недавние сообщения и сводку всего диалога, выделяя ключевые факты. На втором этапе она оценивает, нужно ли добавить новые данные, обновить существующие или удалить противоречивые. В результате память агента остаётся актуальной без перегрузки контекста.
Mem0g дополняет этот подход графовыми структурами, где сущности (люди, события, объекты) связаны как узлы, а их отношения — как рёбра. Это позволяет ИИ строить сложные ассоциации, например, соединять даты поездки с городами и мероприятиями.
Тестирование на базе набора данных LOCOMO показало, что Mem0 сокращает задержку на 91% и экономит более 90% токенов по сравнению с методами, загружающими полный контекст. При этом качество ответов не ухудшается. Mem0g демонстрирует аналогичную эффективность, но лучше справляется с задачами, требующими временных или логических связей. Обе архитектуры превзошли шесть категорий систем, включая решения с открытым исходным кодом и ChatGPT.
Для корпоративных приложений это означает более надёжных ИИ-агентов в службах поддержки, медицинских сервисах или планировании. Mem0 подойдёт для простых сценариев, а Mem0g — для комплексных задач вроде анализа многомесячных диалогов. Разработчики подчёркивают, что их подход не требует увеличения вычислительных ресурсов, что делает его экономически выгодным для бизнеса.
Подпишитесь на новости в телеграм: https://t.me/itnewsros