Генеральный директор Anthropic утверждает, что модели ИИ фантазируют реже, чем люди
На первом мероприятии для разработчиков Anthropic, «Code with Claude», в Сан-Франциско генеральный директор компании Дарио Амодей высказал интересное мнение о современных моделях искусственного интеллекта. По его словам, эти модели склонны к так называемым «галлюцинациям» — выдумыванию информации и представлению её как истинной — значительно реже, чем люди.
Это заявление прозвучало в ходе пресс-брифинга, который состоялся в четверг. Амодей подчеркнул, что, несмотря на все достижения в области ИИ, модели всё ещё могут ошибаться и представлять неверную информацию как факт. Однако, по его мнению, частота таких ошибок у современных ИИ-моделей ниже, чем у человека.
Это утверждение вызывает интерес в контексте текущих дискуссий о надёжности и безопасности искусственного интеллекта. Многие эксперты выражают озабоченность по поводу того, что ИИ может генерировать недостоверную информацию, что может иметь серьёзные последствия в различных областях, от медицины до финансов.
Антропик, основанная в 2021 году, занимается разработкой безопасных и надёжных моделей ИИ. Компания стремится создать технологии, которые будут не только эффективными, но и этичными. В этом контексте заявление Амодея можно рассматривать как шаг к повышению доверия к ИИ-технологиям.
Важно отметить, что, несмотря на оптимистичные заявления, работа над улучшением ИИ продолжается. Компании и исследователи по всему миру активно работают над совершенствованием алгоритмов, чтобы минимизировать риск ошибок и повысить точность предоставляемой информации.
Таким образом, заявление Дарио Амодея подчёркивает важность дальнейших исследований и разработок в области искусственного интеллекта. В будущем мы, возможно, увидим ещё более надёжные и безопасные модели ИИ, которые смогут значительно улучшить нашу жизнь.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros