‘You Can’t Lick a Badger Twice’: Ошибки Google подчеркивают фундаментальный недостаток ИИ
В последние годы искусственный интеллект (ИИ) стал неотъемлемой частью нашей повседневной жизни, внедряясь в самые разные сферы — от медицины до развлечений. Однако, несмотря на все достижения, ИИ все еще сталкивается с рядом проблем, которые подчеркивают его фундаментальные недостатки. Один из таких примеров недавно продемонстрировал Google.
Гигант технологий представил новую функцию под названием AI Overviews, которая должна была предоставлять пользователям достоверные объяснения различных идиом и выражений. Однако, как оказалось, ИИ Google не всегда справляется с этой задачей. В частности, система начала генерировать правдоподобные объяснения для совершенно вымышленных идиом.
Одним из таких примеров стала фраза ‘You Can’t Lick a Badger Twice’ (в переводе с английского — ‘Нельзя облизывать барсука дважды’). Google предоставил для этой вымышленной идиомы вполне правдоподобное объяснение, что вызвало немало удивления и смеха среди пользователей. Этот случай подчеркивает, что даже самые передовые системы ИИ могут ошибаться и генерировать недостоверную информацию.
Проблема заключается в том, что ИИ, подобный тому, который используется в AI Overviews, обучается на больших объемах данных, но не всегда может распознать контекст или проверить достоверность информации. В результате, система может генерировать правдоподобные, но неверные ответы, что может ввести пользователей в заблуждение.
Этот случай с Google не единственный в своем роде. В прошлом году другая крупная компания, занимающаяся разработкой ИИ, столкнулась с подобной проблемой, когда их система начала генерировать оскорбительные и некорректные ответы на вопросы пользователей. Это привело к тому, что компания была вынуждена временно приостановить работу своей платформы для устранения недочетов.
Такие случаи подчеркивают важность разработки более совершенных алгоритмов, способных не только генерировать ответы, но и проверять их достоверность. В будущем, возможно, мы увидим ИИ, который сможет не только обучаться на данных, но и критически оценивать их, что позволит избежать подобных ошибок.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros