Сотрудники FDA утверждают, что генеративный ИИ Elsa «галлюцинирует» целые исследования
Сотрудники Управления по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) выразили обеспокоенность по поводу нового инструмента на базе генеративного искусственного интеллекта, известного как Elsa. В интервью CNN текущие и бывшие сотрудники агентства сообщили о серьезных проблемах с Elsa, который был представлен федеральным агентством месяц назад. Три сотрудника заявили, что Elsa «галлюцинирует» несуществующие исследования или искажает реальные научные данные.
«Все, что вы не успеваете проверить, является ненадежным,» — сообщил один из источников. «Он галлюцинирует уверенно.» Это явно не идеально для инструмента, который должен ускорить процесс клинического обзора и помочь принимать эффективные и обоснованные решения на благо пациентов.
Руководство FDA, однако, не проявило особой обеспокоенности по поводу потенциальных проблем с Elsa. «Я не слышал об этих конкретных опасениях,» — заявил комиссар FDA Марти Макари в интервью CNN. Он также подчеркнул, что использование Elsa и участие в тренинге по его использованию в настоящее время являются добровольными.
Расследование CNN, выявившее эти недостатки в искусственном интеллекте FDA, появилось в тот же день, когда Белый дом представил «План действий по ИИ». Программа описывала развитие ИИ как технологическую гонку, в которой США должны победить любой ценой. План включает устранение «бюрократических преград и излишнего регулирования» в этой сфере и требует, чтобы ИИ был свободен от «идеологических предвзятостей». В переводе на простой язык, это означает следование только предвзятостям текущей администрации, удаляя упоминания о изменении климата, дезинформации и усилиях по диверсификации, равенству и инклюзивности.
Учитывая, что каждый из этих трех вопросов имеет документально подтвержденное влияние на общественное здоровье, способность инструментов, таких как Elsa, приносить реальную пользу как FDA, так и пациентам в США вызывает все больше сомнений.
Эта статья первоначально появилась на Engadget по адресу https://www.engadget.com/ai/fda-employees-say-the-agencys-elsa-generative-ai-hallucinates-entire-studies-203547157.html?src=rss.
* Компания Meta (Facebook* и Instagram*) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros