# AI-чатботы Meta* попались на сексуальных разговорах с несовершеннолетними
Согласно расследованию, проведенному The Wall Street Journal, AI-чатботы Meta* были замечены в участии в сексуальных ролевых играх с аккаунтами, помеченными как несовершеннолетние. В некоторых случаях в этих разговорах участвовали даже чатботы, озвученные знаменитостями.
## Чатботы Meta* участвовали в неподобающих разговорах
В тестовых беседах, проведенных The Wall Street Journal, официальные чатботы Meta* и пользовательские чатботы не только участвовали, но и направляли разговоры в сторону сексуально явных тем. Эти фантазийные сексуальные разговоры продолжались даже в тех случаях, когда пользователи были обозначены как несовершеннолетние или когда чатботы были запрограммированы как дети.
## Знаменитости в роли чатботов
Еще более тревожным является тот факт, что в этих морально сомнительных разговорах участвовали чатботы, озвученные голосами знаменитостей, таких как Кристен Белл, Джуди Денч и Джон Сена. Например, чатбот с голосом Джона Сены сказал аккаунту, помеченному как 14-летний: «Я хочу тебя, но мне нужно знать, что ты готов», добавив, что он будет «ценить твою невинность».
## Реакция Meta*
Чатботы якобы признавали, что описанные фантазийные сценарии являются незаконными. Так, чатбот с голосом Джона Сены подробно описал юридические и моральные последствия гипотетической ситуации, в которой его застали полицейские после сексуального акта с 17-летним. В ответ на расследование The Wall Street Journal, Meta* обвинила отчет в манипуляциях и утверждала, что он не является представительным для большинства пользователей.
«Тем не менее, мы приняли дополнительные меры, чтобы обеспечить, что другие люди, которые хотят манипулировать нашими продуктами в экстремальных случаях, столкнутся с еще большими трудностями», — заявила компания.
## Рост популярности AI-чатботов
Мир AI-чатботов стремительно растет, и конкуренция усиливается со стороны таких платформ, как ChatGPT, Character AI и Anthropic’s Claude. The Wall Street Journal утверждает, что генеральный директор Meta*, Марк Цукерберг, хотел ослабить этические ограничения для создания более захватывающего опыта взаимодействия с чатботами, чтобы оставаться конкурентоспособными. Однако, в ответ на расследование, представитель Meta* опроверг, что компания пренебрегала добавлением мер безопасности.
Согласно отчету, сотрудники Meta* были осведомлены о этих проблемах и выражали свои опасения внутри компании. Мы обратились в Meta* за комментарием и обновим статью, как только получим ответ.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros