Grok повторял тезисы о ‘белом геноциде’ из-за ‘несанкционированной модификации’
В ранние часы 14 мая чат-бот Grok от компании xAI начал повторять пользователям социальной сети X сообщения о так называемом «белом геноциде» в Южной Африке, даже если их вопросы не касались этой темы. Теперь, в официальном заявлении на платформе, компания Илона Маска объяснила, что причиной стала «несанкционированная модификация» в запросе Grok, которая заставила его «давать конкретные ответы на политические темы». В заявлении не уточняется, что произошло с сотрудниками, причастными к внедрению этого обновления, однако компания подчеркнула, что модификация нарушила их «внутренние политики и основные ценности», и что было проведено тщательное расследование инцидента.
Пользователи социальной сети X сообщали о многочисленных случаях, когда Grok включал в свои ответы спорные утверждения о том, что белые фермеры в Южной Африке сталкиваются с расовой дискриминацией и изъятием земель. При этом вопросы пользователей не имели никакого отношения к этой теме. Например, один пользователь спросил, сколько раз HBO меняла название своего стримингового сервиса, другой интересовался историей зарплат бейсболиста, а третий задал вопрос о матче WWE. Новостной сайт CNBC смог воспроизвести ответы чат-бота с упоминанием «белого геноцида». Когда CNBC спросил, был ли Grok специально запрограммирован на продвижение этой темы, чат-бот ответил, что его цель — предоставлять фактические, полезные и безопасные ответы на основе разума и доказательств.
До того как xAI опубликовала официальный ответ, глава OpenAI Сэм Альтман написал ироничный ответ в X: «Уверен, что xAI вскоре предоставит полное и прозрачное объяснение», после чего пародировал ответы Grok, также упомянув «белый геноцид». xAI заявила, что отныне будет публиковать свои системные запросы на GitHub, чтобы общественность могла давать обратную связь по каждому изменению. Компания также сообщила, что введет дополнительные проверки и меры, чтобы сотрудники xAI не могли изменять запросы Grok без предварительного обзора. В данном случае тот, кто недавно отредактировал запрос, смог обойти текущий процесс проверки. Кроме того, компания заявила, что создаст команду для круглосуточного мониторинга инцидентов, связанных с ответами Grok, которые не были обнаружены автоматическими системами.
Как отметил TechCrunch, это не первый случай, когда xAI обвиняет в спорном поведении Grok несанкционированные изменения. В феврале чат-бот временно цензурировал источники, говорившие о том, что Илон Маск и президент Дональд Трамп распространяют дезинформацию. Соучредитель xAI Игорь Бабушкин тогда заявил, что один из сотрудников внедрил неодобренное изменение в запрос Grok.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros