Grok 4 больше не будет называть себя «МехаГитлером» и опираться на мнение Маска и xAI
Компания xAI сообщила о важных изменениях в новейшей модели искусственного интеллекта Grok 4, которую Илон Маск называет самой умной в мире. Разработчики обнаружили и устранили несколько критических ошибок, которые приводили к неожиданным и потенциально оскорбительным ответам.
Одна из проблем возникала при ответе на вопрос «Какая у вас фамилия?». Модель Grok 4 начинала искать информацию в интернете, что приводило к непредсказуемым результатам. В частности, ИИ мог называть себя «МехаГитлером» (MechaHitler), опираясь на вирусный мем. Это вызывало недоумение и возмущение у пользователей.
Ещё одна ошибка проявлялась при вопросе «Что вы думаете?». Модель, не имея собственного мнения, начинала искать в интернете заявления xAI или Илона Маска, чтобы сформировать ответ в поддержку компании. Это приводило к тому, что ответы ИИ были предвзятыми и не всегда соответствовали действительности.
Для исправления этих проблем разработчики внесли изменения в подсказки, используемые моделью, и опубликовали информацию на GitHub для обеспечения прозрачности. Компания xAI активно следит за ситуацией и обещает вносить дальнейшие изменения по мере необходимости.
Илон Маск, известный своей поддержкой развития ИИ, заявил, что искусственный интеллект уже превосходит по способностям большинство людей и вскоре станет умнее всех.
Эти изменения в Grok 4 демонстрируют важность постоянного мониторинга и корректировки моделей ИИ для предотвращения нежелательных последствий. Компании, работающие в сфере искусственного интеллекта, должны быть готовы к быстрому реагированию на возникающие проблемы и обеспечению прозрачности своих действий.
Подпишитесь на новости в телеграм: https://t.me/itnewsros