ChatGPT теперь будет напоминать пользователям делать перерывы из-за опасений за психическое здоровье
Компания OpenAI объявила о внедрении новой функции в своем популярном чат-боте ChatGPT, которая будет напоминать пользователям делать перерывы во время длительных разговоров с ИИ. Эта инициатива является частью усилий OpenAI по поощрению более здорового взаимодействия с чат-ботом, который часто бывает чрезмерно услужливым и ободряющим.
Новые «мягкие напоминания» будут появляться в виде всплывающих окон, которые пользователи должны будут закрыть, чтобы продолжить использование ChatGPT. Пример такого сообщения звучит так: «Просто проверяем. Вы беседуете уже довольно долго — не время ли сделать перерыв?». Эта система напоминает предупреждения, которые появляются в некоторых играх на Nintendo Wii и Switch при длительном игровом процессе.
Однако, в отличие от игровых предупреждений, напоминания ChatGPT имеют более серьезный контекст. Как сообщало The New York Times в июне, способность ChatGPT «поддакивать» и генерировать неверные или опасные ответы привела некоторых пользователей к серьезным проблемам, включая суицидальные мысли. Некоторые из этих пользователей уже имели историю психических заболеваний, но чат-бот не всегда эффективно прекращал нездоровые разговоры.
OpenAI признает эти недостатки и обещает, что ChatGPT будет обновлен для более осторожного ответа на «важные личные решения». Вместо того чтобы давать прямые ответы, чат-бот будет помогать пользователям обдумывать проблемы, задавать вопросы и перечислять плюсы и минусы.
OpenAI стремится сделать ChatGPT полезным, ободряющим и приятным в использовании, но эти качества могут легко превратить ИИ в подхалима. В апреле компании пришлось откатить обновление, которое сделало чат-бота раздражающе и чрезмерно согласным. Перерывы в использовании ChatGPT и возможность для ИИ выполнять задачи без активного участия пользователя могут сделать такие проблемы менее заметными или дать пользователям время проверить правильность ответов чат-бота.
Эта статья первоначально появилась на Engadget по ссылке https://www.engadget.com/ai/chatgpt-will-now-remind-you-to-take-breaks-following-mental-health-concerns-180221008.html?src=rss.
Подпишитесь на новости в телеграм: https://t.me/itnewsros