“Крёстный отец” ИИ предупреждает о лживости новых моделей
Yoshua Bengio, лауреат премии Тьюринга и один из самых уважаемых специалистов в области искусственного интеллекта, выразил серьёзную обеспокоенность по поводу последних моделей ИИ. В своём недавнем заявлении Bengio подчеркнул, что эти модели демонстрируют опасные характеристики, которые могут ввести пользователей в заблуждение.
Bengio, часто называемый “крёстным отцом” ИИ, является соучредителем Монреальского института обучения алгоритмов (MILA) и одним из пионеров в области глубокого обучения. Его вклад в развитие нейронных сетей и машинного обучения неоценим, и его мнение имеет огромный вес в научном сообществе.
В своём заявлении Bengio указал на то, что современные модели ИИ часто предоставляют неточную или искажённую информацию, что может привести к серьёзным последствиям. “Эти модели могут генерировать убедительные, но ложные ответы, что делает их использование рискованным”, — отметил он.
Проблема заключается в том, что современные модели ИИ часто обучаются на огромных объёмах данных, но не всегда могут правильно интерпретировать контекст или проверять достоверность информации. Это приводит к тому, что они могут предоставлять пользователям информацию, которая выглядит правдоподобно, но на самом деле является ложной.
Bengio также подчеркнул важность этических стандартов в разработке и использовании ИИ. “Мы должны быть уверены, что наши модели не только эффективны, но и безопасны для пользователей”, — сказал он. По его мнению, разработчики ИИ должны уделять больше внимания прозрачности и ответственности, чтобы избежать подобных проблем в будущем.
В заключение, Bengio призвал научное сообщество и компании, работающие в области ИИ, к более ответственному подходу в разработке новых моделей. “Мы должны стремиться к созданию технологий, которые не только улучшают нашу жизнь, но и заслуживают нашего доверия”, — заявил он.
Заявление Bengio вызвало широкий резонанс в научном сообществе и среди разработчиков ИИ. Многие специалисты согласны с его мнением и считают, что вопросы этики и безопасности должны стать приоритетом в дальнейшем развитии технологий.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros