Новые указания AISI: Искусственный интеллект без “безопасности”, “ответственности” и “справедливости”?

Научные сотрудники американского Национального института стандартов и технологий (NIST) получили новые указания от правительства США относительно их работы с Исследовательским институтом безопасности искусственного интеллекта (AISI). В этих новых инструкциях исчезают упоминания о “безопасности ИИ”, “ответственном ИИ” и “справедливости ИИ”. Вместо этого акцент делается на сокращении идеологического предвзятого подхода, чтобы способствовать экономической конкурентоспособности США.

Это изменение происходит в контексте обновленного соглашения о совместной работе между AISI и его членами. Ранее это соглашение стимулировало исследователей заниматься техническими разработками, которые могли бы помочь выявить и устранить предвзятость моделей ИИ по отношению к полу, расе, возрасту или экономическому положению. Такие виды предвзятости чрезвычайно важны, так как они могут непосредственно влиять на конечных пользователей и неоправданно вредить меньшинствам и социально уязвимым группам.

Новое соглашение также исключает упоминание о разработке инструментов для аутентификации контента и отслеживания его происхождения, а также маркирования синтетического содержания. Это указывает на меньший интерес к борьбе с дезинформацией и фальшивыми видео.

Эти изменения вызывают беспокойство среди исследователей, которые считают, что игнорирование таких проблем может привести к тому, что алгоритмы будут допускать дискриминацию по доходам или другим демографическим признакам. “Если вы не являетесь телекомпанией миллиардера, это приведет к худшему будущему для вас и тех, кого вам дорого,” утверждает один из исследователей.

Это также вызывает вопросы о том, что значит “цветение человечества”, как отмечает другой исследователь. Некоторые эксперты связывают эти изменения с усилиями Трампа и Маска по сокращению государственных расходов и бюрократии.

Несмотря на это, остается неизвестным, будет ли новое соглашение влиять на работу большинства исследователей. Некоторые эксперты считают эти изменения предсказуемыми в свете текущих политических приоритетов администрации Трампа.

Несмотря на это, остается неизвестным, будет ли новое соглашение влиять на работу большинства исследователей. Некоторые эксперты считают эти изменения предсказуемыми в свете текущих политических приоритетов администрации Трампа.

В заключение можно сказать, что новые указания для научных сотрудников от AISI представляют собой значительное изменение в подходе к исследованию искусственного интеллекта. Это может повлиять как на направленность исследований, так и на их практическое применение. Важно понимать последствия таких изменений для общественности и продолжать следить за развитием ситуации.