Google DeepMind предупреждает: к 2030 году ИИ станет как человек, и в этом есть большие риски
Google DeepMind, ведущая компания в области исследований искусственного интеллекта, опубликовала статью с прогнозом, который может изменить наше представление о будущем. Согласно исследованию, к 2030 году может появиться искусственный интеллект уровня человека, так называемый общий ИИ (AGI). Это система, способная выполнять любые умственные задачи на уровне квалифицированного взрослого, включая решение сложных проблем и обучение новому.
Однако, несмотря на впечатляющие перспективы, авторы статьи, включая сооснователя DeepMind Шейна Легга (Shane Legg), предупреждают о значительных рисках. Они утверждают, что такой ИИ может стать угрозой для человечества, вплоть до его уничтожения, если не будут приняты надлежащие меры безопасности.
_large.jpg)
DeepMind подчеркивает, что AGI может научиться улучшать сам себя, создавая более умные версии без участия человека. Это вызывает серьезные опасения, так как такой процесс может выйти из-под контроля. Чтобы предотвратить потенциальные угрозы, компания предлагает три ключевых шага:
- Ограничить доступ к ИИ для злоумышленников.
- Сделать решения ИИ понятными и прозрачными.
- Создать безопасные условия для его работы.
Хотя технологии защиты еще находятся в стадии разработки, DeepMind настаивает на необходимости принятия мер уже сейчас, чтобы избежать рисков в будущем.
Эксперты, однако, настроены скептически. Некоторые считают идею AGI слишком размытой и абстрактной. Другие указывают на проблему «галлюцинаций» ИИ — когда система создает недостоверные данные, обучается на них и распространяет дезинформацию. Эти аспекты подчеркивают необходимость тщательного контроля и мониторинга в процессе разработки и внедрения ИИ.
Таким образом, прогнозы Google DeepMind открывают перед нами как возможности, так и вызовы. Важно помнить, что будущее ИИ зависит от наших сегодняшних действий и решений.
Подпишитесь на новости в телеграм: https://t.me/itnewsros