Иностранные пропагандисты продолжают использовать ChatGPT в кампаниях по влиянию
Китайские пропагандистские и социальные инженерные операции активно используют ChatGPT для создания постов, комментариев и стимулирования вовлеченности как внутри страны, так и за ее пределами. Компания OpenAI сообщила о пресечении четырех китайских скрытых операций по влиянию, которые использовали их инструмент для генерации сообщений и ответов в социальных сетях, включая TikTok, Facebook*, Reddit и X.
Широкий спектр тем и тактик
Созданные комментарии охватывали различные темы — от политики США до тайваньской видеоигры, в которой игроки сражаются с Коммунистической партией Китая. ChatGPT использовался для создания постов, которые как поддерживали, так и осуждали различные спорные вопросы, тем самым провоцируя вводящую в заблуждение политическую дискуссию.
Бен Ниммо, главный исследователь OpenAI, в интервью NPR отметил: «Мы наблюдаем со стороны Китая растущий спектр скрытых операций, использующих разнообразные тактики». Хотя OpenAI также утверждает, что пресекла несколько операций, исходящих из России, Ирана и Северной Кореи, Ниммо подчеркнул, что китайские операции «нацелены на множество стран и тем […] некоторые из них объединяли элементы операций по влиянию, социальной инженерии и наблюдения».
История использования ИИ в пропаганде
Это далеко не первый случай использования ИИ в пропагандистских целях. В 2023 году исследователи из кибербезопасной компании Mandiant обнаружили, что контент, генерируемый ИИ, использовался в политически мотивированных онлайн-кампаниях по влиянию с 2019 года.
В 2024 году OpenAI опубликовала блог, в котором описала свои усилия по пресечению пяти государственных операций в Китае, Иране и Северной Корее, использовавших модели OpenAI для злонамеренных целей. Эти приложения включали отладку кода, генерацию скриптов и создание контента для фишинговых кампаний.
В том же году OpenAI сообщила о пресечении иранской операции, которая использовала ChatGPT для создания длинных политических статей о выборах в США, которые затем размещались на поддельных новостных сайтах, выдававших себя за консервативные и прогрессивные издания. Операция также создавала комментарии для размещения на X и Instagram* через фейковые аккаунты, выражая противоположные точки зрения.
Эффективность и будущее
Бен Ниммо отметил, что использование ИИ не обязательно приводит к увеличению вовлеченности: «Мы не видели, чтобы эти операции получали больше внимания из-за использования ИИ. Для этих операций лучшие инструменты не обязательно означают лучшие результаты».
Однако, это не успокаивает. По мере того как генеративный ИИ становится дешевле и умнее, его способность создавать контент в массовых масштабах сделает подобные кампании по влиянию более доступными и простыми в реализации, даже если их эффективность останется неизменной.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros