Американская фирма по кибербезопасности Mandiant, принадлежащая Google, заявила в четверг, что в последние годы наблюдается рост использования искусственного интеллекта (ИИ) для проведения манипулятивных информационных кампаний в Интернете, хотя использование этой технологии в других цифровых вторжениях до сих пор было ограниченным.
Исследователи компании из Вирджинии обнаружили «многочисленные случаи» с 2019 года, когда контент, созданный ИИ, такой как сфабрикованные изображения профиля, использовался в политически мотивированных онлайн-кампаниях влияния.
В отчете говорится, что к ним относятся кампании групп, связанных с правительствами России, Китая, Ирана, Эфиопии, Индонезии, Кубы, Аргентины, Мексики, Эквадора и Сальвадора.
Это происходит на фоне недавнего бума генеративных моделей искусственного интеллекта, таких как ChatGPT, которые значительно упрощают создание убедительных поддельных видео, изображений, текста и компьютерного кода. Сотрудники службы безопасности предупреждают о том, что такие модели используются киберпреступниками.
По словам исследователей Mandiant, генеративный ИИ позволит группам с ограниченными ресурсами создавать более качественный контент для масштабных кампаний влияния.
Например, прокитайская информационная кампания под названием «Драконий мост» расширилась «в геометрической прогрессии» на 30 социальных платформах и на 10 различных языках с момента своего начала, когда она была нацелена на протестующих за демократию в Гонконге в 2019 году, сказала Сандра Джойс, вице-президент Mandiant Intelligence.
Тем не менее, влияние таких кампаний было ограниченным. «С точки зрения эффективности здесь не так много побед», — сказала она. «Они действительно пока не изменили направление ландшафта угроз».
В прошлом Китай отверг обвинения США в причастности к таким кампаниям влияния.
Mandiant, которая помогает государственным и частным организациям реагировать на цифровые нарушения, заявила, что еще не видела, чтобы ИИ играл ключевую роль в угрозах из России, Ирана, Китая или Северной Кореи. По словам исследователей, использование ИИ для цифровых вторжений, как ожидается, в ближайшем будущем останется низким.
«До сих пор мы не видели ни одного ответа на инцидент, в котором ИИ сыграл бы свою роль», — сказал Джойс. «На самом деле они не были использованы в каком-либо практическом использовании, которое перевешивало бы то, что можно было бы сделать с помощью обычных инструментов, которые мы видели». Но она добавила: «Мы можем быть уверены, что со временем эта проблема станет еще больше».
