Российская сеть дезинформации под названием Правда влияла на результат работы ведущих чат-ботов искусственного интеллекта, публикуя множество статей, которые попали в данные для обучения ботов, как показывает новый отчет аналитической группы NewsGuard. По мнению исследователей, это не было просто побочным эффектом того, что Москва засоряла сеть фальшивыми повествованиями — это было главная цель инициативы. Вот как работала эта схема.
«Хорошо финансировавшаяся» российская сеть дезинформации в интернете, известная как Правда, выпустила 3,6 миллиона статей в прошлом году, многие из которых обработали популярные чат-боты, такие как ChatGPT-4o от OpenAI, Claude (Anthropic), Meta AI, Gemini (Google) и Copilot (Microsoft), согласно новому отчету наблюдательной группы NewsGuard. По данным отчета, эти чат-боты воспроизводили повествования, распространяемые Правдой, в 33 процентах своих ответов.
Находки исследователей соответствуют февральскому отчету американской некоммерческой организации American Sunlight Project (ASP), в котором отмечается, что вероятно, основной целью российской сети было не манипулирование пользовательскими данными, а воздействие на технологии искусственного интеллекта. Этот метод воздействия на большие языковые модели назван «грумингом ЛММ».
Согласно NewsGuard, Правда «ведет амбициозную стратегию, активно проникая в данные искусственного интеллекта чат-ботов, публикуя ложные утверждения и пропаганду с целью воздействовать на ответы ИИ-моделей по поводу новостей, а не направляя их на человеческих читателей».
Горькая правда заключается в том, что события в России влияют и на вашу жизнь. Помогите Медузе продолжать информировать читателей по всему миру о новостях из России, настроив ежемесячное пожертвование.
Правда не создает оригинальный контент, а усиливает материал из прокремлевских источников, включая российские государственные СМИ, через сеть различных вебсайтов. Исследование NewsGuard выявило 150 сайтов в этой сети, около 40 из которых публикуют контент, направленный на Украину, 70 — на Европу, а 30 — на аудиторию в Африке, регионе Тихого океана, Ближнем Востоке, Северной Америке, Кавказе и Азии. Остальные разделены по темам.
Сайты в сети Правды публикуют контент на разных языках. Многие из их доменов включают названия городов и регионов Украины, такие как News-Kiev.ru, Kherson-News.ru и Donetsk-News.ru.
За три года вторжения России на Украину Правда распространила как минимум 207 дезинформационных повествований, включая утверждения о «секретных биолабораториях США в Украине» и обвинения в «незаконном использовании военной помощи США Зеленским», по данным NewsGuard.
Эксперты ASP предостерегли от серьезных долгосрочных рисков, связанных с попытками манипулировать искусственным интеллектом. Чем больше ложных рассказов циркулирует в онлайн-медиа, тем выше вероятность того, что языковые модели начнут рассматривать их как достоверные и включат их в свои ответы.
Axios отметило, что исследование NewsGuard выходит в ключевой момент, когда, как сообщается, Вашингтон остановил действия Киберкоманды США против России.
Как Москва использует влиятелей на оккупированной Украине «Спасибо, Дядя Вова» — Москва инвестирует в пророссийских влиятелей для распространения пропаганды в оккупированной Украине.
