Искусственный интеллект, используемый в дезинформации, станет угрозой
Опубликовано: 23.10.2023
Не только ближайшие месяцы, но и весь 2024 год будет насыщен выборами во многих демократических странах. Возможность обнаружить сегодня попытки России, Китая или Ирана вмешиваться в избирательный процесс в различных странах может помочь подготовиться к таким угрозам, предупреждает американский криптограф Брюс Шнайер.
По его словам, во всем мире избирательный процесс все чаще подвергается риску вмешательства со стороны иностранных игроков, которые теперь будут использовать для этой цели искусственный интеллект (ИИ). Брюс Шнайер,американский криптограф, эксперт по ИТ-безопасности и преподаватель Гарвардской школы Кеннеди. Свои наблюдения он изложил в статье под названием «Дезинформация ИИ представляет угрозу выборам — умение выявлять вмешательство России, Китая и Ирана в дела других стран может помочь США подготовиться к 2024 году». Текст опубликован на сайте. Разговор 29 сентября 2023 г. Ниже мы публикуем его обширный перевод:
Когда в 2016 году россияне начали серию дезинформационных кампаний в социальных сетях, направленных на вмешательство в президентские выборы в США, это стало началом новой эры для правительств, стремящихся повлиять на избирательные процессы в других странах. В течение семи лет многие из них – в первую очередь Китай и Иран – использовали социальные сети для влияния на выборы за рубежом: как в США, так и в других частях мира. Поэтому нет оснований ожидать, что в 2023 и 2024 годах ситуация будет иной.
Однако появился новый фактор: генеративный искусственный интеллект (генеративный ИИ) и модели большого языка (LLM). Они позволяют быстро и легко создавать бесконечные объемы текста на любую тему, в любом тоне и с любого ракурса. Как специалист по безопасности, я считаю, что этот инструмент идеально подходит для пропаганды эпохи Интернета.
Мы имеем дело с чем-то совершенно новым. ChatGPT был представлен в ноябре 2022 года. Более мощный GPT-4 прибыл в марте 2023 года. Примерно в тот же период появились и другие искусственные интеллекты для создания текста и изображений. Пока неизвестно, как эти технологии изменят дезинформацию, насколько они эффективны и какой эффект окажут. Но мы скоро узнаем.
Предвыборный марафон 2024 года в мире
Скоро начнется избирательный сезон в полном разгаре в большинстве демократических стран. К концу 2024 года 71 процент люди, живущие в демократических странах, будут голосовать на национальных выборах. Среди них — Аргентина и (выборы состоялись 15 октября — ред.), выборы на Тайване пройдут в январе 2024 года, в Индонезии — в феврале, в Индии — в апреле. Выборы в Европе и Мексике запланированы на июнь 2024 года. США выберут нового президента в ноябре 2024 года.
Девять африканских демократий, включая Южную Африку, также проведут выборы в следующем году. Австралия и Великобритания пока не определили даты, но выборы там, вероятно, состоятся в 2024 году. Стоит добавить, что только у нас в течение девяти месяцев пройдут следующие парламентские выборы ( 15 октября 2023 г.), выборы в местные органы власти (запланированы на весна 2024 г. ) и выборы в Европейский парламент (с 6 по 9 июня 2024 г.).
Многие из этих решений также важны для внешних стран, которые в прошлом уже проводили операции по оказанию влияния в социальных сетях. И поэтому Китай особенно заинтересован в этом. Тайвань,Индонезия,Индия и много африканские страны. Россия заинтересована в Великобритании, , Германии и ЕС в целом. Однако все внимательно присматриваются к Соединенным Штатам.
Мы говорим здесь только о крупнейших игроках. Потому что на каждых национальных выборах в США, начиная с 2016 года, появлялась другая страна, пытающаяся повлиять на их результат. Сначала это была только Россия, затем Россия и Китай, а недавно к ним присоединился Иран. Поскольку оказывать влияние на зарубежные страны стало дешевле, в подобные действия может быть вовлечено все больше и больше стран. Такие инструменты, как ChatGPT, значительно сокращают затраты на производство и распространение пропаганды, позволяя использовать эту возможность в бюджете многих других стран.
Вмешательство в выборы
Несколько месяцев назад я присутствовал на конференции с участием представителей всех агентств кибербезопасности США. Они обсудили ожидания относительно вмешательства в выборы 2024 года. Они ожидали появления традиционных игроков – России, Китая и Ирана – и существенного нового: «внутренних игроков». Это прямой результат снижения затрат на дезинформацию.
Конечно, проведение кампании по дезинформации — это больше, чем просто создание контента. Самое сложное — это распространение. Пропагандисту нужно несколько фейковых аккаунтов для публикации, а также другие аккаунты, чтобы увеличить охват этого контента до широкой публики, где он может стать вирусным. Такие компании, как Meta, теперь гораздо лучше выявляют такие учетные записи и более эффективно их удаляют. В августе 2023 года Мета она сообщила что он удалил 7704 учетных записи Facebook, 954 страницы Facebook, 15 групп Facebook и 15 учетных записей Instagram, связанных с китайской кампанией влияния. Кроме того, она выявила сотни других учетных записей на TikTok, платформе X (ранее Twitter) и на двух блог-сайтах — LiveJournal и Blogspot. Однако эта кампания началась четыре года назад, то есть это была дезинформация до того, как искусственный интеллект стал широко доступен.
Дезинформация — это гонка вооружений. И нападающие, и защитники становятся лучше, но мир социальных сетей тоже меняется. Четыре года назад Twitter был прямым каналом связи со СМИ, а пропаганда на этой платформе была способом изменить политическую ситуацию. Исследование Columbia Journalism Review показало, что большинство крупных новостных агентств использовал русские твиты как источник предвзятых мнений. Твиттера, который читал практически каждый новостной издатель и все, кто там писал, больше не существует.
Многие пропагандистские каналы перешли с Facebook на приложения для обмена сообщениями, такие как Telegram и WhatsApp, что затрудняет их выявление и удаление. TikTok — это новая платформа, контролируемая Китаем, которая больше подходит для коротких провокационных видеороликов, которые гораздо проще создавать благодаря искусственному интеллекту. Сегодня доступен генеративный искусственный интеллект. подключен к инструментам,что также облегчит распространение контента. Инструменты генеративного искусственного интеллекта также позволяют использовать новые методы производства и распространения, например, широкомасштабное распространение некачественной пропаганды. Однако если их повторить тысячами или миллионами, они окажут гораздо большее воздействие.
Давайте представим себе личный аккаунт, созданный в социальной сети и управляемый искусственным интеллектом. Публикации о фейковой повседневной жизни, присоединение к группам по интересам и комментарии к чужим публикациям; в целом ведет себя как обычный пользователь. Время от времени, не очень часто, он пишет или распространяет что-то политическое. Эти персональные боты,как их называет ученый-компьютерщик Латанья Суини, сами по себе оказывают незначительное влияние. Но если их будут воспроизводить тысячи или миллионы, они будут иметь гораздо большее влияние.
Дезинформация о стероидах искусственного интеллекта
Это всего лишь один сценарий. Военные чиновники в России, Китае и других странах, ответственные за вмешательство в выборы, вероятно, уже поручают своим руководителям разработать другие сценарии. И их тактика, вероятно, будет гораздо более изощренной, чем в 2016 году.
Противодействие новым кампаниям по дезинформации требует способности распознавать их, что, в свою очередь, требует их поиска и каталогизации уже сейчас. В мире ИТ-безопасности исследователи понимают, что обмен методами атак и их эффективностью — единственный способ построить мощные системы защиты. Этот подход хорошо работает для информационных кампаний: чем больше исследователи анализируют методы, используемые в других странах, тем лучше они смогут защитить свои собственные.
Кампании по дезинформации в эпоху искусственного интеллекта, вероятно, будут более изощренными, чем в 2016 году. Я считаю, что Соединенные Штаты должны приложить усилия для выявления и выявления пропаганды, созданной ИИ, за пределами своих границ - например, в Тайване,где кандидат в президенты утверждает, что его оклеветали с помощью фальшивой аудиозаписи. Если они этого не сделают, они не увидят угрозу, когда она достигнет их. К сожалению, есть исследователи дезинформации. под атакой и преследовали.
В подкасте журналистской организации 404 Media обсуждалось, как Тайвань использовал ИИ в ролике, призванном опорочить кандидата в президенты. 404 Медиа
Примеры США показывают, как эти инструменты уже используются как внутренними, так и внешними силами. В апрель этого года Сразу после того, как Джо Байден объявил, что будет баллотироваться на переизбрание в 2024 году, Национальный комитет Республиканской партии (СРН) опубликовал видео, созданное полностью с использованием искусственного интеллекта. Он изображал антиутопическую версию будущего, если Байден снова станет президентом США в 2024 году.
В июне кандидат в президенты от республиканской партии Рон ДеСантис в своей предвыборной кампании воспользовался Созданные искусственным интеллектом фотографии бывшего президента Дональда Трампа, обнимающего Энтони Фаучи, бывшего медицинского советника Белого дома. В начале сентября этого года аналитики Microsoft они предупредили против действий китайских агентов, которые использовали изображения, созданные искусственным интеллектом, для имитации американских избирателей в Интернете. Таким образом они пытались распространить дезинформацию и спровоцировать дискуссию о политических проблемах, которые разделяют общество по мере приближения выборов в США.
На сгенерированном искусственным интеллектом изображении в рекламе Национального комитета Республиканской партии изображены президент Байден и вице-президент Харрис, празднующие свою победу на выборах 2024 года. видео РНК
Возможно, все закончится хорошо. В эпоху генеративного ИИ было проведено несколько важных демократических выборов без серьезных угроз дезинформации: первичные выборы в Аргентине, первый тур выборов в Эквадоре и национальные выборы в Таиланде, Турции, Испании и Греции. Но чем раньше мы узнаем, чего ожидать, тем лучше мы сможем справиться с тем, что будет дальше.
Конкрет24, Разговор
Шаттерсток