Meta создает команду для борьбы с политическими фейками, созданными ИИ

Компания Meta объявила о создании команды для борьбы с обманчивым контентом, создаваемым с помощью искусственного интеллекта, на предстоящих выборах в Европейском Союзе в июне. Об этом сообщает BBC.

Это решение было принято на фоне растущей обеспокоенности использования генеративного ИИ для обмана избирателей. Компания также планирует запустить "Центр избирательных операций для ЕС", который будет выявлять потенциальные угрозы и принимать меры по их устранению в режиме реального времени. Однако отраслевые эксперты склонны сомневаться, насколько эффективной может быть стратегия генеративного ИИ, в частности, по работе с изображениями, созданными ИИ.

Meta сотрудничает с 26 организациями по проверке фактов по всему ЕС и заявляет, что привлечет к сотрудничеству еще трех партнеров из Болгарии, Франции и Словакии. Роль этих организаций будет состоять в развенчивании контента, распространяющего дезинформацию, включая элементы, созданные ИИ. Фирма также планирует обозначать такой контент предупреждающими знаками, уменьшать его видимость и запретить его в рекламе, которая может подвергать сомнению легитимность голосования, методы и процессы выборов или преждевременно заявлять о победе.

Эксперты указывают на проблему работы с изображениями, созданными ИИ, особенно при показе реалистических изображений столкновений протестующих с полицией. Установка того, что изображение является фейком, может являться сложной задачей для технологии и даже для экспертов.

Meta отмечает, что борьба с обманчивым контентом, созданным ИИ, требует совместных усилий от компаний, правительств и гражданского общества.