Ведучі новин, згенеровані штучним інтелектом, поширюють у соцмережах дезінформацію від уряду Китаю. Зокрема вони коментують новини, спрямовані проти США й Тайваню. Хоча ШІ-аватарів легко відрізнити від реальних людей, частина авдиторії довіряє фейковим відео. Про це повідомляє The Guardian.
Як Китай експериментує з ШІ-контентом?
Китай уже експериментував зі створеними штучним інтелектом ведучими новин. 2018 року державне інформаційне агентство Xinhua представило Цю Хао — ведучого цифрових новин, який пообіцяв надавати новини «24 години на добу, 365 днів на рік». Попри те, що китайці з ентузіазмом ставляться до використання цифрових аватарів у медіа, Цю Хао не вдалося «завоювати авдиторію».
2023 року облікові записи прокитайських ботів у Facebook і X розповсюдили створені штучним інтелектом фейкові відео ведучих новин, які представляють фіктивну телекомпанію Wolf News. В одному ролику уряд США звинуватили в тому, що він не впорався з насильством із застосуванням зброї, а інший підкреслив роль Китаю на міжнародному саміті.
У звіті, опублікованому у квітні 2024 року, компанія Microsoft заявила, що підтримувані державою китайські кібергрупи націлилися на вибори в Тайвані за допомогою дезінформаційного контенту, створеного ШІ, включно з використанням фейкових ведучих новин. Наприклад, в одному ролику ШІ-ведучий зробив необґрунтовані заяви про приватне життя тайванського політика Лая Цінде, стверджуючи, що він народив дітей поза шлюбом.
У лютому Microsoft відстежила хакерські групи, пов’язані з російською військовою розвідкою, Революційною гвардією Ірану та урядами Китаю й Північної Кореї, коли вони намагалися вдосконалити свої хакерські кампанії, використовуючи мовні моделі (LLM).
Як створюють ШІ-ведучих?
У Microsoft заявили, що ведучих новин створили за допомогою інструменту для редагування відео CapCut, розробленого китайською компанією ByteDance, якій належить TikTok. Як зазначає The Guardian, застосунок для редагування відео CapCut пропонує формат ведучого новин як шаблон, тому його легко адаптувати та створювати у великих обсягах.
Клінт Воттс, генеральний менеджер центру аналізу загроз Microsoft, вказує на офіційне використання Китаєм ШІ-ведучих новин на внутрішньому медіаринку, що також дало країні змогу відточити формат і перетворити його в інструмент для дезінформації.
Є відео, в яких аватари діють як щось середнє між професійним телеведучим і інфлюенсером, які говорять прямо на камеру. В одному відео, створеному китайською державною групою під назвою Storm 1376, ШІ-ведуча стверджує, що США й Індія таємно продають зброю військовим М’янми.
Попри реалістичний вигляд ведучого, відео відрізняється жорстким голосом, який явно згенерований комп’ютером. Інші приклади, виявлені моніторинговою організацією NewsGuard пов’язані зі спамовим TikTok-акаунтом, який використовує ШІ-аватарки, для коментування новин США. В одному з відео показаний аватар зі згенерованим комп’ютером голосом, який обговорює ціни Walmart під гаслом: «Чи бреше вам Walmart про вагу свого м’яса?».
Або ж ШІ-ведучий передав повідомлення китайською мовою, що «президентка Тайваню Цай Інвень йде у відставку, а період її перебування на посаді супроводжувався економічним спадом, соціальними проблемами й протестами».
Навіщо це Китаю?
NewsGuard відзначили, що відео з аватарами є частиною прокитайської мережі, яка «розширюється» перед президентськими виборами в США. З 2023 року відомо про таких 167 акаунтів, створених Китаєм.
І хоча китайські керівні принципи вимагають мінімізації дезінформації в контенті, створеному штучним інтелектом, пріоритетом для китайських регуляторів є «контроль інформаційних потоків і забезпечення того, щоб вироблений контент не був політично чутливим і не спричиняв дезорганізації суспільства». Водночас у китайського уряду власна інтерпретація дезінформації, коли фейкові новини стосуються тайванського фронту.
2023 року Пекін опублікував рекомендації щодо маркування контенту, заявивши, що зображення або відео, створені за допомогою ШІ, необхідно чітко позначати водяними знаками. Втім доцент Університету Джорджа Вашингтона Джеффрі Дінг сказав, що вимоги щодо маркування ШІ-відео — відкрите питання.
Експерти поки що не вважають, що ШІ-ведучі новин є ефективними дублерами. Наприклад, партія Цай, яка виступає за суверенітет, перемогла на виборах у Тайвані, попри всі зусилля аватарів. Макріна Ванг, заступник редактора з перевірки новин в NewsGuard, сказала, що контент аватарів збільшується в обсязі. За її словами, для досвідченого ока ці відео очевидно фейкові, оскільки ШІ-аватарів видавали скуті рухи й відсутність мінливого світла або тіней на фігурі аватара. Проте коментарі під цими відео в TikTok свідчать про те, що деякі люди їм довіряють. Авдиторія тяжіє до фейкових новин із підробленими логотипами медіа.
У листопаді 2022 року Міжнародна правозахисна організація Freedom House дослідила рівень глобального проникнення китайської пропаганди у звіті «Вплив Пекіну на світові медіа». Серед головних висновків — пропаганда комуністичної партії Китаю (КПК) нарощує вплив далеко за межами країни й на набагато глибших рівнях, ніж вважалося.
Хто ще генерує ШІ-аватарів?
Хакери, підтримувані іранською державою, перервали трансляцію телевізійних каналів в Об’єднаних Арабських Еміратах, щоб транслювати ШІ-диктора, який робив репортаж про війну в Газі. The Washington Post повідомила, що терористичне угруповання «Ісламська держава» використовує згенерованих штучним інтелектом ведучих новин для трансляції пропаганди.
Також The Guardian згадав про першу ШІ-речницю Міністерства закордонних справ України Вікторію Ші. Представниця МЗС із консульських питань Вікторія Ші створена на основі реальної людини — української співачки Розалі Номбре. Команда проєкту відзняла й оцифрувала її.
З червня 2023 року радіостанція Live 95.5 в Портленді транслює клоновану версію голосу ведучої Ешлі Ельзінги. Для цього використовуватимуть інструмент RadioGPT від Futuri Media. Він працює на базі штучного інтелекту GPT-4. З його допомогою генеруватимуть сценарій на основі трендових новин, який читає синтетичний голос.
Іспанська спортивна програма Carrusel Deportivo, яка транслюється на провідній радіостанції країни Cadena SER, у серпні 2023 року представила ШІ-голос «Вікторія». На платформі Amazon вона дає змогу вболівальникам стежити за своїми командами 24/7 через Alexa — голосового асистента. Викликавши «Вікторію» на Alexa, футбольний вболівальник може легко отримати доступ до будь-якої прямої трансляції гри команди.
З січня 2024 року щотижня Channel 1 випускає 30-хвилинні епізоди, які ведуть аватари. Уже на перших кількох секундах своїх випусків новин Channel 1 попереджає глядачів, що аватари на екрані — команда репортерів, яких створив штучний інтелект.
А в березні 2024 року полтавське видання Kolo.news за допомогою штучного інтелекту згенерувало ведучу. ШІ-ведуча Наталка Полтавка начитує українською мовою без іноземного акценту 30-секундні новинні ролики.
Водночас зафіксовані випадки, коли штучний інтелект використовують для створення дипфейків. У Facebook у листопаді 2023 року опублікували згенероване штучним інтелектом фейкове відео із журналісткою російської служби «Голосу Америки» Ксенією Турковою, яка нібито рекламує платформу Quantum AI. У Венесуелі взагалі комп’ютерні аватари Дарен і Ной розповідають пропаганду в новинах на державному телеканалі.
