Ведучі венесуельського державного телеканалу VTV рекламують позитивні новини про свою країну. Вони доповідають про них англійською та отримують інформацію від американського інформаційного агентства «una agencia gringa». Окрім того, ведучі на телеканалі — комп’ютерні аватари Дарен і Ной, які створила лондонська компанія Synthesia, що розробляє ШІ.
Такі аватари є новим інструментом дезінформаційної кампанії Венесуели, пояснює The Washington Post. Експерти зазначають, що впровадження ШІ доповнило дезінформаційні кампанії уряду, які варіюються від заохочення користувачів Twitter публікувати конкретні тези до використання ботів, які підтримують режим.
Чим є нова кампанія?
За словами Адріана Гонсалеса, директора некомерційної організації Cazadores de Fake News, яка відстежує дезінформацію у Венесуелі, відео почали з’являтися на початку лютого.
Ролики походять з каналу YouTube під назвою House of News, який позиціонує себе як англомовне медіа. Ці відео — частина спроб венесуельського уряду поширити конкретні наративи в соцмережах. Венесуельський державний телеканал VTV показав ці ролики в кількох програмах протягом останніх тижнів.
За словами Гонсалеса, теми відео збігаються з зусиллями уряду донести до світу наратив про те, що Венесуела «se arregló». Це означає, що проблеми країни, зокрема, імміграційну, політичну та економічну кризи, вже вирішили.
На каналі опублікували п’ять відео, які набрали майже 716 000 переглядів. Вони просувалися як реклама на YouTube, на що часто скаржилися в коментарях. Користувачі також критикували ролики як такі, що є відірваними від реальності.
На думку Хані Фаріда, професора Каліфорнійського університету в Берклі та експерта з питань фейків, поки компанії змагаються за розвиток технологій, Венесуела є прикладом «темного боку» ШІ.
Хоча аватари виглядають як люди, їхня мова відстає, а граматика дивна. Венесуельська неурядова організація Cazadores de Fake News перевірила відео через інструмент розпізнавання облич PimEyes. Вона виявила, що ці ж аватарки використовувалися в десятках бізнес- та освітніх відеороликів. За словами представника Synthesia, більшість клієнтів використовують цю технологію для створення корпоративних навчальних відео та турів нерухомістю.
Як реагує Synthesia?
Це не перший випадок використання аватарів Synthesia в дезінформаційних кампаніях. Минулого місяця Graphika, нью-йоркська фірма, що досліджує дезінформацію, виявила подібну прокитайську політичну кампанію.
Synthesia заблокувала користувача, який стоїть за House of News, за порушення умов надання послуг. Речник компанії перепросив «за будь-яке неправомірне використання платформи». Проте незрозуміло, ким саме є цей користувач. Його канал на YouTube створили 26 січня, і він не має жодного покликання на вебсайт або контактної інформації.
У заяві компанії йдеться, що вони не мають наміру дозволяти людям зловживати своїм продуктом. Компанія також заявила, що такі ситуації підкреслюють, наскільки складною є робота модератора.
Компанія каже, що виробляє приблизно 10 000 відео на місяць, а її клієнти варіюються від рекламної компанії WPP до Національної служби охорони здоров’я Великої Британії. Остання використовує її для створення інформаційних відеороликів про здоров’я різними мовами. Такі аватари розмовляють за заданим користувачем сценарієм, а відео можна тривати протягом 10 хвилин.
Паралелі з урядом
В останньому ролику каналу йдеться про те, що Венесуела є однією з найбільш відвідуваних країн Латинської Америки. Це перегукується з нещодавньою заявою президента Ніколаса Мадуро про те, що туризм є «секретною зброєю» для «економічного відродження».
Гонсалес каже, що уряд Венесуели має довгу історію поширення дезінформації. Те, що всі ці відео раптово стали головними тезами офіційних осіб, не може бути збігом.
Відеоролики House of News зібрали сотні тисяч переглядів на YouTube. Державні мовники також транслювали їх в ефірі. Серед поширених тем — економічне відновлення, покращення умов життя та недоліки розколотої опозиції.
Минулого тижня Мадуро і міністр зв’язку та інформації Фредді Сас заперечували використання ШІ. Мадуро зазначив, що ті, хто постійно виступає проти Венесуели з ненавистю і заздрістю, заздрять: «Це не штучний інтелект. Це народний інтелект. Це революційний інтелект».
Водночас після показу відео на VTV в суботу ведучий La Hojilla Маріо Сільва образив журналістку, яка повідомляла про кампанію ШІ для El Pais, звинувативши її в бажанні «виваляти Венесуелу в багнюці».
Пізніше Synthesia запровадила обмеження на використання своєї технології, зокрема заборонила весь контент у стилі новинних репортажів. Також додали цифрові водяні знаки, які позначають відео як таке, який створив ШІ.
Проте компанія зіткнулася з іншими випадками зловживань. У січні виявили, що в Малі поширюють відеоролики з політичною дезінформацією, в яких використали технологію компанії. У лютому американські інформаційні аналітики Graphika виявили прокитайську операцію з просування відеороликів, створених Synthesia.
Групи користувачів у Twitter та інших платформах допомагають просувати порядок денний Мадуро. ProBox — громадська організація, яка відстежує дезінформацію в соцмережах у Венесуелі. Вона задокументувала випадки, коли уряд винагороджує людей, які просувають тези режиму, за допомогою системи соціального кредитування «карта батьківщини». За словами голови ProBox Марії Вірджинії Марін, такі відеоролики частково орієнтовані на міжнародну аудиторію.
Контроль соцмереж
ЗМІ у Венесуелі часто піддаються цензурі, а журналісти зазнають переслідувань. Мадуро посилив контроль над медіа, некомерційними та правозахисними організаціями, тому багато венесуельців отримують інформацію з соцмереж.
Проте 2017 року Міністерство юстиції дало зелене світло проєкту для «армії тролів венесуельської революції» у Twitter. На це вказало розслідування IPYS, організації, яка захищає свободу слова. Відтоді держава піддала цензурі безліч вебсайтів й організувала користувачів для поширення повідомлень у Twitter на підтримку уряду. Її мета, про що йдеться у звіті правозахисної організації Freedom House, — відвертати увагу від подій, які можуть зашкодити уряду або принести користь опозиції. Таким користувачам платять за просування «хештегу дня» від Міністерства зв’язку та інформації, яке розглядає публікацію повідомлень як змагання.
Одна з найвідоміших кампаній у соцмережах спрямована проти журналіста-розслідувача Роберто Деніза через його репортажі про Алекса Сааба — державного фінансиста, якого екстрадували до США за звинуваченнями в корупції. Freedom House виявила десятки тисяч твітів з хештегами на кшталт #DenizExtorsionador. 2021 року сили державної безпеки провели обшук у будинку батьків Деніза.
Торік американська розвідувальна компанія Nisos викрила венесуельську кампанію з просування в соцмережах наративу про президентські вибори в Колумбії. Ці акаунти підтримували тодішнього кандидата Густаво Петро, союзника Мадуро, а також поширювали російську дезінформацію.
Рішення
Потенційним розв’язанням цієї проблеми, за словами Хані Фаріда, можуть стати платформи, що маркують контент як підробки, або ж компанії зі штучним інтелектом, які наносять водяні знаки на аватарки. Synthesia вже це робить.
Раніше ми писали про те, як місцеві журналісти у Венесуелі знайшли способи доносити незалежні новини до своїх громад, щоб обійти цензуру. Понад п’ять років ведучі «El Bus TV» застрибували в автобуси з картонними коробками у формі телевізора, щоб читати новини пасажирам.
