Команда Міністерства цифрової трансформації разом із Лабораторією цифрової безпеки та Експертним комітетом із питань розвитку ШІ при Мінцифрі розробила рекомендації для журналістів із використання штучного інтелекту. Експерти пояснили, як працювати із системами ШІ, на що звернути увагу під час вибору інструменту та як оцінити контент, згенерований мережею.

До формування рекомендацій також долучилася Нацрада з питань телебачення та радіомовлення, Міністерство культури та інформаційної політики, Центр демократії та верховенства права й представники профільних державних органів і громадських організацій. 

Як застосовувати рекомендації?

Рекомендації можуть застосовуватися до будь-яких систем ШІ для:

• створення контенту за допомогою ШІ;
• аналізу великих масивів даних;
• адміністрування/автоматизації робочих процесів (пошук експертів, добір джерел, формування типових договорів тощо);
• управління контентом (пошук і перевірка контенту, переклад, транскрибування, модерування коментарів, пріоритизація чи персоналізація контенту). 

Основні принципи використання ШІ

Використовувати ШІ потрібно з урахуванням цінностей, які передбачає Кодекс етики українського журналіста, як-от точність, неупередженість, незалежність тощо.

 Зокрема, рекомендують:

• отримати необхідні права для використання систем ШІ та публікації робіт, які він генерує:
• проводити оцінювання ризиків і контролювати результати роботи ШІ;
• розкривати інформацію про використання систем ШІ та чітко розмежовувати  автентичний та згенерований контент;
• забезпечити захист персональних даних;
• постійно покращувати принципи відповідального використання ШІ та інше.

Як впровадити системи ШІ в організації? 

Медіа, які замовляють або розробляють системи ШІ самостійно, рекомендують:

• дотримуватися законодавства про захист персональних даних;
• пересвідчитися, що система є недискримінаційною й не спричиняє негативних наслідків для вразливих і маргіналізованих груп;
• отримувати всі необхідні юридичні права та згоди перед публікацією згенерованого контенту;
• повідомляти користувачів про застосування систем ШІ;
• призупиняти застосування системи, якщо є недоліки в алгоритмах, та вчасно виправляти їх;
• дати можливість аудиторії писати скарги, якщо вона підозрює, що система ШІ порушує їхні права.

Крім цього, медіа, які використовують готові системи ШІ (які можна знайти у вільному доступі), рекомендують:

• переконатися, що система ШІ відповідає стандартам у сфері захисту прав людини й безпеки даних;
• утримуватися від використання російських систем ШІ;
• використовувати системи виключно на законних підставах із дотриманням прав інтелектуальної власності третіх осіб.

Також редакціям рекомендують заохочувати персонал навчатися використовувати системи ШІ за допомогою програм, курсів і воркшопів.

Прозорість та зрозумілість

Медіа рекомендують розкривати інформацію про те, коли та в який спосіб вони використовують системи ШІ. Також необхідно пояснювати порядок функціонування системи та розкривати її потенційні ризики.

Також медіа рекомендують розробляти та оприлюднювати власні політики, стратегії, стандарти, керівні принципи чи інші документи, що окреслюють засади використання систем ШІ у їхній роботі. Зокрема, свої правила роботи з ШІ опублікували видання Wired, Reuters, Associated Press та інші

Усередині редакції рекомендують робити доступною інформацію про те, які системи ШІ там застосовують.

Розмежування автентичного та згенерованого ШІ контенту 

Будь-яке використання систем ШІ рекомендують чітко маркувати. Щоб уникнути випадкового використання чужого згенерованого ШІ контенту, журналістам рекомендують проявляти обачність, ретельність і скептицизм.

Також потрібно пам’ятати, що в Україні контент, який генерує ШІ, є об’єктом права інтелектуальної власності (ст. 33 Закону України «Про авторське право і суміжні права»). Якщо матеріали містять згенерований контент, журналістам рекомендують:

• визначати джерело оригінального контенту (перевіряти схожий зміст у перевірених джерелах або використовувати для цього інші ШІ-програми (Sentinel, FakeCatcher, WeVerify, Microsoft’s Video Authenticator Tool);
• оцінювати, чи доречно використати ШІ й чи не введе це аудиторію в оману;
• маркувати такий контент;
• дотримуватися вимог щодо захисту прав інтелектуальної власності, якщо використовується контент, який згенерували треті особи.

Контент, який не позначили як такий, який згенерував штучний інтелект, рекомендують розглядати як такий, що може ввести в оману. Якщо журналісти чи інші фахівці в редакції мають будь-які сумніви щодо автентичності матеріалу, його не рекомендують використовувати. 

Якщо медіа генерує контент для ілюстрування матеріалів у сфері культури, моделювання ситуацій, унаочнення прикладів та теорій, рекомендують:

• перевіряти, чи такий контент достовірно відображає дійсність, покликається на надійні джерела та оперує актуальною інформацією;
• утримуватися від використання чи розповсюдження новинного та новинно-аналітичного контенту, який створив ШІ, що імітує знімання реального світу чи реальних осіб;
• утримуватися від використання генеративного ШІ для додавання або вилучення будь-яких елементів автентичних фотографій, відео- та аудіоматеріалів. Але за винятком випадків, коли потрібно забезпечити права людини та інше.

Читайте більше: Зробимо новини під вас. Як Channel 1 замінює ведучих новин за допомогою ШІ

Маркування згенерованого контенту

Є низка способів, як медіа можуть прозоро поінформувати аудиторію про використання ШІ. Наприклад, використовувати напис «Матеріал згенеровано з використанням штучного інтелекту» або додавати водяні знаки.

Крім цього, рекомендують використовувати бічну інформаційну панель на онлайн-платформах, де можна розмістити дані про те, які системи ШІ використовують, ціль та способи такого використання й технічну документацію. 

Контроль — усе ще на людях

Щоб уникнути некоректних або упереджених результатів використання систем ШІ, рекомендують залишати контроль за людиною. Для цього важливо чітко визначати редакційні командні цілі та сфери застосування систем ШІ.

Фаховий контроль є критичним для завдань, де результати є особливо чутливими (наприклад, ті, що мають конкретні наслідки для особи) або суспільно вагомими (наприклад, зачіпають інтереси національної безпеки та оборони).

Персоналізація медіаконтенту та захист персональних даних

Розробляючи та використовуючи системи ШІ для персоналізації та пріоритизації контенту, потрібно керуватися журналістською етикою. Зокрема, не можна використовувати згенерований контент для поширення прихованої передвиборчої агітації, а також потенційно шкідливого, небезпечного або чутливого контенту неповнолітній аудиторії.

Використовувати такі системи ШІ рекомендують прозоро: аудиторії потрібно регулярно нагадувати про те, що такий контент є персоналізованим.

Також рекомендують забезпечити користувачам можливість вимкнути персоналізацію контенту, щоб забезпечити нефільтрований доступ.

Докладніше про всі рекомендації Мінцифри можна дізнатися тут.

Також подібні рекомендації приймають на міжнародному рівні. Зокрема, «Репортери без кордонів» і 16 партнерських організацій оприлюднили Паризьку хартію щодо використання штучного інтелекту в журналістиці.