Дочірня компанія Google Jigsaw випустила інструмент для боротьби з екстремістським контентом, що поширюють онлайн-платформи. Altitude допомагає модераторам перевіряти, чи контент на їхніх платформах був позначений як екстремістський у сторонніх базах даних, замість того, щоб перевіряти кожне джерело окремо. Про це пише TechCrunch.
Як розробляли інструмент?
Jigsaw зосередилася на розробленні нових продуктів, які розв’язують проблеми дезінформації, цензури, поширення токсичного й екстремістського контенту в інтернеті. У листопаді 2023 року компанія анонсувала новий інструмент модерації онлайн-контенту під назвою Altitude. Він розроблений у партнерстві з Tech Against Terrorism — ініціативою Контртерористичного комітету ООН (CTED), що протидіє поширенню шкідливого контенту в інтернеті.
Також у розробленні інструменту брала участь організація Global Internet Forum to Counter Terrorism (GIFCT), членами якої є більшість великих технологічних компаній.
Через дев’ять місяців Jigsaw офіційно передає Altitude організації Tech Against Terrorism, яка продовжить його розвиток і підтримку. Код також доступний на GitHub під ліцензією Apache 2.0. Це означає, що компанії можуть самостійно розміщувати інструмент, а треті сторони можуть перевіряти код.
Як працює Altitude?
Altitude спирається на джерела даних, надані організацією GIFCT, що забезпечує роботу автоматизованих інструментів модерації контенту, а також на платформу аналізу терористичного контенту Tech Against Terrorism — базу даних перевіреного системою терористичного контенту, що оновлюється в реальному часі. Надійні джерела виявляють і позначають цей тип контенту за допомогою власних методів.
За допомогою цих баз даних Altitude консолідує терористичний і насильницький екстремістський контент в єдине ціле, а модератори можуть швидко переглядати, перевіряти й видаляти його. Жоден контент не видаляється автоматично — йдеться лише про позначення та сповіщення про потенційний екстремістський контент, щоб модератори могли його оцінити.
Як пише TechCrunch, Jigsaw та Tech Against Terrorism не розкрили жодної платформи, яку використовувала Altitude під час тестування, однак серед них, найімовірніше, є месенджери, сервіси скорочення URL-адрес, відеохостинги, онлайн-форуми, соцмережі й пастбіни (вебсервіси, які дають змогу завантажувати уривки тексту для можливості перегляду іншими, — ред.)
Це проєкт із відкритим вихідним кодом, тому будь-яка компанія може інтегрувати Altitude у свої платформи, або ж співпрацювати з Tech Against Terrorism, щоб отримати доступ до індивідуальної підтримки.
Jigsaw і Tech Against Terrorism у майбутньому планують додати «спеціалізовані бази даних» до джерел даних і розширити інструмент на інші крім англійської мови.
