Редакція The Washington Post 9 липня запустила на своєму сайті чатбот Climate Answers. ШІ-бот на основі статей видання відповіді на запити користувачів про клімат. Деталі його роботи розповідає Axios.
Хто працював над розробленням Climate Answers?
The Post співпрацювала з кількома фірмами, що займаються штучним інтелектом, зокрема OpenAI та Llama від Meta, і створила власну багатомовну модель, яка надає відповіді на кліматичні питання на основі статей, присвячених клімату.
Climate Answers розроблений продуктовою та інженерною командами The Post спільно з редакційним відділом, що висвітлює кліматичну тематику. Над ботом працювали протягом останніх шести місяців.
Станом на липень інструмент створений лише для відповідей на запити користувачів про клімат. У майбутньому видання планує розширити сферу застосування на інші теми.
Тестування ШІ-бота включало внутрішню «червону команду»: частина розробників не брала участі у створенні Climate Answers, але проводила аудит і намагалася обійти різні запобіжники. За словами Хосли, кліматичний відділ також бере участь у проєкті з самого початку.
«Вони є експертами, це їхні оригінальні матеріали. Якщо є проблема з моделлю, ми з вами не зможемо вловити її так добре, як це зроблять вони. Таке постійне доопрацювання призвело до змін у стилі й стислості відповідей, а також до усунення фактичних неточностей. Чат-бот був навіть розповсюджений серед усіх співробітників, щоб вони могли брати участь і надавати зворотний зв’язок», — пояснює Хосла.
Як працює чатбот?
Якщо Climate Answers не знаходить відповідь на запит користувачів серед опублікованих матеріалів The Washington Post, він просто відмовиться відповідати. Адже його завдання в тому, щоб підкріплювати всі відповіді саме публікаціями видання.
Користувачі можуть повідомити про неправдиві відповіді на питання за допомогою форми зворотного зв’язку.
Редакція планує, що чатбот зі штучним інтелектом зможе підвищити залученість молодшої авдиторії до контенту.
Як показав себе чат-бот після запуску?
Технічний директор The Washington Post Вінет Хосла обговорив з Nieman Lab функціонування Climate Answers. На думку Хосла, чат-бот не створений, щоби надавати останні новини видання про погодні явища й екологічні катастрофи, а він синтезує публікацій редакції на більш «вічні» теми: «Що станеться, якщо циркуляція Атлантичного океану зупиниться?» або «Що мені сказати людям, які не вірять у зміну клімату?». Утім чат-бот запрограмований на оновлення мінімум раз на день, що дає йому змогу бути в курсі новин.
Стиль відповідей Climate Answers — це насамперед мова фактів. Матеріали про кліматичні проблеми наповнені цифрами, жаргоном і науковими поясненнями, які часто вбудовані в довші статті. Тому Climate Answers аналізує десятки тисяч слів репортажів, синтезує цю інформацію й визначає важливі факти.
Водночас треба враховувати, що тема наповнена суперечливими політичними заявами чи пропагандою. Наприклад, такі теми, як ядерна енергетика й уловлювання вуглецю, все ще залишаються суперечливими в науці. Також непокоїть посилення дезінформації. Якщо The Washington Post повідомляє про кліматичну дезінформацію — навіть для того, щоб її розвінчати, Хосла каже, що не може гарантувати, що ШІ не буде її цитувати. Проте вони намагалися запрограмувати чат-бот так, щоб він не цитував спростовані журналістами фейки та осіб, які їх розповсюджували.
Climate Answers побудований на основі GPT, базової моделі OpenAI. Але Хосла не надає великого значення успіху OpenAI, називаючи базову велику мовну модель (LLM) відносно взаємозамінною. Станом на липень 2024 року команда експериментує з «живленням» Climate Answers за допомогою альтернативних LLM, зокрема Llama від Meta та Mistral.
На думку технічного директора, Climate Answers виділяється насамперед своєю новою моделлю цитування. Поки ChatGPT нездатний видавати базові URL-адреси статей, на які покликається, а Perplexity вже звинуватили в плагіаті, Climate Answers не просто покликається на статті, але й додає повні заголовки й зображення попереднього перегляду статей.
Попри те, що мета чат-бота — відповісти на конкретне запитання й перенаправити користувача на оригінальну публікацію, якщо при скануванні кліматичних матеріалів Climate Answers не знайде потрібну статтю, то покаже повідомлення: «Вибачте, але ми не змогли згенерувати відповідь на ваше запитання. Цей продукт все ще перебуває в експериментальній фазі».
Чат-бот вже отримав певну негативну реакцію, частково через ці обмеження. Невдовзі після запуску деякі користувачі помітили, що Climate Answers відмовляється відповідати на запитання про енергоспоживання генеративного ШІ та його вплив на зміну клімату.
Команда The Washington Post стежить за аналітикою Climate Answers щодо трафіку переходів на статті. Але, на думку Хосли, збільшення трафіку не є найкращим показником успіху.
«Трафік — це сигнал, але є кілька способів, як продукт може бути успішним, чи не так? Наприклад, якщо він може залучати людей на довший проміжок часу. Це може допомогти їм виправдати вартість підписки. Це має призвести до зростання, до більшої залученості, до формування звичок, але насправді це стосується наших клієнтів і надання їм більшої цінності за їхні гроші», — пояснює технічний директор.
Це лише перша спроба видання створити генеративного чат-бота зі штучним інтелектом. Хосла каже, що на черзі більше тематичних продуктів — можливо, про технології чи політику, злочини, спортивні результати чи зміни в погоді.
