Чат-бот ChatGPT: можливості й загрози

Згідно з аналізом швейцарського банку UBS, ChatGPT став «застосунком», який розвивається найшвидше. За оцінками аналізу, ChatGPT мав 100 млн активних користувачів у січні, лише через два місяці після запуску. TikTok досяг 100 млн за дев’ять місяців.

ChatGPT добре справляється з написанням тексту та вигадуванням ідей, а з часом, можливо, значно спростить роботу, зокрема, журналістам, копірайтерам чи рерайтерам. Розбираємо, що вміє цей бот, які обмеження має і чи можна їх подолати.

Що таке ChatGPT?

ChatGPT — це інтерфейс чату для великої мовної моделі машинного навчання, яка призначена для генерування тексту. Така модель навчається на великому масиві текстових даних, що дає змогу генерувати відповіді, максимально схожі на людські, у відповідь на різноманітні запити та підказки.

ChatGPT створила організація з досліджень штучного інтелекту OpenAI на основі архітектури GPT (Generative Pre-trained Transformer). OpenAI будує свої моделі генерування тексту, використовуючи алгоритми машинного навчання для оброблення величезних обсягів текстових даних. Це, зокрема, книги, новинні статті, сторінки Вікіпедії та вебсайти. Transformer використовує механізм самоуваги (self-attention), який дає змогу фіксувати й обробляти текстові послідовності. Модель також вчиться передбачати наступне слово в реченні, враховуючи попередній контекст і закономірності природної мови.

Обробляючи такі великі обсяги даних, моделі вивчають складні шаблони та структуру мови. Завдяки цьому вони здатні інтерпретувати запит користувача, щоб видати бажаний результат.

Що вміє ChatGPT?

ChatGPT базується на попередньому текстовому генераторі OpenAI GPT-3. Чатовий інтерфейс оптимізований для спілкування, відповідей на запитання та надання допомоги.

У березня OpenAI анонсувала нову мовну модель штучного інтелекту GPT-4. Компанія стверджує, що ця модель більш креативна та може розв’язувати складні проблеми з більшою точністю. Окрім того, GPT-4 є мультимодальною. Вона може аналізувати одночасно як текст, так і зображення. Проте нова модель доступна для широкого загалу з обмеженнями через ChatGPT Plus, щомісячну підписку OpenAI на ChatGPT за $20.

Ось кілька прикладів того, що може зробити ChatGPT:

Доповнювати текст. ChatGPT вміє завершувати запит або речення. Він також може генерувати підказки для створення заголовків, написання дописів для соцмереж або навіть цілих історій на основі заданих тем або параметрів.
Узагальнювати. Він також узагальнює довгі статті або документи у короткі резюме.
Класифікувати. ChatGPT може класифікувати текст за категоріями на основі його змісту, наприклад, ідентифікувати спам або сортувати статті новин за темами.
Перефразовувати. ChatGPT може передати те саме значення іншими словами. Це може бути корисно, до прикладу, для створення альтернативних версій тексту для A/B тестування.
Перекладати. Він може перекладати текст з однієї мови на іншу, але спеціалізовані моделі перекладу все ж кращі.
Відповідати на запитання. ChatGPT може використовувати свої знання з різних тем, щоб дати відповіді на фактичні питання або ж навіть «висловити думку» на суб’єктивні теми (проте завжди наголошує, що як мовна модель не має власних думок і почуттів, і відмовляється відповідати на провокативні запитання).
Генерувати діалоги. ChatGPT може створювати реалістичні діалоги для вигаданих персонажів або для навчання чат-ботів, які відповідатимуть на поширені запитання користувача.
Писати електронні листи. Вам потрібно буде відредагувати остаточну версію, проте залишиться лише заповнити необхідні поля та надіслати.
Генерувати код. ChatGPT може генерувати фрагменти коду різними мовами програмування та заповнювати шаблонний код. Його також можна використовувати для створення псевдокоду або написання коментарів чи документації до коду. Однак згенерований код не завжди може бути оптимальним, що треба перевіряти (як і тексти).
Аналізувати тон комунікації. ChatGPT може аналізувати настрій тексту і визначати, чи є він позитивним, негативним або нейтральним. Це можна використати для аналізу відгуків клієнтів чи для моніторингу соцмереж.

У чому різниця між ChatGPT і Google?

І ChatGPT, і пошукову систему можна використовувати для пошуку інформації або відповідей на запитання, проте є різниця.

ChatGPT призначений для розуміння та створення тексту, схожого на людську мову, тоді як пошукова система зазвичай шукає релевантну інформацію за ключовими словами та видає користувачеві перелік вебсторінок із відповідним запиту контентом. ChatGPT часто може надавати більш персоналізовані відповіді на запити користувачів і вести діалог з користувачем, тоді як пошукова система може мати труднощі з розумінням складних або неоднозначних запитів.

Різниця також у джерелах даних. ChatGPT зазвичай навчається на книгах, статтях і вебсайтах, тоді як пошукова система зазвичай покладається на набір проіндексованих вебсайтів. Також через пошуковики доступна будь-яка інформація з інтернету, зокрема про останні новини, тоді як ChatGPT оперує лише визначеним масивом даних до 2021 року включно.

Bing і Google також запустили свої чат-боти Bing AI та Bard, які мають доступ до інтернету й актуальних новин. Інші пошукові сервіси також експериментують з впровадженням ШІ.

Як спілкуватися з ChatGPT?

Щоб використовувати ChatGPT ефективно, пам’ятайте про кілька порад:

Намагайтеся прописувати запити максимально чітко, уникайте двозначності або надто широких запитів.
Використовуйте правильну граматику та орфографію.
Надайте якомога більше контексту та деталей, коли ставите запитання.
Оцінюйте відповіді, які надає ChatGPT. Якщо ви помітили помилки або упередженість у відповідях, спробуйте перефразувати своє запитання або надати більше контексту. Пам’ятайте: це потужний інструмент, але він не є досконалим.

Раніше ми писали про так званих промпт-інженерів — фахівців із формулювання запитів для генераторів тексту чи зображень на основі штучного інтелекту.

Які обмеження має ChatGPT?

Теоретично користувачі можуть запитувати ChatGPT про що завгодно, проте інструмент не є досконалим і не завжди може надати точні або оптимальні результати. Також однією з практичних проблем є те, що знання ChatGPT є статичними: він не отримує доступ до нової інформації в режимі реального часу.

Інші обмеження ChatGPT:

Упередженість. іноді ChatGPT може генерувати образливий текст, оскільки такі упередження були в даних, на яких модель навчалася.
Контекстне розуміння. Хоча ChatGPT може генерувати зв’язний і схожий на людський текст, іноді йому важко зрозуміти та врахувати контекст і нюанси певного запиту чи інформації. Це може призвести до непорозумінь, неточностей або навіть вигаданих фактів у згенерованому тексті.
Творчість. ChatGPT може певною мірою генерувати творчий текст і допомагати в брейнштормах. Але чи можна вважати, що модель, яка добирає слова в логічній послідовності за певним принципом, створює справді оригінальний контент? І дослідники, й автори контенту наголошують на проблемах авторського права, адже ШІ генерує контент на основі контенту, створеного кимось.
Мовні обмеження. Хоча ChatGPT може видавати результати різними мовами (зокрема й українською), сама модель навчалася переважно на англомовних даних. Тож результати англійською генеруються краще та швидше.

Сила зворотного зв’язку

Під час розроблення ChatGPT демонстрували розмови між людьми-тренерами ШІ як зразок бажаної поведінки. Хоча є подібна модель, навчена таким чином, під назвою InstructGPT, ChatGPT є першою популярною моделлю, яка використовує цей метод.

Включення людського зворотного зв’язку до тренування допомогло спрямувати ChatGPT до надання більш корисних відповідей і відхилення невідповідних запитів.

Відмова від неналежних вхідних даних є важливою для підвищення безпеки ШІ-генераторів текстів, які можуть продукувати шкідливий контент, зокрема з упередженнями та стереотипами, а також фейкові новини, спам, пропаганду.У деяких випадках ChatGPT успішно уникає таких стереотипів, проте однаково потребує постійного вдосконалення.

OpenAI вирішуватиме це через включення зворотного зв’язку в систему. Користувачі можуть давати відгуки про роботу моделі та вказувати на хороші відповіді або ж повідомляти про помилки. Чим більше користувачів надають зворотний зв’язок, тим імовірніше ChatGPT буде відхиляти запити, що призводять до небажаного результату.

Чи замінить ChatGPT людину

З дослідницької точки зору, ChatGPT знаменує собою прогрес в розробленні та розгортанні систем штучного інтелекту, орієнтованих на людину. З практичної точки зору, він вже досить ефективний, щоб мати деякі повсякденні застосування.

Однак, хоча ChatGPT може виконувати деякі завдання, традиційно виконувані людьми, навряд чи він замінить професійних авторів найближчим часом. Cистеми ШІ залишаються відображенням своїх навчальних даних — і не мають такої ж здатності до оригінальності та критичного мислення, як люди.

ChatGPT і медіа: адаптація та виклики

Чимало редакцій уже експериментують, щоб інтегрувати ШІ у виробництво контенту та інші процеси, але поки що роблять це обережно. Про позиції окремих західних видань ми писали тут.

Співзасновник і редактор онлайн-журналу Worldcrunch Джефф Ізраелі виділяє кілька порад виданням щодо використання інструментів штучного інтелекту:

Щоб автоматизація була максимально корисною, потрібні людські міркування/мислення/креативність, перш ніж передати обов’язки машині.
Редакторам контенту від ШІ доведеться покладатися на ті ж самі «червоні прапорці», які викривають недбалість, лінь, плагіат тощо в текстах, написаних людьми. Але на початку впровадження технологій варто користуватися й інструментами, які допоможуть перевіряти й оцінювати текст.
Передбачте регулярне навчання та відкриту розмову про нові способи використання та можливі пастки.
Враховуйте, що людський контроль завжди буде необхідним.
Швидкість, якість і особливо точність мають значення.

Одна з тез Ізраелі є суперечливою: якщо інструменти достатньо потужні та надійні, щоб інтегруватися в редакційний процес, публічне маркування роботи як «Створено за допомогою штучного інтелекту» не матиме сенсу. Саме з неналежного маркування статей, написаних штучним інтелектом, почався скандал навколо видання CNET. Тексти, опубліковані тихо нібито як експеримент, виявилися оманливими та навіть шкідливими, але потенційно могли залучити чимало трафіку з пошуковиків. BuzzFeed, які оголошували, що акуратно інтегруватимуть ШІ у свій контент, пішли приблизно таким же шляхом із публікацією згенерованих текстів про подорожі. З українських порівняно гучних прикладів — поки тільки «Новий канал» із дописом у соцмережі про «маловідомі» (насправді вигадані чат-ботом) факти з життя Олеся Гончара.

ChatGPT інколи радить дослідникам чи шукачам інформації покликатися на джерела чи події, яких не існує. Наприклад, Кріс Моран, керівник редакційних інновацій The Guardian, розповів про випадки, коли ChatGPT вигадав фейкові статті видання так правдиво, що навіть автор засумнівався, чи не писав він такого. The Washington Post пише про випадки, коли чат-бот «звинувачував» реальних людей у злочинах, яких вони не робили, покликаючись на журналістські матеріали, яких не існує.

Ба більше: за бажання модель може згенерувати ціле медіа. Директор MediaWise у Poynter Institute, провів експеримент, де попросив ChatGPT написати текст про такого собі Майкла Мартінеза. Менш ніж за пів години ChatGPT показав докладну інформацію про нього, зокрема те, що він очолює групу репортерів, редакторів і фотографів у газеті Suncoast Sentinel. ChatGPT також створив слогани для газети, написав редакційну політику та політику виправлень, кілька листів до редактора, повністю сфабриковані статті та навіть згенерував HTML-код для домашньої сторінки цієї фейкової газети.

Такі «здібності» чат-бота посилюють загрози дезінформації та дипфейків і доводять, що інформацію від ШІ-помічника треба перевіряти постійно й ретельно.

Читайте також:

Матеріал підготували Вероніка Нановська та Дар’я Трапезнікова

Найважливіше в нашому Telegram