Австрійська правозахисна група Noyb подала скаргу проти OpenAI. У позові йдеться, що ChatGPT помилково назвав норвежця убивцею. Деталі справи повідомляє Engadget.
Що сталося?
Чоловік запитав ChatGPT, що він знає про нього — ШІ відповів, що той був засуджений до 21 року в’язниці за вбивство двох своїх дітей і спробу вбивства третього. На підтвердження цього ChatGPT додав реальну інформацію, зокрема кількість дітей, які він мав, їхню стать і назву його рідного міста.
Noyb стверджує, що OpenAI порушила General Data Protection Regulation (GDPR) — Загальний регламент про захист даних. Документ регулює збирання, зберігання, обробку та передачу персональних даних громадян ЄС і Європейської економічної зони. Відповідно до закону особисті дані мають бути точними.
«Показати користувачам ChatGPT застереження про те, що чат-бот може робити помилки, явно недостатньо. Ви не можете просто поширювати неправдиву інформацію та в кінці додати невелике застереження про те, що все, що ви сказали, може бути неправдою», — заявив юрист із захисту даних Noyb Йоакім Содерберг.
Інші випадки галюцинацій
Інші користувачі також повідомляли про випадки галюцинацій ChatGPT, зокрема він звинуватив їх шахрайстві та розтраті, в жорстокому поводженні з дітьми та в сексуальних домаганнях.
Перша скаргу на OpenAI Noyb подав у квітні 2024 року через неточну дату народження публічної людини. OpenAI відхилив запит, стверджуючи, що розробники не можуть змінити інформацію, яка вже є в системі. Тому необхідно заблокувати її використання за певними підказками.
