Компанія OpenAI 7 травня запустила новий інструмент, що виявляє 98 % зображень, згенерованих програмою «текст-зображення» DALL-E 3. Утім для зображень, які редагували, збільшується ймовірність похибок. Про це повідомляє The Wall Street Journal.
На що здатний інструмент?
OpenAI заявляє, що його новий інструмент точно розпізнає контент, створений DALL-E 3. Водночас якщо ці зображення є скриншотами або обрізаними, класифікатор працює дещо гірше, але все одно може зробити ідентифікацію.
Компанія вже кілька місяців тестує свій інструмент розпізнавання всередині організації. Він не покладається на водяні знаки, які компанії навмисно додають до зображень зі штучним інтелектом.
Дослідниця OpenAI Сандхіні Агарвал пояснює, що ефективність інструменту знижується за певних умов, наприклад, коли відтінок зображень змінюється. Компанія сподівається розв’язувати ці проблеми, відкривши систему для зовнішніх дослідників.
Інструмент може заплутатися, коли його просять оцінити зображення ШІ, створені за допомогою конкурентних програм. Також у 0,5 % випадків інструмент неправильно позначає зображення, створені не штучним інтелектом, як такі, що були створені DALL-E 3.
Яка мета інструменту?
Як відзначає The Wall Street Journal, сплеск фейкових зображень, створених за допомогою генеративного ШІ, спричинив дискусію щодо впливу цих зображень на виборчі кампанії 2024 року.
Політики стурбовані тим, що виборці все частіше стикаються із зображеннями, створеними штучним інтелектом, а доступність таких інструментів, як DALL-E 3, дає змогу ще швидше створювати ШІ-контент. Тому OpenAI заявила, що приєднається до галузевої групи, створеної Microsoft і Adobe, що намагається створити систему ідентифікації контенту для онлайн-зображень. Крім цього OpenAI й Microsoft запускають фонд «соціальної стійкості» на $2 млн для підтримки освіти в галузі ШІ.
За словами дослідників з OpenAI та інших організацій, визначити, чи є зображення згенерованим штучним інтелектом, може бути простіше, ніж провести аналогічну перевірку тексту, створеного штучним інтелектом. У січні 2023 року — через два місяці після запуску ChatGPT — OpenAI випустила інструмент, який виявляв тексти, створених ШІ. Але він переважно не справлявся із завданням.
У лютому 2024 року компанія OpenAI розробила нову ШІ-модель Sora, що створює відео з тексту. Про її переваги та недоліки ми писали в окремому матеріалі.
