Перевага полягала б у тому, що OpenAI (компанія) міг би пізніше виявити, чи надходить якийсь згенерований текст із ChatGPT. Ви маєте рацію в тому, що ідея, запропонована Скоттом Андерсоном, полягає в тому, що лише OpenAI зможе виявити.
У статті, на яку ви посилалися, багато плутаних пунктів і "пояснень" це, здається, не зовсім по темі. Схоже, що сама стаття (або її частини) створена штучним інтелектом.
Натомість ви можете прочитайте повну публікацію в блозі Скотта Андерсона (яка насправді є стенограмою його виступу), щоб отримати більше інформації та контексту. Публікація довга, а розділи, які мають відношення до водяних знаків, відображаються в розділі "Мої проекти в OpenAI" заголовок.
Повідомлення в блозі, здається, означає, що основна перевага водяного знака буде в правовому контексті, коли OpenAI перебуває під позовом або ухвалою суду та потребує певної впевненості, що певний текст був або не був згенерований ChatGPT
Дехто може задатися питанням: якщо OpenAI контролює сервер, навіщо тоді докладати всіх зусиль, щоб водяний знак? Чому б просто не зберегти всі результати GPT у гігантській базі даних, а потім звернутися до бази даних пізніше, якщо ви хочете дізнатися, чи щось надійшло з GPT? Ну, останнє можна було б зробити, і, можливо, навіть доведеться зробити у серйозних справах, пов’язаних із правоохоронними органами чи будь-яким іншим. Але це викличе серйозні проблеми щодо конфіденційності: як ви дізнаєтесь, створював чи ні GPT певний текст-кандидат, потенційно не розкриваючи, як інші люди використовували GPT? Підхід до бази даних також має труднощі з розрізненням тексту, який унікально згенерував GPT, від тексту, який він згенерував просто тому, що він має дуже високу ймовірність (наприклад, список із першої сотні простих чисел).
OpenAI потенційно може випустити інструмент, який повідомлятиме вам, чи якийсь наданий текст був згенерований ChatGPT. Звичайно, це, ймовірно, прискорить здатність інструментів протидії достатнім чином змінювати текст, щоб видалити або помутніти водяний знак.
Скотт детальніше розповість про інструмент/інструмент протидії в розділі «Запитання та відповіді». Він зазначає, що
Це особливо складно, якщо ви накладаєте одну або кілька з таких умов:
- Код і параметри штучного інтелекту мають бути загальнодоступними (у такому випадку люди можуть легко змінити їх, щоб видалити водяні знаки).
- ШІ повинен мати щонайменше певна здатність змінювати себе та
- Засоби перевірки водяного знака мають бути загальнодоступними (у цьому випадку, знову ж таки, водяний знак може бути легше зрозуміти та видалити).