Google AI розкрив конфіденційну інформацію з приватного документа

Соло-розробник інді-ігор заявив, що Gemini видав «лякаюче точні» деталі про майбутній контент його проєкту, хоча ця інформація ніде не публікувалася.

Секретне ім’я персонажа у відповідях чат-бота

Усе почалося в Discord-спільноті гри, де один із гравців вирішив заради розваги поставити ШІ «безглузді запитання» про Operation Octo. Отримуючи дивовижно точні відповіді про гру, розробник із цікавості попросив гравця запитати штучний інтелект про майбутній контент.

На загальний подив, ШІ видав конкретне ім’я нового персонажа — «Vantage Tripod».

«Я ніколи й нікому не називав це ім’я. Наскільки мені відомо, єдине місце у цифровому вигляді, де існувала ця інформація — це один із моїх власних документів Google Docs. І це був не я, хто спілкувався з ШІ!» — поділився творець tower defense гри Operation Octo під ніком KlubKofta на Reddit.

Розробник додав, що його гра досить невелика, тому в мережі немає «шуму» чи чуток, які могли б заплутати ШІ. Це й дозволило алгоритму видати реальний витік без зайвих здогадок.

Google заперечує сканування приватних файлів

У коментарях під дописом користувачі припустили, що Google автоматично використовує файли з Google Drive для навчання своїх моделей. Однак у коментарі виданню Polygon представники компанії категорично це заперечили:

«Google не сканує ваш приватний контент у Workspace (включаючи Drive та Docs) для навчання наших базових моделей ШІ (включно з Gemini). Посилання на публічні документи можуть індексуватися лише тоді, коли їх десь опублікували у відкритому доступі».

Попри таку заяву, інді-розробник наполягає: документ із назвою персонажа ніколи й ніде не поширювався, тому він досі не розуміє, як ШІ дізнався ці дані.

Це не поодинокий випадок?

Згодом автор допису оновив публікацію, згадавши іншу розробницю під ніком kallico. Вона провела власний експеримент: попросила Gemini згенерувати ідеї на основі назви її гри й порівняла результати зі своїм приватним дизайн-документом, який також ніде не публікувався.

Результати відповідей Google AI дивовижно точно збігалися з вмістом її документа. Коли ж вона поставила ті самі запитання нейромережі Claude (яка не має доступу до екосистеми Google), відповіді були стандартними й не містили жодних приватно описаних ідей.

Цей інцидент викликав нову хвилю занепокоєння серед творців контенту щодо того, наскільки приватною є інформація, яку вони зберігають у хмарних сервісах.