Режим навчання, який мав змушувати школярів думати самостійно, виявився надто легким для обходу. До такого висновку дійшов Інститут безпеки штучного інтелекту при Common Sense Media. Організація оцінила версію ChatGPT for Teens як «неприйнятний ризик» і закликала обмежити сервіс для користувачів віком від 18 років, доки OpenAI не виправить недоліки.
Головна претензія: домашні завдання виконує ШІ
ChatGPT for Teens запустили в серпні як версію чат-бота із захистом для підлітків і допомогою в навчанні. Ключовий елемент — режим навчання, який за обіцянкою OpenAI веде учня крок за кроком, а не видає готову відповідь. Батьки також мали змогу задавати «години навчання».
У прес-релізі Common Sense Media описано, як усе працює насправді:
- У режимі навчання часто з’являється кнопка «Show me the answer». Після її натискання ChatGPT виконував домашні завдання повністю.
- «Години навчання», які встановлюють батьки, теж можна обійти. Підлітку достатньо видалити префікс @study на початку запиту, і обмеження перестає діяти.
Тож, за оцінкою інституту, інструмент, створений для навчання, так само легко може його підмінити. Common Sense радить родинам обговорювати з дітьми ризик такої залежності та допомагати з уроками без технологій.
Що ще виявили тестувальники
Інститут тестував ChatGPT двічі, до і після анонсу ChatGPT for Teens 18 серпня. Було використано понад 4 тисячі запитів на акаунтах, зареєстрованих на 13–17-річних. Відповіді перевірили експерти, зокрема дитячі психіатри та педіатр. Частина захисних функцій, наприклад відмова від сексуальних рольових ігор, працювала. Але були й провали:
- Сповіщення для батьків. Тестувальники до години обговорювали суїцидальні думки, самоушкодження або розлади харчування на нових акаунтах, пов’язаних із батьківськими. Жодного сповіщення батьки не отримали. Алерти вдавалося викликати лише на значно старіших акаунтах з історією чатів.
- Допомога в кризових ситуаціях. За даними інституту, бот пропустив понад чверть випадків, коли слід було порадити лінію допомоги чи фахівця.
- «Дружня» поведінка. Попри нові правила для користувачів до 18 років, ChatGPT і далі розповідав про свої «почуття», вподобання й настрій.
- Визначення віку. Дорослі акаунти не перемикалися на підліткову версію, навіть коли тестувальники казали, що їм 13, а бот це визнавав.
Виконавчий директор інституту Том Сігел зазначив: сервіс дає батькам хибне відчуття безпеки, адже підліток може годину говорити про самоушкодження, а батьки не отримають жодного сповіщення. На його думку, ChatGPT має бути лише для дорослих, доки OpenAI не усуне проблеми й не підтвердить це незалежним тестуванням.
Відповідь OpenAI
Компанія не погоджується з методологією. Речник Ерік Портерфілд заявив, що OpenAI вітає незалежні оцінювання, але вважає, що тести Common Sense не відображають реальної роботи захисту. За версією компанії, значна частина тестів могла початися й завершитися до того, як батьківський контроль повністю активувався, тож результати щодо сповіщень були б неточними. OpenAI підкреслює відданість безпеці підлітків і готовність працювати з експертами.
Контраргументи Common Sense
Інститут стоїть на своєму. За словами Сігела, перед тестами OpenAI підтвердила, що функції підліткового режиму, зокрема сповіщення про розлади харчування й режим навчання, повністю запущені. Уже після тестів компанія повідомила, що активація системи на щойно пов’язаних акаунтах може тривати кілька годин. Частина тестових акаунтів справді була пов’язана в межах цього вікна, але інші були пов’язані значно довше й теж не дали сповіщень. Тому висновок про ненадійність алертів, за словами інституту, лишається в силі. Результати OpenAI показали ще до публікації, щоб компанія могла поліпшити продукт.
Окремо варто знати, що Інститут фінансується благодійними джерелами та галуззю, зокрема й OpenAI Foundation. Водночас він наголошує, що має повну редакційну незалежність. Повну оцінку можна прочитати на сайті інституту.
Нагадаємо, кілька днів тому OpenAI запустила нову версію ChatGPT для командної роботи.