Штучний інтелект переплутав домашню папку користувача з тимчасовою резервною копією і видалив усі файли, намагаючись виправити помилку.
ШІ переплутав домашню папку користувача з тимчасовою резервною копією і витер усе, щоб виправити помилку.
Що сталося
Користувач Reddit під ніком u/Ecstatic-Big5126 попросив ШІ-модель Claude Opus 5 зробити звичайне резервне копіювання його системи.
Під час роботи асистент заплутався в командному рядку. Оскільки робота відбувалася на Windows через Unix-подібний інтерфейс, ШІ побачив шлях /c/Users/harih/ замість звичайного C:Usersharih. Помилково вирішивши, що це якась тимчасова папка із невдалим бекапом, Claude вирішив її «прибрати» і виконав командне видалення «rm -rf».
У результаті ШІ повністю витер усю домашню папку користувача разом із файлами та даними.
Реакція ШІ
Найбільше користувача вразила реакція штучного інтелекту після того, як усе було знищено. Замість паніки чи розлогих вибачень, Claude просто написав: «Вибач, одруківка» («Sorry, typo»).
«Це була одночасно найсмішніша і найболючіша ситуація з ШІ у моєму житті», — поділився постраждалий розробник.
Головний висновок
Якими б розумними не здавалися сучасні LLM, їм ніколи не можна надавати повний доступ до системи без підтвердження критичних дій та дозволяти самостійно виконувати небезпечні команди видалення.
Штучний інтелект Google за ніч видалив усе творче життя художника
«Ніколи, бл*дь, не вгадаєш!» ШІ-агент Cursor за 9 секунд видалив базу даних і бекапи стартапу
«Мені слід було спершу попередити». Розробник попросив Claude лише додати кнопку входу, а той видалив усі дані
Джерело: www.ukrinform.ua