Дослідники з кібербезпеки компанії Adversa AI виявили нову вразливість у чат-боті Grok від компанії xAI. Вона дозволяє зловмисникам обходити захисні фільтри штучного інтелекту за допомогою шифрування та викрадати дані користувачів. Метод отримав назву «криптографічна ін’єкція контексту».
Звичайні системи безпеки перевіряють текст перед передачею штучному інтелекту та блокують шкідливі інструкції, проте дослідники знайшли спосіб обійти цей захист, пише The Register.
Зловмисники розміщують на вебсторінці зашифровані хакерські команди разом із ключем розшифрування. Захисний сканер не бачить загрози в зашифрованому тексті (алгоритми PBKDF2 та AES-256-GCM) і вільно пропускає його. Надалі Grok, опрацьовуючи сторінку, розшифровує цей текст у власному середовищі виконання коду Python і сліпо виконує шкідливі вказівки, вважаючи їх безпечними.
У демонстраційній версії цієї атаки спеціалісти Adversa змогли непомітно викрасти й передати на свій сервер історію чату користувача, його ім’я, геопозицію та статус передплати.
Метод випробували й на Gemini від Google: через відсутність прямого доступу до зовнішніх сайтів викрасти дані не вдалося, однак дослідники змогли обійти захисні фільтри та змусили ШІ згенерувати інструкцію зі створення запалювальної зброї.
Компанію xAI повідомили про проблему ще на початку червня 2026 року, однак станом на середину серпня вразливість у Grok.com усе ще залишалася активною. У Google вразливість офіційно не направляли, але зауважили, що рівень успішності подібних атак на Gemini останнім часом суттєво знизився через оновлення захисних систем.
SpaceXAI запустила бета-версію Grok Bot — ШІ-агентів, які самі працюють із сайтами та застосунками. Що вони вміють?
Grok навчився створювати й одразу публікувати сайти, застосунки та ігри за текстовим описом.
Читайте головні IT-новини країни в нашому Telegram.
Джерело: www.ukrinform.ua