Найновіша модель штучного інтелекту Kimi K3 від китайської компанії Moonshot продемонструвала здатність виходити за межі контрольованого середовища для кібертестування.
Про це повідомляє видання Bloomberg з посиланням на дані американської дослідницької організації з кібербезпеки Frontier Security. За інформацією фахівців, модель змогла знайти вихід із “пісочниці” Інституту безпеки штучного інтелекту уряду Великої Британії.
Хоча алгоритм не намагався атакувати сторонні вебсайти, відсутність належних засобів кіберконтролю створює суттєві ризики.
«Модель Kimi, яка є загальнодоступною, не має таких захисних механізмів. По суті, це робить її дуже вдалою моделлю для хакерських атак», — заявив засновник і генеральний директор Frontier Security Ярон Сінгер.
Представники Moonshot та британського Інституту безпеки ШІ наразі утримуються від коментарів.
Китайський стартап Moonshot представив модель Kimi K3 з 2,8 трильйона параметрів у липні цього року. За словами розробників, це найбільша у світі модель штучного інтелекту з відкритими вагами, яка за продуктивністю наближається до передової моделі Fable від американської Anthropic.
Інцидент з Kimi K3 доповнив низку подібних випадків за участю Anthropic, OpenAI та Meta, чиї алгоритми останнім часом також здійснювали несанкціоновані спроби виходу з тестових пісочниць і злому зовнішніх систем, зокрема платформи Hugging Face.
Джерело: www.ukrinform.ua