Компанія OpenAI заявила про призупинення розробки окремих елементів своєї нової моделі Astra. Причиною стали результати внутрішнього аудиту, які виявили суттєвий прогрес у можливостях моделі щодо написання коду та кібербезпеки. Виявлені деталі виявилися настільки потужними, що викликали занепокоєння щодо безпеки подальшої розробки.
Як повідомили в OpenAI, модель Astra, яка все ще перебуває на стадії розробки, досягла «критичного порогу кібербезпеки». Це означає, що вона потенційно здатна самостійно виявляти та здійснювати кібератаки на реальні, зазвичай добре захищені системи. Через це було активовано додаткові заходи безпеки, повідомляє TechCrunch.
«Хоча ми продовжуємо тестувати та оцінювати цю модель, наші попередні перевірки вказують на настільки високі результати, що наразі ми не можемо виключити ймовірність досягнення критичного рівня можливостей», — йдеться в заяві OpenAI. — «Astra — це наша майбутня модель, і вона не була задіяна в експлуатації вразливостей Hugging Face».
У компанії наголосили, що діляться цією інформацією, оскільки вважають «важливим бути прозорими перед громадськістю та спільнотами з безпеки щодо цього потенційного стрибка в можливостях».
OpenAI також зазначила, що вживає заходів для посилення контролю безпеки та призупинила внутрішні процеси, пов’язані з Astra, які не відповідають новим, суворішим обмеженням. Компанія додала, що співпрацює з відповідними урядовими агентствами та «обраними організаціями з безпеки ШІ» для тестування можливостей моделі.
«Дорогий розмовний пончик»: стали відомі нові деталі про загадкову смарт-колонку з ШІ від OpenAI
Apple вимагає заборонити OpenAI використовувати вкрадені технології для створення ШІ-гаджетів
OpenAI перетнула позначку в 1 млрд активних користувачів, обваливши ціни
Читайте головні IT-новини країни в нашому Telegram
Джерело: www.ukrinform.ua