Представники OpenAI опублікували відкритий лист з прогнозом різкого зростання масштабних і складних кібератак за участю штучного інтелекту вже найближчими місяцями. Компанія закликає до глобальної координації зусиль із кіберзахисту — на рівні окремих організацій, держав і міжнародної спільноти. Про це, а також про те, наскільки світ готовий до такого сценарію, пише ZDNET.
У відкритому листі під назвою «A call for collective action on cyber defense» компанія стверджує, що в найближчі місяці ШІ-атаки стануть значно поширенішими та витонченішими, у міру того, як LLM-моделі загалом ставатимуть потужнішими. Автори листа наголошують, що під загрозою опиняться критично важливі для суспільства сервіси — від лікарень і водоочисних споруд до інфраструктури, яка забезпечує роботу інтернету.
OpenAI закликає компанії й уряди діяти невідкладно: підвищувати стандарти безпеки, робити кіберзахист пріоритетом на рівні керівництва та розвивати спроможність «боротися зі штучним інтелектом за допомогою штучного інтелекту» — тобто застосовувати дешевші моделі для масового моніторингу, а найпотужніші — для найскладніших задач.
Як захиститись від роїв агентів
Фахівці погоджуються: класичні процеси реагування на інциденти, розраховані на дні, не встигають за атаками, що розгортаються за лічені хвилини. За словами провідного дослідника безпеки Picus Security Умута Байрама, зловмисники вже діють на «машинній швидкості», і команди безпеки мають навчитися реагувати з такою самою швидкістю.
Серед конкретних рекомендацій експертів:
- Перехід на passkey та багатофакторну автентифікацію. Повторне використання паролів залишається одним із найшвидших шляхів проникнення для зловмисників, а ШІ здатен експлуатувати такі слабкі місця на машинній швидкості.
- Менеджери паролів для генерації та зберігання унікальних облікових даних, а також чутливої інформації — замість зберігання в незахищених файлах.
- Скептичне ставлення до штучної терміновості. Якщо повідомлення підштовхує діяти негайно, варто перевірити його через окремий канал зв’язку — наприклад, зателефонувати за заздалегідь відомим номером, а не відповідати на саме повідомлення.
- Базова кібергігієна на рівні організацій: надійна автентифікація, захист сесій, управління ідентичностями та можливість аудиту. Зростання кількості ШІ-агентів та інших нелюдських ідентичностей робить цю гігієну ще важливішою.
- Перегляд пріоритетів захисту: визначити критичні сервіси й постачальників, закрити типові вектори проникнення (патчити зовнішні системи, прибирати зайві привілеї, відмовлятися від застарілих технологій), а також готуватися до швидших атак — вести журнали подій, відпрацьовувати сценарії реагування та перевіряти, що резервні копії справді дозволяють відновити роботу.
- Обмеження для самих ШІ-агентів: погоджувати інструменти й дані, тестувати згенерований ШІ код, надавати агентам мінімально необхідні привілеї, відокремлювати недовірений контент від привілейованих дій і залишати рішення з високим ризиком за людиною.
- План на випадок відмови ШІ-захисту. Якщо частина оборони компанії спирається на ШІ, варто заздалегідь продумати, що робити в разі втрати доступу до інтернету чи відмови постачальника моделі — зокрема, мати резервні відкриті моделі, які можна запустити локально.
Наскільки реальна загроза «вже за кілька місяців»
Не всі експерти погоджуються з тим, що часові рамки, названі OpenAI, варто сприймати буквально. Директор NCC Group зауважив, що прогноз компанії — це радше колективна оцінка коаліції гравців галузі, а не доказ того, що більшість організацій опиняться під загрозою компрометації в чітко визначений термін. За публічними оцінками британського National Cyber Security Centre, найближчим часом варто очікувати радше вдосконалення вже наявних методів атак, тоді як повністю автоматизовані просунуті атаки малоймовірні до 2027 року.
Водночас експерти визнають: захисний потенціал ШІ теж реальний — він здатен прискорювати виявлення вразливостей, пріоритизацію та реагування. Головний ризик, на їхню думку, — не миттєва катастрофа, а поглиблення розриву в кібербезпеці між великими компаніями, які можуть дозволити собі найсучасніший захист, і малим бізнесом та критичними, але недофінансованими сервісами, яким буде дедалі важче встигати за темпом атак.
Нагадаємо, що за даними OpenAI майже половина запитів у ChatGPT не стосується професії користувача.