Microsoft впроваджує в Copilot Studio новий захисний механізм, який дозволить організаціям вимагати підтвердження від людини перед тим, як агент запустить певний інструмент. Функція розрахована на компанії, що будують внутрішні ШІ-системи на платформі Copilot Studio, і покликана зменшити ризики від агентів, здатних виконувати чутливі дії без нагляду.
Як працює нове схвалення
Розробники агентів отримають можливість увімкнути вимогу схвалення для кожного окремого інструменту й кожного окремого агента. Коли інструмент позначено як такий, що потребує підтвердження, агент зупиняє виконання перед його запуском і показує запит зі поясненням того, що саме він збирається зробити. Людина може:
- підтвердити дію одноразово;
- схвалити її на решту сесії;
- відхилити повністю.
Microsoft окремо наголошує, що ця вимога діє незалежно від вбудованих інструкцій самого агента — навіть якщо ШІ «вирішить», що запуск конкретного інструменту є правильним наступним кроком, він усе одно буде змушений чекати на рішення людини.
Для яких сценаріїв це важливо
Компанія прямо називає приклади дій, для яких схвалення особливо доречне: надсилання електронних листів, закриття заявок і обробка платежів — тобто операції, помилка в яких може мати реальні фінансові чи репутаційні наслідки. У таких випадках агент більше не зможе просто діяти на власний розсуд, якщо відповідний інструмент налаштовано як такий, що вимагає підтвердження.
Запити на схвалення з’являтимуться безпосередньо в тому каналі, де працює агент — зокрема в Microsoft Teams та Microsoft 365 Copilot, тож користувачам не доведеться щоразу заходити безпосередньо в Copilot Studio для підтвердження дії.
Статус запуску
За даними дорожньої карти Microsoft, функція фігурує під ідентифікатором RM570434 у програмі «AI at Work» і наразі доступна як загальнодоступний реліз (general availability) для веб-версії Copilot Studio у стандартній багатоорендній хмарі Microsoft.
Це доповнення продовжує ширшу лінію Microsoft на впровадження механізмів контролю над автономними агентами: компанія рекомендує розробникам агентів у Copilot Studio закладати чіткі межі повноважень, обмежений доступ за принципом найменших привілеїв та обов’язковий нагляд людини для критичних дій ще на етапі проєктування. Раніше цього року Microsoft також представила окрему панель моніторингу безпеки для ШІ-інфраструктури, яка об’єднує сигнали з Microsoft Defender, Entra та Purview і дає ІТ-адміністраторам централізований спосіб керувати станом агентів і платформ.