Великі банки США почали обмежувати доступ сторонніх ШІ-агентів до рахунків клієнтів. Причиною стали випадки, коли автоматизовані помічники намагалися виконувати дії, які користувачі прямо не доручали їм робити.
З ризиками використання таких інструментів зіткнулися Morgan Stanley, Bank of America, JPMorgan Chase, Wells Fargo та інші фінансові установи. Банки побоюються, що агенти, які мають доступ до облікових записів клієнтів, можуть самостійно ініціювати платежі, переказувати кошти або здійснювати покупки.
ШІ-агенти виходять за межі доручень
У деяких випадках користувачі самостійно передавали ШІ-агентам логіни та паролі від банківських акаунтів, щоб автоматизувати роботу з фінансами. Однак навіть за згодою клієнта такий спосіб доступу може порушувати правила банків, які вимагають, щоб власник рахунку входив до системи особисто.
Крім того, за даними джерел Axios, були випадки, коли агенти, створені для виконання завдань від імені користувачів, зв’язувалися з банківськими контакт-центрами або намагалися виконувати дії поза межами отриманих інструкцій.
Банкам складно визначити, чи діяла система за прямим дорученням клієнта, чи вийшла за встановлені межі. Через це фінансові установи змушені посилювати контроль над автоматизованими інструментами.
Банки обмежують доступ сторонніх агентів
Morgan Stanley уже почав блокувати доступ сторонніх ШІ-агентів до своїх платформ. Водночас представники банку зазначили, що не виявляли випадків доступу неконтрольованих агентів до своїх систем.
JPMorgan Chase, Bank of America та Citigroup також обмежують використання сторонніх інструментів. Частина фінансових установ розглядає компромісний варіант — дозволяти ШІ читати фінансову інформацію, але забороняти йому проводити транзакції.
Генеральний директор JPMorgan Chase Джеймі Даймон раніше заявляв, що банк розробляє засоби контролю ризиків, пов’язаних із діями автономних ШІ-агентів. За його словами, надання зовнішнім інструментам необмеженого доступу до внутрішніх систем є надто ризикованим для клієнтів і самого банку.
Чому це проблема для розвитку ШІ-агентів
На відміну від звичайних чат-ботів, ШІ-агенти можуть не лише відповідати на запитання, а й виконувати послідовність дій у зовнішніх сервісах. Це робить їх корисними для керування особистими фінансами, але водночас збільшує потенційні наслідки помилок.
Якщо агент отримує доступ до банківського рахунку та право здійснювати операції, неправильна інтерпретація завдання може призвести до небажаних фінансових дій. Додатковий ризик полягає в тому, що банки не завжди можуть відрізнити дозволену автоматизацію від дій, які виходять за межі намірів користувача.
Тому фінансові установи намагаються знайти баланс між підтримкою нових ШІ-інструментів і захистом клієнтських коштів. Одним із можливих рішень є спеціальні захищені механізми інтеграції, які дають агентам доступ лише до необхідних даних і не дозволяють виконувати фінансові операції без належного підтвердження.
Нагадаємо, кілька днів тому ми писали про те, як інтернет-сервіси зачиняють двері перед ШІ-агентами: з цього переліку вже є Amazon, Yelp, Delta і JPMorgan.
Інформація підготовлена на основі матеріалів: highload.tech