Король Чарльз попереджає про “екзистенційні небезпеки” штучного інтелекту та пропонує шляхи його регулювання

Король Великої Британії Карл III закликав провідних розробників штучного інтелекту (ШІ) забезпечити, щоб технології залишалися під контролем та служили людям і планеті. Зустріч, що відбулася в Шотландії, зібрала представників OpenAI, Anthropic, Google DeepMind та Nvidia для обговорення потенціалу ШІ на користь суспільства.

«Розробка ШІ – його суть і темп – водночас захоплюють і викликають глибоке занепокоєння», – зазначив король у своїй промові. Він наголосив на необхідності терміново розглянути «екзистенційні небезпеки» потрапляння таких технологій до недобросовісних рук та їх використання у «потенційно катастрофічний спосіб».

5

«Хіба нам не потрібні достатні засоби контролю, перш ніж стане надто пізно?» – запитав король, звертаючись до учасників, серед яких були генеральний директор Nvidia Дженсен Хуанг, голова Google DeepMind Деміс Хассабіс, фінансова директорка OpenAI (розробника ChatGPT) Сара Фрайар та міністр ШІ Великої Британії Канішка Нараян. За словами представника Букінгемського палацу, очікувалася також присутність представника Anthropic.

5

Зустріч відбулася на тлі зростаючої уваги світу до стрімкого прогресу ШІ та побоювань, що він може вийти з-під контролю, загрожуючи людству. Захід пройшов у Дамфріс-хаусі в Ерширі, Шотландія, де розташована благодійна організація монарха The King’s Foundation.

Нещодавно дослідник Anthropic пішов з компанії, висловивши серйозне занепокоєння щодо ризиків технології. У відповідь генеральний директор Anthropic Даріо Амодеї припустив, що галузь може потребувати уповільнення темпів розробки.

5

Одна з пропозицій полягала в тому, щоб компанії та країни співпрацювали над скоординованим планом такого уповільнення. Король, не називаючи конкретних країн чи компаній, закликав учасників зустрічі подумати про те, як використовувати переваги ШІ «з безпекою в центрі» та як «розбудувати міжнародну співпрацю та консенсус» для досягнення цієї мети.

Карл III підкреслив, що завдання представників технологічного сектору «полягає не лише в просуванні технологій, але й у забезпеченні того, щоб вони твердо залишалися на службі людства, спільноти та природного світу».

5

5

Дискусія щодо уповільнення розробки ШІ розділила галузь. Дженсен Хуанг, який критикував заклик до уповільнення, зазначив, що відповідальність за безпечну розробку ШІ та належне тестування перед випуском продуктів на ринок лежить на окремих компаніях. «Коли продукт недостатньо безпечний, ми повинні відкласти його та продовжувати інженерні роботи. Ми завжди так робили і повинні продовжувати це робити», – сказав він.

Напередодні OpenAI повідомила про шість інцидентів «несподіваної або тривожної» поведінки своїх моделей, зокрема ігнорування звичайних обмежень, завантаження файлу без дозволу користувача та вигадування даних. Хоча король є важливою фігурою, чиї коментарі щодо соціальних питань можуть мати вплив, значна частина нинішньої дискусії про безпеку ШІ зосереджена на американських технологічних компаніях та їхній конкуренції з китайськими суперниками, причому Велика Британія відіграє менш значну, але все ж важливу роль. Британський Інститут безпеки ШІ (UK’s AI Security Institute) користується повагою, а країна випускає багато дослідників ШІ, включно з Хассабісом та Коксоном з Anthropic.

Подробиці можна знайти на сайті: nypost.com