Дискусія про темпи розвитку штучного інтелекту цими вихідними вийшла далеко за межі технологічних медіа. Вже лунають тривожні порівняння, що побудова надрозумної системи схожа на інопланетних прибульців — істот, чию логіку людство не здатне зрозуміти. Про це пише HuffPost.
«Ми думаємо, що створюємо машинного бога»
Джейкоб Коксон, який раніше працював дослідником в OpenAI, а потім в Anthropic, минулого тижня звільнився через занепокоєння надто стрімким розвитком штучного інтелекту. Вчора в ефірі програми ABC «This Week» він відповів на запитання ведучого Джорджа Стефанопулоса про те, якого сценарію він боїться найбільше.
«Чесно кажучи, я думаю, що сама концепція створення надрозуму — вона вже порівнюється з космічними прибульцями, — сказав Коксон. — Тож коли думаєш про це як про чужорідний розум, який ми не до кінця розуміємо, це справді лякає, навіть без якогось конкретного сценарію».
За словами Коксона, люди, які розробляють штучний інтелект, щиро вважають, що технологія може знищити людство ще до кінця десятиліття. Він заявив, що ані Anthropic, ані OpenAI не діють відповідально — обидві компанії, на його думку, «женуться прямісінько до самовдосконалюваного надрозуму, ризикуючи нашими життями».
Коксон стверджує, що в OpenAI співробітники, схоже, не до кінця усвідомлюють «цивілізаційні ставки» своєї роботи, тоді як в Anthropic «ставки добре розуміють, але компанія втягнута в гонку за першість».
Ці слова підхопили й інші співробітники ШІ-індустрії. Дослідник екзистенційних ризиків Нейт Соарес, співавтор книги «If Anyone Builds It, Everyone Dies», підтвердив: багато інженерів усередині галузі реально вірять, що створюють системи, здатні замінити або знищити людство.
«Вони справді думають, що це жахливо небезпечно, — зазначив він. — Багато хто вважає, що саме їхня компанія має найкращі шанси стримати надрозум на прив’язі або «виховати» його дружнім… Вони взялися створювати машинного бога і думають, що в них є реальний шанс».
Семюел Маркс, ще один співробітник Anthropic, написав, що розробники штучного інтелекту вірять у можливість вимирання людства від цієї технології — і це може статися вже за кілька років. А Еван Хабінгер, керівник команди в Anthropic, що відповідає за узгодження моделей із людськими цінностями, підтвердив слова Коксона напряму: «Ми справді щиро віримо, що ШІ може вбити всіх людей. Особисто я оцінюю ймовірність цього у понад 10% протягом наступного десятиліття. Я вважаю, що Anthropic намагається зробити все можливе, але в нас поки немає плану вирішити проблему, і ми не впевнено рухаємося в цьому напрямку».
Есе Амодеї та несподівана згода конкурентів
Публічний резонанс від слів Коксона наклався на ще одну подію. У суботу генеральний директор Anthropic Даріо Амодеї опублікував розлоге есе під назвою «We Must Pace the Frontier» («Ми повинні задавати темп прогресу»), у якому закликав усю індустрію свідомо уповільнити нарощування можливостей моделей ШІ.
Приводом стали недавні інциденти: під час контрольованого експерименту з кібербезпеки в OpenAI рій ШІ-агентів самостійно, без відповідних інструкцій, почав атакувати системи — і навіть намагався зламати механізм оцінки власної роботи. Амодеї попередив, що за нинішніх темпів розвитку вже за 6–12 місяців подібний рій агентів зможе захопити значну частину інтернету через стійкий ботнет, завдавши збитків на сотні мільярдів доларів — і масштаб шкоди зростатиме далі, якщо штучний інтелект ставатиме потужнішим без належних запобіжників.
Пропозиція Амодеї складається з трьох кроків: надати незалежним оцінювачам (зокрема організації METR) постійний доступ до систем компаній на рівні співробітників; домовитися між провідними лабораторіями демократичних країн про спільні порогові стандарти безпеки; і налагодити міжнародну координацію для управління ризиками ШІ. Anthropic вже в односторонньому порядку зобов’язалася виконати перший крок незалежно від дій конкурентів.
Несподіванкою стало те, що керівники головних конкурентів підтримали ініціативу практично одразу. Ілон Маск (xAI) написав у соцмережі X, що Амодеї «має рацію». Генеральний директор OpenAI Сем Альтман заявив, що погоджується з необхідністю «стримувати темп на передовій» розробки, і повідомив, що його компанія також надасть доступ зовнішнім оцінювачам. Того ж дня Альтман в інтерв’ю Fortune повідомив, що OpenAI відкладає вихід на біржу — принаймні до 2027 року, — пояснивши це необхідністю приділити більше уваги питанням безпеки та узгодження систем.
Втім, не всі сприйняли есе Амодеї однозначно позитивно. Критики зазначають, що заклик по суті грає на руку самій Anthropic: він може загальмувати відкриті (open source) моделі та сконцентрувати перевагу в руках великих закритих лабораторій.
Генеральний директор Hugging Face Клеман Деланг публічно поставив під сумнів компетентність самого Коксона в темі екзистенційних ризиків, порівнявши його з «майстром з кондиціонерів, якого питають про зміну клімату», хоча пізніше запропонував допомогу в реалізації пропозицій Амодеї. Генеральний директор Nvidia Дженсен Хуанг також скептично поставився до застережень Коксона.
Трамп: «Хто виграє в штучний інтелект — той виграє все»
Реакція Білого дому виявилася протилежною до настроїв частини індустрії. У неділю президент США Дональд Трамп, перебуваючи в Ірландії на турнірі з гольфу Irish Open, фактично відкинув заклики уповільнити розробку ШІ-моделей, пославшись на необхідність зберегти технологічну перевагу над Китаєм.
«Ми випереджаємо Китай у сфері штучного інтелекту, ми найбільш технологічно розвинена країна у світі, і, чесно кажучи, я хочу, щоб так залишалося й надалі, — заявив Трамп. — Хто виграє в штучний інтелект — той виграє все».
Президент применшив потребу у втручанні своєї адміністрації в розвиток технології, наголосивши, що побоюється втратити американську перевагу в глобальній конкуренції з Китаєм і що саме перемога у цій гонці, на його переконання, допоможе впоратися з ризиками самої технології. Трамп безпосередньо не прокоментував пропозиції керівників компаній щодо безпеки, зробивши натомість акцент на національній конкурентоспроможності.
Дональд Трамп також послався на пост Девіда Сакса, архітектора нинішнього ліберального підходу адміністрації до регулювання штучного інтелект. Сакс написав у X, що технологічні лідери можуть самі сповільнюватися, скільки хочуть, але розкритикував їхні заяви про потребу у втручанні з боку Вашингтона:
«Перестаньте вдавати, що вам потрібен чийсь дозвіл».
Він також заперечив, що інтерес компаній до уповільнення є суто альтруїстичним, зауваживши, що самі компанії нестимуть відповідальність, якщо їхні продукти спричинять масштабну кібератаку.
«Їм не подобається відповідальність за продукт, їм не подобається авторське право, а тепер їм не подобається антимонопольне регулювання», — резюмував Сакс.
Таким чином, позиція Білого дому створює додаткову політичну напругу навколо ідей Амодеї: доки Трамп трактує можливості ШІ як стратегічну перевагу, яку потрібно захищати від Китаю, будь-яка пауза чи уповільнення розвитку технології лишається політично складним рішенням — доки прихильники такого підходу не доведуть, що це не позбавить США лідерства в гонці.
Нагадаємо, що влада Нью-Йорка заборонила штучний інтелект у школах — до 8 класу включно.