Президент США Дональд Трамп публічно відхилив застереження дослідників штучного інтелекту про те, що ця технологія стає надто складною для контролю і теоретично може знищити людство. За словами президента, найбільше його турбує не гіпотетична загроза з боку ШІ-систем, а необхідність утримати технологічну перевагу над Китаєм. Про це пише Bloomberg.
«Ні, у мене немає жодних побоювань»
Журналісти запитали Трампа про його ставлення до попереджень про вимирання людства через штучний інтелект у четвер, коли президент відлітав із Далласа після з’їзду Республіканської партії. «Ні, у мене немає жодних побоювань», — заявив він, коментуючи можливість того, що ШІ може становити екзистенційну загрозу.
Натомість, за словами Трампа, його турбує інше: «Мене турбує, що якщо ми не переможемо в перегонах зі штучним інтелектом, ми опинимося у вкрай невигідному становищі». Президент стверджує, що Сполучені Штати випереджають Китай «на досить пристойний період» — приблизно на рік, що, за його словами, є суттєвим відривом. Трамп також згадав про заплановану пізніше цього року зустріч із головою КНР у Вашингтоні, назвавши її потенційно «чудовою», хоча тему штучного інтелекту в цьому контексті не порушив.
Що спричинило питання про вимирання
Тема безпеки штучного інтелекту опинилася в центрі суспільної дискусії після того, як дослідник Anthropic Джейкоб Коксон оголосив про звільнення з компанії, звинувативши як Anthropic, так і OpenAI — де він також раніше працював над тренуванням моделей — у безвідповідальній гонці до створення самовдосконалюваного суперінтелекту.
«Жодна інша людська діяльність не несе такого рівня небезпеки», — написав Коксон у соцмережі X, додавши, що фахівці, які розробляють ці системи, щиро вірять, що технологія може вбити всіх людей уже до кінця десятиліття.
Його слова публічно підтримав керівник напряму alignment в Anthropic Еван Хубінгер, який оцінив імовірність того, що просунутий ШІ спричинить вимирання людства протягом найближчого десятиліття, у понад 10%. Схожу позицію висловив і Семюел Маркс, керівник команди Cognitive Oversight в Anthropic, наголосивши, що говорить від власного імені, а не від компанії.
Реакція політиків розділилася
Заява президента США пролунала на фоні того, що законодавці з обох партій закликають посилити нагляд і регулювання галузі. Сенатор-демократ Кріс Мерфі назвав описану Коксоном ситуацію — коли компанії у сліпій гонці будують «машину смерті» — проблемою, яку можна розв’язати через регуляторну систему, що дозволить дослідженням тривати, не знищуючи людство. Сенатор-республіканець Тед Круз повідомив, що працює над законодавством щодо «катастрофічних ризиків» ШІ, водночас частково погодившись із логікою Трампа:
«Китай працює над цим повним ходом, і що б ми тут не робили, Китай не зупиниться… якщо мають з’явитися роботи-вбивці, то краще, щоб вони були американськими, а не китайськими».
Водночас у Міністерстві оборони США попередження про вимирання від штучного інтелекту назвали невиправданим страхом. Заступник міністра з питань досліджень і розробок Еміль Майкл заявив на конференції оборонної галузі у Вашингтоні, що подібна тривога — це просто узагальнений страх перед змінами, вдало вкладений в один твіт, і що потенційні ризики можна достатньою мірою нівелювати через вільну ринкову конкуренцію, співпрацю в галузі та комунікацію з урядом.
Нагадаємо, днями стало відомо, що китайські лабораторії видавали Claude за власні моделі.