Один із засновників сучасного глибокого навчання Ендрю Нг публічно виступив проти чергової хвилі попереджень про те, що штучний інтелект може становити екзистенційну загрозу для людства. В інтерв’ю Bloomberg TV він назвав такі прогнози «набагато більше науковою фантастикою, ніж наукою».
«Я був вкрай здивований останніми двома тижнями»
Нг, співзасновник Google Brain і Coursera, який свого часу навчав як CEO Anthropic Даріо Амодеї, так і CEO OpenAI Сема Альтмана, заявив в інтерв’ю ведучому Еду Ладлоу на «Bloomberg Tech», що останні два тижні перебував у «вкрай здивованому» стані через нову хвилю тривожних заяв від дослідників і керівників ШІ-компаній.
«Ця хвиля піару знову піднялася, ймовірно, з тих самих причин», — сказав Нг, натякаючи, що індустрія вже раніше підсилювала катастрофічні сценарії розвитку ШІ частково для того, щоб вплинути на регулювання й отримати публічний розголос.
На його думку, галузі варто зосередитися не на сценаріях вимирання людства, а на «практичних інженерних проблемах» — тестуванні систем і вдосконаленні захисних механізмів.
Що спричинило нову хвилю дискусій
Поштовхом до нового витка суперечок стала заява колишнього дослідника Anthropic та OpenAI Джейкоба Коксона, який попередив, що ШІ-компанії «женуться до створення суперінтелекту» і можуть «убити всіх нас до кінця десятиліття». Після цього CEO Anthropic Даріо Амодей та CEO OpenAI Сем Альтман публічно закликали до посилення заходів безпеки та сповільнення темпів розробки передових моделей.
Нг визнав, що штучний інтелект несе реальні ризики, зокрема пов’язані з кібербезпекою, але наполягає, що індустрія має концентруватися на конкретних інженерних задачах, а не на сценаріях вимирання.
Це не перша подібна заява Нг: раніше, ще у грудні 2023 року, під час форуму Сенату США він оцінював імовірність вимирання людства через штучний інтелект приблизно в одну на десять мільйонів протягом наступного століття.
Не єдиний скептик
Скепсис щодо «алармістської» риторики висловив і інвестор Стів Айсман, відомий передбаченням фінансової кризи 2008 року, — про нього йшлося в книзі й екранізації «Гра на пониження». Виступаючи на CNBC, він заявив, що ШІ-компанії можуть мати комерційні мотиви за своїми попередженнями про безпеку.
«Я вважаю все це нісенітницею. Ці компанії дуже нервують. Вони розуміють, що навколо їхнього бізнесу немає жодних захисних бар’єрів (moats), і намагаються сфабрикувати кризу, яка призведе до регулювання», — сказав Айсман, додавши, що подібне регулювання зрештою може лише посилити позиції найбільших гравців ринку та закріпити їхню монополію.
«Чесно кажучи, я вважаю всю цю історію про „Термінатора“ маячнею», — додав інвестор.
Схожу позицію публічно демонструють і інші представники індустрії:
- CEO Nvidia Дженсен Хуанг заявляє, що «безпека — це інженерна проблема, а не юридична», і компанії можуть рухатися швидко, зупиняючись лише тоді, коли системи справді небезпечні.
- CEO Meta Марк Цукерберг вважає, що конкуренція та юридична відповідальність самі по собі створюють достатньо стимулів для безпечної розробки ШІ — без потреби в скоординованому сповільненні галузі.
- Президент США Дональд Трамп зайняв ще більш скептичну позицію, назвавши побоювання щодо ШІ «містифікацією» (hoax) і виступивши проти будь-яких заходів, які можуть сповільнити американську гонку ШІ проти Китаю.
Ширший кон
Дискусія навколо темпів розвитку штучного інтелекту цього тижня стала однією з центральних тем у технологічній індустрії. З одного боку — заклики частини дослідників і навіть керівників провідних лабораторій до обережності й сповільнення; з іншого — представники бізнесу та політики, які наполягають, що надмірна обережність лише загальмує технологічний прогрес і послабить конкурентні позиції США.
Позиція Нг вписується у другий табір: він не заперечує наявність реальних ризиків ШІ, але вважає, що фокус на гіпотетичних сценаріях вимирання людства відволікає увагу й ресурси від практичної роботи над безпекою систем, яка триває просто зараз.