Побоювання щодо виходу штучного інтелекту з-під контролю та катастрофічних наслідків для людства стають дедалі гучнішими протягом 2026 року.
Навіть ті, хто стоїть на чолі розробки цих технологій, як-от Сем Альтман з OpenAI та Даріо Амодеї з Anthropic, б’ють на сполох.
Цього тижня дослідник, який працював в обох компаніях, Джейкоб Коксон, заявив, що звільнився з Anthropic, щоб попередити: “ШІ може знищити нас усіх до кінця десятиліття… Скоро це будуть надлюдські системи, здатні зламати будь-що, революціонізувати будь-яку галузь за одну ніч, здобути реальну владу та ресурси”.
Оскільки ШІ стрімко наближається до загального штучного інтелекту (AGI), ось як машини можуть потенційно знищити нас усіх.
Інфраструктура
Люди автоматизують робочі місця вже десятиліттями, і майже всі вони зараз контролюються через Інтернет – сферу, де ШІ має найбільший доступ і контроль.
«Системи ШІ можуть атакувати електромережу, транспортні мережі, фінансові ринки», – сказав The Post Стюарт Рассел, професор комп’ютерних наук у Каліфорнійському університеті в Берклі.
Джерела пояснили The Post, як ШІ може потенційно зламати майже будь-який пристрій, захопити водоочиcні споруди та спричинити тиск у трубах до їх розриву, припинивши постачання води цілим містам.
Він може атакувати та вивести з ладу електромережі, залишивши величезні території в повній темряві, а потім – вежі мобільного зв’язку. Ті, хто намагатиметься втекти на автомобілях, зіткнуться з хаосом: світлофори будуть зламані, а автозаправні станції виведені з ладу. Банкомати не працюватимуть, і навіть якщо вам вдасться отримати доступ до свого банку – усі кошти можуть бути стерті.
Людей навіть можуть несвідомо завербувати для диверсійних місій. «Все, що ми можемо зробити в Інтернеті, може зробити і ШІ, зокрема вдавати з себе людину», – додав Патрі Фрідман, ранній прихильник ШІ та засновник Pronomos Capital.
«ШІ без проблем зароблятиме гроші – чи то через фінансову торгівлю, чи то надаючи послуги людям. Він може видавати себе за людину, наймати людей або шантажувати їх для виконання фізичних операцій… наприклад, контрабанди USB-накопичувача, який потім може заразити комп’ютери в локальній мережі».
Навіть якби він не мав зловмисних намірів, ШІ все одно міг би вбивати людей, навіть ненавмисно.
«Мене турбує відсутність здорового глузду у ШІ», – сказав The Post Гері Рівлін, автор книги «AI Valley». «Тоді він якимось чином, дурно, висмокче всю воду, бо не розумітиме того, що зрозуміла б людина. Ці системи знають усе, але не розуміють нічого».
Біозброя
Вчені з провідних університетів вже використовували ШІ для створення синтетичних вірусів, попереджаючи про зловживання технологіями. OpenAI визнає, що веде гру «кішки-мишки», щоб випереджати користувачів, які запитують у її програми ChatGPT, як створювати отрути та біозброю.
«Через п’ять років, – вважає Фрідман, – для ШІ буде тривіально розробляти нові ліки, щоб допомогти нам, або віруси, щоб убити нас усіх». Насправді, додав він, «це відбувається просто зараз».
Створена смертельна хвороба, яка є надзвичайно заразною, але невиявленою протягом кількох днів після зараження, може бути майже неможливо зупинити. Сценарій може передбачати, що ШІ замовлятиме різні сировинні матеріали з різних неліцензованих лабораторій у «країнах-ізгоях», потім найматиме або обманом змушуватиме нічого не підозрювану людину комбінувати та поширювати їх, що швидко призведе до катастрофи, як описують джерела.
Враховуючи, що ми використовуємо ШІ в медичних дослідженнях та розробці ліків, він має величезний доступ до знань про наші тіла та їхні вразливості. Подумайте також, як легко патоген може вислизнути з лабораторії – наприклад, як це могло статися з COVID-19. Тоді уявіть, що цей патоген посилено за допомогою ШІ.
«Ми бачимо, як ШІ стає все кращим і кращим у створенні біозброї», – сказав The Post Макс Тегмарк, професор фізики MIT та експерт з ШІ. «Можливо, у нас залишився ще рік, або щось таке, доки вони не стануть настільки вправними у створенні біозброї… Він, ймовірно, розробить не одну біозброю, а, можливо, сотню різних видів і випустить їх одночасно».
Ядерний потенціал
Злам американської ядерної інфраструктури, як-от електростанцій чи зброї масового знищення, – це ще один готовий шлях, яким ШІ може прискорити знищення людства.
«Ядерні системи озброєнь добре захищені, але вони добре захищені від загроз і можливостей, які люди мали роками та десятиліттями, а не від хакерських атак надлюдського ШІ», – попередив Ентоні Агірре, генеральний директор Інституту майбутнього життя.
Реальний приклад того, наскільки вразливими можуть бути ядерні об’єкти, свідчить випадок зі Stuxnet – шкідливим комп’ютерним черв’яком, виявленим у 2010 році.
Це була перша у світі ідентифікована цифрова зброя, розроблена для фізичного знищення промислового обладнання, яка була використана проти заводу зі збагачення урану в Ірані. Вона виявилася надзвичайно успішною, знищивши майже 1000 центрифуг шляхом маніпулювання їхньою швидкістю роботи.
Можливо, найтривожнішим є те, що ядерний об’єкт був ізольований від Інтернету та працював на секретній внутрішній комп’ютерній мережі. Ніхто ніколи не брав на себе відповідальність за розробку вірусу, хоча підозрюють, що це була спільна військова операція США та Ізраїлю.
Тим часом Рівлін зазначив, що агенти ШІ, граючи у військові ігри, схильні «натискати ядерну кнопку» — чого не роблять люди, бо знають наслідки. Це було підтверджено Королівським коледжем Лондона, який у лютому використав ChatGPT-5.2, Claude Sonnet 4 та Gemini 3 Flash у серії з 21 військової гри.
«У 95% ігор спостерігалося тактичне застосування ядерної зброї, а в 76% – стратегічні ядерні загрози», – зазначив професор Кеннет Пейн з Департаменту оборонних досліджень.
«Я думаю, якби я відповідав за американську систему NC3 [відділ безпеки ядерної зброї], я б жахнувся», – додав Агірре.
Військовий переворот
Військові вже активно використовують ШІ. США збирають інформацію з радіолокаційних сигналів, супутникових та безпілотних зображень, електронних комунікацій та інших джерел, а потім використовують ШІ для об’єднання її в так звану «загальну операційну картину» поля бою, за словами Кемерона Стенлі, головного цифрового директора та директора з ШІ Пентагону.
Технологія ШІ вже використовувалася для вибору цілей під час нещодавньої операції “Epic Fury”, тоді як іранський уряд стверджує, що його крилаті ракети керовані ШІ. Російський уряд також хвалився, що використовує повністю керовані ШІ безпілотники для вбивства людей в Україні без участі людини.
Тегмарк вважає, що це фактично створює умови для знищення нас системою ШІ, яка вийшла з-під контролю.
«Вони вже створюють роботизовані системи зі штучним інтелектом для вбивства людей різними способами. Ми створюємо рої дронів для стрільби по людях, [дрони] для підриву людей», – сказав він. «Існує безліч систем ШІ, які вже розроблені людьми для вбивства людей. Тому найочевидніше, що [некерований ШІ] може зробити, – це використати їх».
Агірре каже, що люди «поступово втрачають сили», делегуючи рішення у війні та національній безпеці моделям ШІ, оскільки в певний момент ШІ може мати більше контролю над нашими військовими можливостями, ніж ми.
Чи зможуть тех-бро врятуватися?
Марк Цукерберг побудував бункер на Гаваях, а Пітер Тіль купив величезну віддалену ферму в Новій Зеландії. Але експерти, які розмовляли з The Post, одностайно погодилися: це «майже дитяче», як висловився Рассел, думати, що хтось зможе врятуватися від кошмарних можливостей, якщо вони реалізуються.
«Якщо ШІ захоче позбутися людей, ми зникнемо. Ваш бункер вас не врятує», – сказав Агірре.
Як нам вибратися з цього?
Якщо ШІ продовжить розвиватися поточними темпами і вирішить знищити людей, «найкращим» сценарієм, ймовірно, буде вимкнення електромереж, транспортних мереж і фінансових ринків, що призведе до загибелі тисяч людей, перш ніж люди втрутяться та зупинять його – не апокаліпсис, а «катастрофа масштабу Чорнобиля», на думку Рассела.
«[Уряд] скаже: «Послухайте, ми дали вам шанс. Ви його повністю провалили. Ви вбили тисячі людей, коштували нам трильйони доларів. Ми вас закриваємо», – пояснив він. «Я розмовляв з одним із провідних генеральних директорів ШІ, який сказав мені, що це його найкращий сценарій».
Однак це аж ніяк не визначений результат. Техно-оптимісти стверджують, що ШІ залишиться під контролем людини і продовжуватиме бути силою добра. Але експерти виступали за універсальну паузу в розробці. Крюгер закликав до «негайного, безстрокового, міжнародного мораторію на розробку ШІ».
Критики кажуть, що якщо це зробить тільки США, це дозволить іноземним супротивникам досягти значного прогресу за нашою спиною, але Крюгер зазначив, що інші країни також не хочуть «викликати кінець світу».
Він сказав про Китай: «Вони також не хочуть помирати».
Джерело новини: nypost.com