Штучний інтелект не стане автоматичним інструментом пошуку правди. Навпаки, він може зробити інформаційне середовище значно складнішим і ускладнити відрізнення фактів від вигадок. Таку думку висловив ізраїльський історик, філософ і футуролог Ювал Ной Харарі.
Харарі відповів на запитання журналіста Тома Паркера під час інтерв’ю на гала-вечері з нагоди 50-річчя EDP. Його запитали, чи стає людству складніше визначати, що є правдою, в умовах поширення штучного інтелекту, діпфейків та іншої синтетичної інформації.
За словами історика, проблема з пошуком правди виникла задовго до появи ШІ. Людство протягом історії створювало дедалі складніші системи, які пересічній людині важко повністю зрозуміти.
Однак розвиток генеративного ШІ може значно посилити цю проблему.
Вигадка дешевша за правду
Харарі звертає увагу на фундаментальну нерівність між правдою та вигадкою.
Щоб встановити правду, потрібно витратити час і ресурси: знайти факти, перевірити джерела, зіставити інформацію та оцінити її достовірність. Вигадану історію створити значно простіше.
Крім того, правдиве пояснення часто буває складним, суперечливим або неприємним. Вигадку ж можна зробити простою, зрозумілою та такою, що підтверджує переконання людини. «Вигадка, як правило, перемагає, якщо ми не докладемо особливих зусиль для підтримки правди», — заявив Харарі.
На його думку, саме тому людство створило інституції, які спеціалізуються на пошуку та перевірці інформації. Серед них він називає журналістику та наукову спільноту.
ШІ не стане «машиною правди»
Харарі застеріг від очікувань, що штучний інтелект автоматично вирішить проблему пошуку достовірної інформації.
За його словами, цього не станеться. Навпаки, ШІ створить набагато складніше інформаційне середовище, де людині буде важче визначати, що є правдою.
Причина не лише в діпфейках чи текстах, створених генеративними моделями. ШІ здатен радикально збільшити кількість контенту, який створюється та поширюється в інформаційному просторі.
У такому середовищі проблема вже полягає не тільки в тому, що неправдиву інформацію можна створити. Її можна створювати швидше, дешевше і в набагато більших масштабах.
Людство знає більше, але розуміє менше
Харарі пов’язує цю проблему з довготривалою тенденцією розвитку людської цивілізації.
За його словами, протягом історії люди накопичили величезний обсяг знань про фізику, біологію, хвороби та природні процеси. Але паралельно вони створили дедалі складніші системи, від яких залежить повсякденне життя.
Історик пропонує порівняти сучасну людину з мисливцем-збирачем, який жив 50 000 років тому.
Та людина могла майже нічого не знати про складні механізми міграції тварин, хвороби чи процес старіння. Водночас вона значно краще розуміла безпосереднє середовище, від якого залежало її життя.
Сучасна людина знає набагато більше про світ, але її життя залежить уже не лише від природи. На нього впливають величезні економічні, політичні, технологічні та соціальні системи, створені самими людьми.
І чим складнішими стають ці системи, тим важче окремій людині зрозуміти, що насправді відбувається.
Правду важливо знати навіть тоді, коли вона неприємна
За словами Харарі, проблема пошуку правди має не лише суспільний, а й особистий вимір.
Людині необхідно розуміти правду про власне життя, щоб знати джерела свого щастя та страждання. Навіть великі ресурси чи влада не гарантують щастя, якщо людина не розуміє себе та не знає, як правильно використовувати свої можливості.
При цьому правда часто буває болючою. Вона може змушувати людину дізнаватися неприємні речі про себе, власну країну або групу, з якою вона себе ототожнює.
Вигадка в цьому сенсі має перевагу: її можна зробити приємною, простою та такою, що лестить споживачеві.
Саме тому, на думку Харарі, в епоху ШІ роль інституцій, які перевіряють інформацію, ставатиме ще важливішою, а не меншою.
«ШІ має бути в руках кожного». Цукерберг опублікував маніфест про майбутнє ШІ і назвав головний ризик розвитку суперінтелекту
Джерело: www.ukrinform.ua