Поширити Джерело: online.ua
За прогнозами дослідників з Кембриджського центру Леверхалма з вивчення штучного інтелекту, наразі вже є системи ШІ, здатні маніпулювати людськими думками робити самостійні висновки та прогнози.
Головні тези:
- Розвиток генеративного штучного інтелекту відкриває можливості для маніпуляції думками та намірами людини.
- ШІ-помічники зможуть впливати на рішення людини та продавати ці наміри реальним компаніям.
- Штучний інтелект матиме доступ до інтимної інформації про користувачів, що дозволить здійснювати маніпуляції.
- Економіка намірів стає ключовим пріоритетом для розвитку технологій, за яких можна відслідкувати ранні ознаки впливу ШІ.
- Події, пов’язані з розвитком штучного інтелекту, мають потенціал стати небезпечними для суспільства та мають руйнівний ефект.
Що відомо про загрозу встановлення ШІ контролю над людськими думками
Дослідники попереджають, що розвиток генеративного ШІ і знайомство все більш широкого кола людей з чат-ботами відкривають горизонти для вдосконалення технологій переконання.
За прогнозами науковців, вже зовсім скоро почнуть з’являтись помічники на базі ШІ, які робитимуть прогнози, а також впливатимуть на прийняття людиною рішень, а також продаватимуть ці наміри в режимі реального часу компаніям, зацікавленим у задовільненні потреб людей ще до того, як вони усвідомлять, що прийняли певне рішення.
Людина і ШІ
Фахівці застерігають стосовно того, що ми перебуваємо на початку надзвичайно прибуткового, однак дуже тривожного ринку цифрових сигналів намірів, які включатимуть купівлю квитків у кінотеатр, та процес голосування на виборах.
Власні прогнози дослідники будують на тому, що вдосконалені помічники на базі ШІ матимуть доступ до великої кількості оведінкових і психологічних даних користувачів, які збиратимуть під час діалогу.
Те, що люди говорять під час розмови, як вони це кажуть, і тип висновків, які можна зробити в режимі реального часу, — це набагато інтимніша інформація, ніж просто записи онлайн-взаємодій, — пояснює науковий співробітник LCFI д-р Якуб Чаудхарі.
Поширити
До чого йде вдосконалення ШІ моделей
Дослідники прогнозують, що економіка намірів є одним з ключових прагнень під час розвитку технологічної сфери, однак ранні ознаки цієї тенденції можна відслідкувати вже зараз.
Науковці включають у це заклик до "даних, які виражають наміри людини будь-якою мовою, на будь-яку тему і в будь-якому форматі" в повідомленні в блозі OpenAI за 2023 рік, а директор із продуктів Shopify на конференції того самого року говорив про появу чат-ботів, які "явно визначатимуть наміри користувача".
У 2024 році нова платформа розробки "App Intents" від Apple для під'єднання застосунків до Siri містить протоколи для "передбачення дій, які хтось може здійснити в майбутньому" і "пропонування наміру застосунку комусь у майбутньому з використанням наданих розробником прогнозів".
Науковці кажуть, що ці події не обов'язково погані, але потенційно можуть бути руйнівними.
Источник: online.ua