На росії прагнуть створити власний “суверенний” штучний інтелект, який працюватиме на російській інфраструктурі та відповідатиме “традиційним духовно-моральним цінностям”.
Розробка передбачає створення великої мовної моделі. Критерії для неї визначає російське Міністерство цифрового розвитку разом із ФСБ та Федеральною службою з технічного й експортного контролю. ШІ перевірятимуть на відповідність таким цінностям, як патріотизм, “служіння Вітчизні”, міцна сім’я, колективізм, єдність народів росії, пріоритет духовного над матеріальним та “історична пам’ять”.
Для оцінки моделі готують спеціальні бенчмарки – набори запитань та завдань. Під час тестування також намагатимуться навмисно “збити” модель з “правильного” курсу.
Згідно з даними російських медіа, розробкою цих бенчмарків займеться компанія “Яндекс”. Водночас ФСБ прагне зробити цей набір даних закритим. Представники бізнесу висловлюють побоювання, що закритий бенчмарк може виявитися надто складним і загальмувати розвиток моделей.
Лабораторії використовуватимуть промпт-ін’єкції – специфічно сформульовані запити, які можуть спонукати ШІ обійти власні обмеження. Це робиться для перевірки, чи не почне модель видавати небажані державою відповіді, коли користувач знайде спосіб її правильно запитати.
Схожий підхід раніше спостерігався у Китаї, де ШІ-моделі мають відповідати “основним соціалістичним цінностям”. Наприклад, оновлена DeepSeek R1 почала частіше цензурувати політично чутливі теми та відтворювати офіційну позицію китайської влади.
Джерело: www.ukrinform.ua