Генеральний директор OpenAI Сем Альтман визнав, що розуміє втому математиків від нескінченного потоку результатів, згенерованих ШІ. Однак припиняти цей потік він не збирається, а ще й натякнув, що компанія тримає в запасі значно більше, ніж уже оприлюднила. За його оцінкою, на математичні задачі OpenAI витратила сотні мільйонів доларів. Про це пише The Verge.
«Люди заслуговують знати, як влаштований Всесвіт»
Альтман роз’яснив свою позицію в епізоді подкасту Cheeky Pint, який вийшов у четвер. За його словами, люди заслуговують на розуміння того, як працює Всесвіт, але він співчуває тим, кого зачіпає сам метод. Це одна з перших його публічних реакцій на те, який вплив OpenAI справляє на математичну спільноту.
Він наполягає, що право суспільства на нові наукові знання «переважує» незручності від релізів компанії, хоч і визнає: способи комунікації варто покращувати. Альтман сказав, що не має жодних сумнівів у цьому питанні: людство заслуговує на фундаментальні знання, а компанії не можна мовчки тримати при собі велике наукове відкриття.
Чому математики невдоволені
Раніше OpenAI оголошувала низку справді вражаючих результатів, створених ШІ. Втім, їхній випуск часто був хаотичним і погано пояснювався, через що дослідники розгубилися й не встигають за темпом, хоч загалом і цікавляться потенціалом штучного інтелекту як інструмента відкриттів.
Математики, з якими розмовляло видання, неодноразово критикували OpenAI за спосіб подання результатів:
- недостатньо вказано авторство та джерела;
- немає контексту;
- перевірка результатів недостатня.
Цю кропітку роботу з перевірки та осмислення доводиться виконувати самим науковцям, а компанія тим часом випускає нові. Лише цього місяця OpenAI оприлюднила сотні математичних результатів, часто з короткими поясненнями, які дослідники називають погано написаними й складними для розуміння.
Парадокс: тепер критикують за мовчання
Є й протилежна проблема. OpenAI дорікають саме за те, проти чого виступає Альтман: за утримання потенційно важливих результатів. Цього тижня математики та науковці розповіли про своє розчарування тим, що вони розцінюють як обмеження доступу до досліджень. Йдеться про анонс трьох великих проривів у математиці, фізиці та інформатиці.
Подробиці одного із заявлених результатів, пов’язаного з теорією Янга — Мілса (математичною основою сучасної фізики елементарних частинок), досі не опубліковано. OpenAI пояснює це рекомендаціями добірної групи експертів, з якими компанія радилася про найкращий спосіб випуску. Така практика суперечить порадам попередньої групи математиків, яких компанія залучала раніше, але вписується в новий підхід OpenAI до комунікації результатів.
«Звісно, маємо»: запаси відкриттів
На запитання, чи є в компанії більше доведень, ніж уже опубліковані сотні, Альтман відповів коротко: «Маємо. Звісно».
Альтман також визнав, що гонитва OpenAI за математичними задачами на короткий час справді «вийшла з-під контролю». За його словами, це було свідомо й необхідно, щоб перевірити межі можливостей моделей. Він розповів про внутрішній канал у Slack під назвою «Model Name-Hold My Beer», де співробітники кидали моделі на найскладніші задачі, які тільки могли знайти, щоб побачити результат.
Скільки це коштує
За оцінкою Альтмана, на математичні задачі OpenAI витратила порядку сотень мільйонів доларів. Приблизно $10 млн, «а може, й трохи більше», пішли на розв’язання задачі Нав’є — Стокса, однієї з легендарних проблем тисячоліття.
Ці цифри показують, які ресурси ШІ-лабораторії готові кидати на наукові завдання. Дослідники вже висловлюють побоювання, що їх можуть просто витіснити з власних галузей через неспівмірність бюджетів.
Для математиків і науковців, які сподівалися на перепочинок, новини, схоже, невтішні.
Подробиці можна знайти на сайті: highload.tech