Колись найпопулярніший у світі ютубер PewDiePie (109 млн підписників) представив власну LLM-модель Ajax, яка працює локально, без хмарних сервісів і з вимкненими обмеженнями відповідей. У новому відео він також розкрив, що під час роботи над нею OpenAI двічі блокувала його обліковий запис. Про це повідомляє Tom’s Hardware.
Нова модель створена для Odysseus, самостійно розгорнутого ШІ-середовища автора, де вона працює автономним асистентом у постійному режимі. За принципом дії система нагадує OpenClaw і Hermes Agent від Nous Research.
Технічно Ajax є дотренованою версією Qwen3.5-9B від Alibaba. На сторінці проєкту обіцяють, що вона виконуватиме повсякденні завдання: пошук, перегляд сайтів, робота з поштою та календарем, причому «цілком приватно». Обмеження відмов зняли свідомо, і розробник просить користувачів поводитися відповідально. Відео стало продовженням запуску Odysseus, який відбувся в травні.
Як працює «розцензурування»
Для цього автор скористався автоматичною аблітерацією через відкритий інструмент Heretic. Він знаходить запити, на які модель відмовляється відповідати, виявляє в ній механізм відмови й прибирає його, бажаючи не завдати «ушкодження мозку» зайвим втручанням.
Межу PewDiePie провів там, де починається шкода іншим людям або самому користувачу. За порадою юриста він запевняє, що модель не призначена давати небезпечних інструкцій. Приклад, який він наводить, стосується ядерної зброї, але реальні кордони дозволеного залишаються нечіткими.
Двічі забанений за дистиляцію
Найгучніша частина відео стосується блокувань. Згідно листа OpenAI, який показав автор, одне з них було прямо пов’язане з дистиляцією, тобто навчанням однієї моделі на відповідях або міркуваннях іншої. PewDiePie визнав, що хотів «трохи продистилювати», аби покращити власну розробку.
Перший акаунт йому повернули. Вдруге його заблокували після того, як він знову запустив модель, щоб створити початкові дані для навчання. Автор здивувався, як компанія взагалі це помітила, адже в листі немає жодних конкретних прикладів. Він також натякнув, що заклики не користуватися чужими даними звучать дивно з боку компаній, які власні моделі навчали на масивах чужого контенту.
Великі лабораторії, зокрема OpenAI та Anthropic, активно приховують міркування своїх моделей, використовуючи для цього, зокрема, шифрування. Нещодавно OpenAI пов’язала з Moonshot AI кампанію з вилучення цих прихованих міркувань. Ідеться про масштабну спробу, що сягнула піку у 16 тисяч користувачів за дві доби.
Ставка на маленькі моделі
PewDiePie переконаний, що невеликі моделі, натреновані під конкретне середовище виконання, є розумною альтернативою «трильйонним» гігантам. На його думку, використовувати величезну модель для буденних справ позбавлено сенсу. Своє завдання він бачить у дослідженнях та створенні моделі, зручної в користуванні, а це означає й невеликий розмір.
Для подальшого навчання автор закликав шанувальників надсилати власні дані як кращу альтернативу збору інформації від користувачів Odysseus. За його словами, ніхто так і не відгукнувся.
Що далі
Перед випуском наступної версії PewDiePie планує ще два дні навчання з підкріпленням. Потім він знову запустить розцензурування, проведе квантизацію та тести продуктивності. Odysseus, за його словами, також отримав велике оновлення.
Назву проєкт обрав невипадково: в античному міфі Аякс був суперником Одіссея. Втім, сам автор жартує, що назвав його на честь побутового засобу для чищення.
Нагадаємо, що китайські компанії готують LLM на 40 трильйонів параметрів — всупереч заклику до уповільнення штучного інтелекту.