Вместе с этим Sama выпустил эссе «Изобилие интеллекта», оригинал тут, а перевод — ниже:

Рост использования AI-сервисов был поразительным; мы ожидаем, что в будущем он будет ещё более впечатляющим.

По мере того как AI становится умнее, доступ к AI станет ключевым двигателем экономики, а возможно, в конечном итоге мы будем рассматривать его как одно из фундаментальных прав человека. Почти каждый захочет, чтобы AI работал в его интересах.

Чтобы обеспечить то, что нужно миру — вычислительные мощности, чтобы запускать эти модели, и для обучения, чтобы делать их всё лучше и лучше — мы закладываем основу, позволяющую существенно расширить наши амбиции по созданию инфраструктуры для AI.

Если AI продолжит развиваться по тому пути, который мы предполагаем, то станут возможны удивительные вещи. Может быть, с 10 гигаваттами вычислительных мощностей AI сможет найти лекарство от рака. Или, может быть, с 10 гигаваттами вычислений AI сможет обеспечить индивидуальное обучение каждому ученику на планете. Если же нас ограничат вычислительные мощности, нам придётся выбирать, что приоритетнее; никто не хочет делать такой выбор, поэтому давайте займёмся делом.

Наше видение простое: мы хотим создать фабрику, способную производить гигаватт новой AI-инфраструктуры каждую неделю. Реализация этого проекта будет чрезвычайно сложной: нам понадобятся годы, чтобы достичь этой цели, и инновации на каждом уровне, от чипов и электроэнергии до строительства и робототехники. Но мы уже активно работаем над этим и уверены, что это возможно. На наш взгляд, это будет самый крутой и важный инфраструктурный проект в истории. Особенно здорово, что значительную часть этого мы планируем построить в США; сейчас другие страны строят производства микросхем и новые источники энергии намного быстрее, чем мы, и мы хотим помочь изменить эту ситуацию.

В течение ближайших нескольких месяцев мы расскажем подробнее о наших планах и партнёрах, с которыми работаем для реализации задуманного. Позже в этом году мы поделимся информацией о том, как будем финансировать проект; учитывая, что увеличение вычислительных мощностей буквально означает увеличение доходов, у нас есть несколько интересных новых идей.

АМОГУС, но вместо игроков — LLM'ки: так выглядит новый интерактивный бенчмарк от 4wallai.

Among AIs оценивает мышление и дедукцию, навыки обмана и убеждения, и Theory of Mind (как одна модель может подумать о том, о чём думает другая). Авторы провели 60 игр и считали количество побед за мирных и за импосторов (предателей).

Наибольшее количество побед там и там — у GPT-5; Opus'а нет :( на втором месте Sonnet 4, дальше Kimi K2.

Видео-запись одной игры: https://youtu.be/1dxJaEyPUYw

Блогпост: https://www.4wallai.com/amongais , там можно почитать транскрипты игр, посмотреть, как модели «оправдываются» и выкручиваются, пытаясь обмануть других и доказать, что они — мирные. Плюс авторы проанализировали результаты голосований за выкидывание игрока, и получили инсайты в духе «GPT-5 причиняет меньше всех вреда команде» и «GPT-5 не говорит подозрительно, и потому не подвергается обвинениям».

«...Первоначально некоторые функции будут доступны только Pro-подписчикам, а за некоторые новые продукты будет взиматься дополнительная плата.»

Созвонились с @denissexy, обсудили, что это могут быть за фичи и продукты. Что пришло в голову:

1. Sora 2, существенно лучше генерация, возможно, аудио. Генерация видео дорогая, если смотреть ценник Veo 3, так что можно ожидать pay-as-you-go оплату. К сожалению, самый малоинтересный для меня вариант :(

2. UltraMega DeepResearch — агент для поиска информации и составления отчётов, в котором под капотом происходит анализ гораздо большего количества веб-страниц / ваших документов (почта/гугл-диск/итд). DeepResearch это продукт с понятной нишей, бизнесы уже начали адаптировать решения для аналитики. Улучшение на условные 10-15% абстрактной метрики за счёт большего количества рассуждений и параллельны генераций может окупиться.

3. Codex Ultra — то же самое, что написал выше для DR, но конкретно для программирования.

4. Agent 2 — тоже улучшение существующего продукта; он уже бывает полезен, но надёжности не хватает. Вот если бы на каждое действие можно было дёргать GPT-5 Pro... (но будет дорого и долго)

5. Local Agent — сейчас Agent работает только в браузере на своей виртуальной машине и не может пользоваться обычными приложениями. Не пора ли расширяться?

6. GPT-5.5 Pro — супер-ультра-мега рассуждающая LLM на основе огромной модели (условно GPT-4.5, уже недоступной в API). Медленная, но знает кучу нюансов. Мой персональный фаворит, хочуууу!

6.1 Возможно то же самое, возможно, нет — доступ к экспериментальной системе, которая повыигрывала летом-осенью разные олимпиады. Мы точно знаем, что её планировали запустить к концу года, что она есть и что она очень дорогая.

7. Не могу придумать полностью новые продукты :( Кидайте в комментарии ваши идеи!

Дальше на основе этих данных хочется обучить свою модель. Так как на дворе весна 2025-го, и DeepSeek R1 уже вышла, и рассуждающие модели на хайпе, то хочется учить модель через Reinforcement Learning-подходы с рассуждениями по типу GRPO. Но если базовая модель показывает около-нулевое качество, то вы рискуете потратить много ресурсов вникуда, поэтому почти всегда делают cold start — «прогрев» модели данными в нужном формате и релевантные задаче.

Для этого берут GPT-4o / QwQ‑Plus (была такая рассуждающая модель у AliBaba) и промптят их в ReAct-стиле: дают наблюдение, просят выбрать одно из действий, выполняют его и результат добавляют в промпт, и так делают в цикле, пока выбранное действие не будет «дать ответ».

Доступных действий, описанных в промпте, 3:
— поиск (принимает на вход текстовый запрос, который отправят в условный гугл, и год для фильтра выдачи поиска)
— перейти по ссылке (принимает на вход URL из выдачи поиска и цель перехода на страницу, о ней ниже)
— дать ответ (просто строка с ответом, если модель решит, что информации достаточно)

Поиск возвращает топ-10 результатов в виде ссылок и краткого сниппета (как вы видите на странице гугла). Когда модель решает перейти по той или иной ссылке, она описывает «цель» — какую частичку информации на этой странице нужно найти. И дальше контент этой страницы, вопреки интуиции, НЕ попадает в промпт модели — вместо этого вся странница суммаризуется запромпченным Qwen-2.5-72B, который получает на вход цель.

Например, если нам нужно найти год рождения какого-то деятеля, то поисковый запрос может включать его имя, первая ссылка будет на Википедию, и агент решит выбрать действие «перейти по ссылке», передав в качестве цели «год рождения». Qwen-2.5-72B сделает суммаризацию так, чтобы сохранить ответ с учётом этой цели — такое называется aspect based summarization. Этот результат передадут обратно агенту в качестве наблюдения, и он уже может решить, что делать дальше — давать окончательный ответ, снова искать или переходить по другой ссылке, если вдруг нужной информации не нашлось.

Этот цикл из «наблюдение — рассуждения —действие» прогоняется для каждого вопроса по 10 раз: 5 раз GPT-4o и 5 раз QwQ-Plus; у них слегка отличаются промпты из-за специфики рассуждающих моделей и форматов ответов. Цепочки рассуждений у QwQ-Plus длиннее, ибо это рассуждающая модель, и все они сохраняются для дальнейшего дообучения моделей.

Дальше выкидывают все вопросы, на которые модель ни разу не смогла ответить правильно. К сожалению, это не означает, что данные качественные, поэтому их фильтруют в 2 этапа:

— выкидывают траектории, где были нарушения формата вызова действий (tool calls, вот эти «поиск», «перейти по ссылке» и «дать ответ»)
— в траекториях, где больше 2 действий, часто наблюдаются галлюцинации и повторения, когда модель ходит по кругу; их обнаруживают через эвристики и подсчёт n-грамм и выкидывают. Тут же делают фильтр по критериям «отсутствие избыточной информации, согласованность, логическое обоснование, точность», но промпт для этого не приводят.

Итого после всех фильтраций у GPT-4o получается 7678 вопросов (из исходных 100 тысяч), в среднем 4.5 действий на ответ и 510 токенов на рассуждения; у QwQ-Plus — 6550 вопросов, 2.31 действий и 1600 токенов рассуждений. Полученные датасеты называются Short-CoT и Long-CoT соответственно — на них тренируют модели Qwen-2.5 разных размеров. Именно эти дообученные модели будут использоваться для RL-стадии.

Тренировка просто в режиме предсказания следующего токена, то есть классический SFT, однако функция потерь не считается на токенах наблюдений (поисковая выдача / саммари веб-страниц; всё то, что пишет не обучаемая модель).

Лучший результат получается у дообученной QwQ на 32 миллиарда параметров — на 10%+- лучше, чем Qwen-2.5 такого же размера. Однако здесь есть интересный момент — помните мы по итогу нафильтровали два набора данных, от GPT-4o (Short-CoT) и QwQ (Long-CoT)?

Авторы обучают обычные Qwen на каждом из них, а также QwQ, и замеряют метрики, включая Inv (Invalid) — доли ответов, где модель ушла в само-повторения, ошибается с форматом ответом или сходит с ума по другому.

Если тренировать на Short-CoT, на ответах GPT-4o, то это происходит редко (левая половина таблицы). Если на Long-CoT, от QwQ, то основные метрики поиска выше (колонки Pass@3 и Cons@3), но и доля невалидных ответов выше — на 10-20% (самая правая колонка)!

Объяснения никакого не приводится, но я думаю что это связано с качеством самой QwQ, она всё же во многом была экспериментальной, немного «дикой», и цепочки рассуждений могли быть шумными и плохо написанными, потому обучение на них приводит к такому результату.

===

Обратите внимание, что мы всё ещё не ушли от парадигмы вопросов с простым односложным ответом — это не то же самое, что Deep Research от OpenAI, где на ваш запрос выдадут целый отчёт на несколько страниц. Я бы сказал, что каждая часть пайплайна из описанных выше нуждается в прокачке: от данных для валидации и тренировки до RL-процедуры. Что с этим сделают? Узнаем в следующих сериях!

Итак, чтобы научить модель отвечать на такие вопросы нужен датасет. Авторы описывают примерный процесс его создания, но в этот раз опускают множество деталей, не указывают промпты, и кода нет — поэтому воспроизвести на коленке не получится.

Первым делом нужно получить граф. Узлы в графе представляют сущности, а рёбра — отношения между сущностями. Берут граф из Wikidata — базы знаний, принадлежащей Wikipedia и как раз хранящей миллионы связей. В эту базу можно писать запросы на SPARQL — и через фильтрацию по набору правил авторы получают «редкие» сущности. Что означает редкие — не уточняется: это может быть и популярность страницы / количество упоминаний / связей с другими сущностями.

Затем для этих узлов формируют набор признаков. Написано, что делается это через поиск и переходы по ссылкам — видимо, промптят LLM на выделение атрибутов, а не переиспользуют данные из графа Wikidata; хотя одно другого не исключает.

По этим признакам находятся другие узлы графа, то есть другие сущности. Например, находятся другие сериалы, другие вымышленные персонажи и так далее. Для них тоже формируют признаки.

Затем случайным образом выбирают один из обработанных узлов и повторяют процесс: берут признак, делают поиск, добавляют узлы, формируют признаки. Получается маленький подграф. Чем больше итераций делаем — тем он больше, и тем больше связей / признаков получается.

Ну а дальше из этого графа выбирают случайную подгруппу, и, наверное, дают промпт LLM проанализировать эти данные и сгенерировать вопрос с ответом — про это опять ничего не написано, но не думаю, что придумали что-то сложнее разобранного вчера подхода из WebDancer. Замена конкретных дат / мест на неконкретные расплывчатые делается легко.

Таким образом получают датасет SailorFog-QA. Часть сгенерированных вопросов настолько сложна, что даже мощным моделям вроде o3 требуется до 40 вызовов инструментов (запросов на поиск + переходов по ссылке), чтобы прийти к ответу.

Теперь у нас есть датасет «сложный вопрос — простой ответ». В статье снова предлагается сначала сделать разогрев в SFT-стиле, а затем запускать RL для обучения рассуждениям на самостоятельный поиск ответов, но есть некоторые отличие от WebDancer.

Авторы отмечают, что открытые LRM (Large Reasoning Models), такие как QwQ‑32B, могут иногда порождать корректные траектории поиска ответа на вопрос, прямое дообучение на их рассуждениях работает плохо. Они выделяют две критические проблемы: проблемы со стилем (модели сходят с ума / пишут несусветицу, непонятные тексты) и большое количество воды и ненужных действий (как побочный результат RL). Если на этом обучать агента — получится шлак.

Решение такое:
1) Берём LRM (авторы не говорят какую именно, хотя в прошлые разы говорили про QwQ + она упомянута в контексте. Может быть используют DeepSeek и не хотели писать? Или проприетарные o1/o3 и нарушают правила использования?)
2) Промптим её точно так же, как в прошлый раз: даём возможность отправлять запросы в гугл, смотреть на топ-10 результатов, переходить по ссылкам и получать aspect based summarization. Единственное отличие — теперь HTML-код страницы переводят в удобочитаемый для модели текст с помощью сервиса Jina.AI, а уже его суммаризуют и возвращают агенту
3) для успешных траекторий, где модель чудом пришла к правильному ответу, выкидываем рассуждения. Сохраняем только последовательности пар (наблюдение -> действие). Получается у нас есть «что» и «как», но нет «почему»
4) затем последовательность подают в другую LLM (уже не LRM, скорее всего Instruct-модель) и просят написать краткую цепочку рассуждений, оправдывающую действие (поисковый запрос или выбор ссылки из результата поиска). Это критически важно, и итоговая цепочка рассуждений будет достаточно компактной для многоступенчатых задач.

Такой метод позволяет масштабируемо генерировать данные — и исходных графов куча, и никакая часть процесса не требует вмешательства человека.

На этих данных будут тренировать модель перед RL-шагом, как я написал выше. Ещё сделают две фильтрации:
— по длине, чтобы траектории не были длиннее 32 тысяч токенов (просто у них базовая модель столько поддерживает)
— по количеству вызовов инструментов, чтобы было не меньше 5; количество поисковых запросов/переходов по ссылке можно рассматривать как прокси к сложности, и тогда выходит, что выкидываем самые простые примеры

It's gonna be big: во внутренней записке в слаке Sama написал, что хочет иметь вычислительных мощностей на 250 ГигаВатт к 2033-му году.

Для сравнения: летом в США на пике жары суммарное потребление по стране было ~750 ГигаВатт, в три раза больше, а вне пика в среднем около 500. В Китае цифры 1500 и 1300 соответственно.

2025-й год OpenAI началаис серверами примерно на 230 МегаВатт, а закончить планируют с 2 ГигаВаттами. В ближайшие три года Stargate позволит вырасти ещё примерно на 7.

Sama называет команду OpenAI, стоящую за проектом Stargate, «ключевой ставкой» компании. «Правильное выполнение этого проекта обойдётся в триллионы», и наверняка потребует переработки существенной части цепочки производства.

Источник

В уставе OpenAI AGI, artificial general intelligence, определяется так: высокоавтономные системы, которые превосходят людей в большинстве экономически ценных работ. Самое главное в ИИ гонке — это насколько предоставляемые компаниями инструменты действительно влияют на реальные работы и задачи, и, в конечном итоге, насколько растят экономику. Бенчмарки последних лет выступают в качестве прокси к тем или иным навыкам, которые, как мы верим, нужны для выполнения работы.

Прокси бывают разного качества: по вопросу «сколько слов "клубника" в букве "а"» мы не можем сделать хороших выводов о пользе ИИ-систем в прикладных задачах; SWE-Bench и его разновидности позволяют как-то оценить навыки локализации кусков логики в коде и добавления функционала. OpenAI сделали первую попытку подойти к оценке влияния на ВВП и выпустили GDPval — бенчмарк, охватывающий более тысячи интеллектуальных задач из 44 профессий в 9 областях с наибольшим вкладом в ВВП.

Каждая задача тщательно подготовлена и проверена экспертами с опытом в конкретной области. Все задачи максимально приближены к рабочим и опираются не только на текст запроса, но и на артефакты: юридические документы, инженерные чертежи, записи разговоров службы поддержки и так далее. От системы, в свою очередь, ожидается не просто ответ в чате, а применимые в работе документы, презентации, диаграммы, таблицы и даже мультимедийные материалы (ролики).

Для каждой профессии OpenAI работали с опытными специалистами, чтобы составить список типичных задач, отражающих повседневную деятельность. Средний стаж этих специалистов составляет 14 лет, и все они имеют высокий уровень профессиональных достижений. Также намеренно привлекались эксперты с разнородным опытом — например, юристов из различных направлений практики и фирм разных размеров — чтобы максимально повысить репрезентативность задач.

В подготовку каждого вопроса привлекалось несколько специалистов. В среднем каждая задача прошла 5 раундов проверок, включая перекрестную проверку авторами других задач, экспертами и валидацию с помощью LLM. Для каждой задачи эксперт с опытом подготовил решение, как если бы это было частью его работы. В среднем на одно решение уходило шесть с половиной часов.

Решения от LLM также оцениваются вручную экспертами; тем предлагается два решения (одно от человека, другое от LLM), и необходимо их сравнить и выбрать, какое лучше (или присвоить ничью). На оценку одной пары в среднем тратилось 109 минут. OpenAI пытались автоматизировать этот процесс, но согласованность с оценками людей пока чуть ниже нужного уровня. Исследователям, которые будут пытаться работать с бенчмарком, OpenAI будет помогать с оценкой решений (собирать и оплачивать экспертов).

В публичный доступ выложено 220 вопросов, по 5 на каждую из профессий — с ними можно ознакомиться тут; очень рекомендую это сделать, чтобы понять уровень задач.