80 000 траекторий ИИ: как NVIDIA обучала Nemotron 3 Super

Стандартных текстовых дампов из интернета не хватает для тренировки автономных ИИ-агентов. Чтобы нейросеть научилась планировать действия, искать данные и проверять факты, ей нужны траектории - детальные записи каждого шага рассуждений. Мы разобрали технические подробности эксперимента NVIDIA по генерации 80 000 таких цепочек для обучения новой флагманской модели.

Виталий Болгар4 мин чтенияпост-обучениеNVIDIANemotron 3 SuperSFT

Как NVIDIA превратила поисковые сессии в датасет

Создание качественного набора данных для агентов - это не просто сбор текстов. Инженеры NVIDIA взяли около 40 500 затравочных вопросов из репозиториев OpenScholar, ResearchQA и Fathom-DeepResearch-SFT. Эти вопросы запустили внутри автономной системы AI-Q под управлением базовой модели GPT-OSS-120B. Когда агенту требовалась информация, поисковый инструмент возвращал ответы, которые сразу попадали в лог рассуждений. Подробный разбор процесса доступен в материале на Tavily Blog.

В итоге получилось 80 000 полных траекторий. Каждая запись включала дерево планов, запросы, сырые ответы из сети и финальный отчет со ссылками. Часть сессий отсеялась: агенты превышали лимиты на вызовы инструментов или циклились из-за мусора в выдаче. Для очистки данных NVIDIA применила специализированного «судью» - Qwen3-Nemotron-32B-GenRM-Principle. Эта модель оценивала логи на логику. Фильтрацию прошли 67 000 примеров. Около 83% собранных данных пошли в финальный датасет для обучения (SFT).

Этап пайплайна данныхОбъем / РесурсИспользуемая модель / Инструмент
Затравочные вопросы~40 500 шт.OpenScholar, ResearchQA, Fathom
Генерация логов80 000 траекторийGPT-OSS-120B + веб-поиск
Пост-фильтрация67 000 траекторий (83%)Qwen3-Nemotron-32B-GenRM-Principle
Финальное SFT-обучение25 часов (1 эпоха)128 видеокарт NVIDIA H100

Архитектура AI-Q и цена каждого проваленного шага

Система AI-Q распределяет нагрузку между тремя ролями. Такая модульность помогает экономить ресурсы, подставляя разные языковые модели под конкретные задачи:

  • Planner (Планировщик) - разбивает запрос на части и строит план исследования.
  • Researcher (Исследователь) - собирает данные через subagents-специалистов и делает первичный синтез.
  • Orchestrator (Оркестратор) - координирует передачу контекста и решает, когда закончить цикл.

По данным анализа архитектуры в Pikka AI News, блок Researcher перерабатывает в 4 раза больше токенов, чем Planner и Orchestrator вместе взятые. Это самая дорогая часть системы. Здесь качество поискового API напрямую диктует расходы на облачные вычисления.

Платформа NVIDIA для обучения агентных систем и генерации синтетических траекторий
Инфраструктура NVIDIA для тренировки специализированных LLM под автономные задачи.

Если поиск возвращает зашумленные страницы, агент делает лишние итерации. Он тратит контекстное окно на мусор и упирается в лимиты по времени. При создании датасета каждая отбракованная траектория - это сожженные впустую GPU-часы. Повышение точности поиска даже на пару процентов экономит десятки часов работы кластера H100. Мы в своей практике тоже заметили: плохой парсинг JS на сайтах ломает логику агента быстрее, чем слабая модель.

Свой веб-доступ для ИИ-агентов по фиксированной цене 0,10 ₽ за запрос. JavaScript выполняется на нашей стороне, а на выходе - чистый Markdown.

Начать бесплатно

Где развернуть поисковый контур для Рунета

Когда агент учится на траекториях, он запоминает паттерн работы с поисковиком. Модель привыкает к структуре ответов и метаданным. Поэтому важно, чтобы API на этапе эксплуатации выдавало данные в том же виде, что и при тренировке. Для проектов в Рунете зарубежные платформы часто работают плохо: у них поверхностное покрытие и они медленно индексируют локальные законы или реестры.

Интеграция инфраструктуры срезAI решает этот вопрос. Сервис индексирует русскоязычный сегмент с p50-latency в 976 мс, что ускоряет работу исследователей. Подключить поиск можно через REST API или MCP-сервер. Headless-браузер обрабатывает динамический контент, отдавая LLM чистую структуру без скриптов.

Технические ограничения метода

Несмотря на лидерство в DeepResearch Bench (55.95 и 54.50 баллов), подход NVIDIA имеет пределы. Многоагентный ансамбль с параллельными проверками долго отвечает. Это не сработает в задачах, где реакция нужна мгновенно, так как генерация одной глубокой траектории длится несколько минут. Траты на токены в таких цепочках растут лавинообразно, поэтому запуск системы выгоден только для сложной аналитики.

Какая модель использовалась в качестве базовой при генерации траекторий?

NVIDIA применила открытую GPT-OSS-120B для генерации первичных логов.

В чем особенность архитектуры обученной модели Nemotron 3 Super?

Эта гибридная MoE-модель на 120 млрд параметров использует Mamba-2 для работы с контекстом в 1 млн токенов и Transformer для извлечения фактов.

Сколько стоит интеграция поиска срезAI для ИИ-агентов?

Цена - 0,10 ₽ за запрос. Новым пользователям даем 100 ₽ на баланс, а лимит бесплатного тарифа составляет 200 запросов в сутки.

Какая модель выполняла роль фильтра качества в датасете?

Для проверки цепочек рассуждений использовали Qwen3-Nemotron-32B-GenRM-Principle.

Свой веб-доступ для агента: поиск, чтение страниц и извлечение данных по одному ключу.

Читайте также