Hierarchical Reasoning Model: Достижение 100-кратного ускорения вывода с 27 млн параметров
Обновлено 6 декабря 2025 г.
Визуализация архитектуры Hierarchical Reasoning Model, вдохновленной мозгом
Тренд в ИИ давно гласил: «больше — значит лучше». Однако для разработчиков, ориентированных на создание эффективных приложений, основанных на рассуждениях, Hierarchical Reasoning Model (HRM) предлагает серьезную архитектурную смену парадигмы. Эта вдохновленная мозгом рекуррентная архитектура достигает исключительной производительности в сложных алгоритмических задачах, используя минимальные ресурсы, что ставит под сомнение парадигму наращивания параметров «в лоб».
Если вы изучали масштабируемые системы агентов ИИ или сравнивали фреймворки для мультиагентных систем, то HRM представляет собой принципиально иной подход — фокусирующийся на инновациях в архитектуре, а не на количестве параметров.
→ Репозиторий HRM на GitHubДля чего нужен HRM
Hierarchical Reasoning Model (HRM), предложенный Sapient Intelligence, предназначен для преодоления основного ограничения стандартных больших языковых моделей (LLM): недостаточной глубины вычислений. Хотя LLM отлично справляются с генерацией естественного языка, они испытывают трудности с задачами, требующими сложных алгоритмических рассуждений, обдуманного планирования или символьных манипуляций.
Традиционные LLM часто полагаются на подсказки цепочки рассуждений (Chain-of-Thought, CoT), которые выносят рассуждения во внешнюю медленную последовательность языковых шагов на уровне токенов. HRM заменяет этот хрупкий подход латентными рассуждениями, выполняя интенсивные многошаговые вычисления «молча» внутри внутреннего скрытого пространства состояний модели.
HRM разработан для решения задач, требующих сложных, длинных цепочек рассуждений. Он достигает почти идеальных результатов в таких бенчмарках, как сложные головоломки Судоку и поиск оптимального пути в больших лабиринтах 30x30 — задачах, где передовые модели CoT терпят полный провал.
Основная архитектура: Планировщик и Исполнитель
HRM — это новая рекуррентная архитектура, вдохновленная иерархической и многомасштабной обработкой информации в человеческом мозге. Она состоит из двух взаимозависимых рекуррентных модулей, работающих с разной скоростью:
- Высокоуровневый модуль ($f_H$): Планировщик
- Отвечает за медленное, абстрактное планирование и глобальное стратегическое управление.
- Низкоуровневый модуль ($f_L$): Исполнитель
- Обрабатывает быстрые, детальные вычисления и мелкозернистые шаги рассуждений.
Такое разделение достигает иерархической сходимости: низкоуровневый модуль сходится к локальному решению в коротком цикле, которое затем информирует высокоуровневый модуль, обновляя его абстрактную стратегию и сбрасывая низкоуровневый модуль для следующей фазы. Эта вложенная вычислительная структура придает HRM значительную глубину вычислений.
Как HRM приносит пользу разработчикам
Для разработчиков, создающих специализированные приложения ИИ — особенно в тех областях, где данных мало или вычислительные ресурсы ограничены, — HRM предлагает критически важные преимущества:
- Экстремальная эффективность: HRM достигает результатов бенчмарка, используя всего 27 миллионов параметров и около 1000 обучающих примеров на задачу, без необходимости предварительного обучения или данных CoT.
- Скорость и низкая задержка: Поскольку рассуждения происходят внутри модели через параллельную динамику, а не последовательную генерацию токенов, HRM поддерживает потенциальное 100-кратное ускорение по сравнению с традиционными методами CoT.
- Постоянный объем памяти: HRM избегает интенсивного использования памяти при Backpropagation Through Time (BPTT), используя аппроксимацию градиента в один шаг (вдохновленную Deep Equilibrium Models, или DEQs). Это означает, что модель поддерживает постоянный объем памяти, $O(1)$, независимо от эффективной глубины вычислений.
- Готовность к Edge AI: Небольшой размер модели и минимальные эксплуатационные требования — сообщается о способности работать на стандартных процессорах с менее чем 200 МБ оперативной памяти — делают HRM идеальным для рентабельного развертывания на Edge AI. Эта эффективность хорошо согласуется с проектами, ищущими децентрализованные, недорогие вычислительные решения.
- Адаптивные вычисления: HRM использует время адаптивных вычислений (Adaptive Computation Time, ACT), обучаемое через Q-обучение, чтобы динамически регулировать количество шагов рассуждений в зависимости от сложности задачи, обеспечивая эффективное распределение ресурсов.
Эта эффективность делает HRM особенно перспективным для специализированных приложений, таких как управление роботами в реальном времени или быстрая диагностика, где низкая задержка и малый объем памяти обязательны.
Начало работы: Быстрая демонстрация HRM
Официальный репозиторий Hierarchical Reasoning Model открыт. Чтобы начать эксперименты, вы можете следовать этому быстрому руководству по обучению решателя Судоку.
→ Посмотреть HRM на GitHub1. Предварительные требования
Убедитесь, что у вас установлена система с PyTorch и CUDA. Для отслеживания экспериментов вы также должны быть авторизованы в Weights & Biases (W&B):
wandb login2. Установка Python-зависимостей
Репозиторию требуются определенные пакеты Python, перечисленные в его requirements.txt.
pip install -r requirements.txt3. Запуск демонстрации решения Судоку
Этот скрипт обучает ИИ для решения Судоку уровня «мастер», используя только небольшой расширенный набор данных.
Шаг 3a: Загрузка и сборка набора данных
python dataset/build_sudoku_dataset.py --output-dir data/sudoku-extreme-1k-aug-1000 --subsample-size 1000 --num-aug 1000Шаг 3b: Начало обучения (один GPU)
OMP_NUM_THREADS=8 python pretrain.py data_path=data/sudoku-extreme-1k-aug-1000 epochs=20000 eval_interval=2000 global_batch_size=384 lr=7e-5 puzzle_emb_lr=7e-5 weight_decay=1.0 puzzle_emb_weight_decay=1.0Оценочное время обучения составляет около 10 часов на ноутбуке с GPU RTX 4070.
Заключение
HRM демонстрирует, что инновации в архитектуре, сфокусированные на вдохновленной мозгом иерархической обработке, могут дать превосходные алгоритмические возможности по сравнению с полной зависимостью от огромного количества параметров. Для разработчиков, ищущих эффективность интеллекта, низкую задержку и глубокую алгоритмическую емкость, Hierarchical Reasoning Model представляет собой трансформационный шаг на пути к универсальным вычислениям.
Строите ли вы сложные мультиагентные системы или оптимизируете развертывание на периферии, подход HRM к латентным рассуждениям предлагает убедительную альтернативу традиционным стратегиям масштабирования.
Дополнительные ресурсы
→ Репозиторий HRM на GitHub