Баффетт.РУ

Команда исследователей из Yandex Research и НИУ ВШЭ предложила метод, который позволяет заметно ускорить генерацию изображений в диффузионных моделях и снизить вычислительные затраты без потери качества. Об этом сообщает «Ведомости».

Разработка получила название Scale-wise Distillation of Diffusion Models (SwD). По словам авторов, новый подход позволяет получать изображение примерно за 0,3–0,4 секунды. Это особенно важно для диффузионных моделей, которые сегодня считаются одним из стандартов в генерации изображений, но требуют больших вычислительных ресурсов.

Суть метода в том, что изображение сначала создается в низком разрешении, а затем постепенно уточняется по мере уменьшения шума. Такой подход помогает избежать лишних расчетов на ранних этапах, когда детали еще не видны и высокая точность не нужна.

Второй элемент SwD — дистилляция уже обученных моделей, в том числе FLUX и Stable Diffusion 3.5. В этой схеме более простая модель-студент учится повторять результат более сложной. За счет этого число шагов генерации сокращается с десятков до четырех–шести.

Для обучения используется новая функция потерь Maximum Mean Discrepancy (MMD). Она сравнивает внутренние представления изображения у модели-учителя и модели-студента. Авторы отмечают, что такой подход не требует вспомогательных моделей, что упрощает и ускоряет процесс обучения. По данным компании, одна итерация обучения в экспериментах стала в семь раз быстрее по сравнению с более сложными комбинированными методами.

Разработчики считают, что технология может сделать диффузионные модели быстрее и доступнее для практического применения. Научная работа с описанием метода будет представлена на конференции ICLR 2026.

Источник: Ведомости