Нейросети для генерации видео: четыре новости 31 октября

31 октября новости пришли вперемешку: Vidu показала предварительную версию Q4 и назвала launch-партнёра, Liquid AI выложила семейство LFM3 на 2 млрд параметров, исследователи показали WanAR с FixAR для длинного кадра из одной картинки, а в ComfyUI появилась сборка FastH3 с синхронным звуком. Разбираю по порядку, что подтверждено и что из этого стоит пробовать в работе.

Плёнка тянется от телефона через камеру на рельсах к монитору со звуковыми волнами
01

Vidu Q4 Preview: быстрее, точнее по инструкции, до 4K

30 октября Vidu открыла предварительную версию Q4, в компании её зовут Q4 Preview. По описанию на платформе изменились три вещи: генерация идёт быстрее, модель точнее держится инструкции в промпте, картинка стала проработаннее. Режима два, image-to-video и reference-to-video, во втором персонаж или предмет держатся по референсу.

На Vidu Platform заявлены длина от 3 до 16 секунд, разрешение до 4K и опция генерации сразу со звуком. В API добавили seed и task callbacks. Seed фиксирует результат для повторного прогона, callback сообщает о готовности задачи, чтобы не опрашивать сервер в цикле.

Партнёром запуска стала WaveSpeed AI. Формулировка на странице осторожная: launch-партнёр Q4 Preview, совместные активности впереди, без дат и без списка того, что именно появится у WaveSpeed.

Почему это важно. 16 секунд и 4K со звуком за один проход снимают самый нудный этап: склейку коротких кусков и подгонку звука под кадр. Seed в API значит, что удачный кадр можно воспроизвести, и этого как раз не хватало при работе по смете.

02

Liquid AI LFM3: одно семейство на текст, картинку, звук и видео

31 октября вышла страница про LFM3, семейство Liquid AI из моделей на 2 млрд параметров. Устроено иначе, чем привычные сборки: текст, изображения, аудио, видео и задачи принятия решений живут на одном бэкбоне. Одна модель учится на разных типах данных и потом отвечает в любом из них.

Веса лежат на Hugging Face, адрес liquidai/lfm3. Заявлены дообучение на одной GPU и работа на телефонах и ноутбуках. Текстовая версия занимает около 1 ГБ в 4-битном квантовании, контекст 256K токенов.

Почему это важно. 2 млрд параметров на телефоне это про другое: черновик раскадровки, озвучку и разбор отснятого можно гонять локально, без отправки материала на чужой сервер. Для студии это удобно на этапе, где ещё непонятно, что попадёт в финал.

Четыре пиктограммы в ряд: камера, чип с телефоном, кадр с траекторией камеры, граф со звуком
03

WanAR и FixAR: длинное видео из одной картинки с управлением камерой

30 октября вышла работа WanAR с дополнением FixAR: длинный кадр из одной картинки, траектория камеры задаётся отдельно. Авторы описывают видео как задачу деформации и дорисовки. Кадры едут по траектории, а то, что открылось за краем предыдущего кадра, дорисовывается.

Внутри два денойзера. Первый опирается на ближайшие кадры и держит короткий контекст. Второй уточняет картинку по прореженной длинной истории, чтобы сцена не уплывала на дистанции. Оценка шла на RealEstate10k и DL3DV, в тексте работы заявлено превосходство над прошлыми методами и согласованность с траекторией камеры.

Статус важен: это исследование, готового продукта нет, запустить в интерфейсе нечего, и сравнение дают сами авторы. Независимого замера на тех же наборах пока не было.

Почему это важно. Длинный кадр с управляемой камерой это то, что просят в роликах про недвижимость и интерьеры: один снимок, плавный проезд, минута материала. Как такие вещи собирают сейчас, по кускам, мы разбирали в материале про длинные видео нейросетями.

04

FastH3-Omni-Comfy: видео со звуком прямо в ComfyUI

В ComfyUI появился набор FastH3-Omni-Comfy, диффузионные модели FastVideo для коротких видео с синхронным звуком. Форматы два, BF16 и INT8 ConvRot. Референсы принимаются изображением, видео или аудио, то есть стиль и голос задаются до генерации.

Репозиторию 11 дней, на Hugging Face 135 лайков на 31 октября, набор в тренде. Цифры скромные, и это честный сигнал: перед нами ранняя сборка сообщества, а релиз крупной лаборатории так не выглядит. Проверять её стоит на десяти секундах, прежде чем ставить в поток.

Почему это важно. ComfyUI стал рабочим местом для тех, кто собирает пайплайны руками. Видео со звуком в одном графе это шаг к тому, чтобы озвучка перестала быть отдельной сменой. Формат INT8 тут важнее красоты: он влезает в одну карту, а значит сборка живёт на обычной машине студии.

05

Что эти новости нейросетей видео меняют на практике

Четыре истории закрывают разные этапы. Vidu ускоряет сам кадр и добавляет звук на выходе. LFM3 тащит модели на ноутбук. WanAR обещает длинный кадр с камерой. FastH3 собирает видео со звуком внутри ComfyUI.

Линия общая: генерация переезжает ближе к монтажному столу. Год назад спор был про то, чья модель красивее, теперь спор про то, сколько этапов цепочки модель закрывает сама. От этого зависит, сколько людей остаётся в смене.

Второй вывод про выбор. Vidu и FastH3 открывают доступ через страницу и API, LFM3 отдаёт веса, WanAR пока живёт текстом. Для студии это разные риски: одна модель исчезнет вместе с подпиской, другая останется на диске, третья до продукта не дойдёт.

Третье: китайские модели перестали быть отдельной полкой. Vidu стоит в одной витрине с западными, а партнёрство с WaveSpeed заводит её в чужие пайплайны. Кому нужен общий контекст по региону, у нас есть разбор: китайские нейросети для видео, с датами релизов.

06

Мой вывод: как выбирать нейросети для генерации видео

Первое: смотреть на длину и звук. 16 секунд со звуком из Vidu снимают нужду в отдельной озвучке на коротких сценах, а для минутного ролика склейка всё равно остаётся.

Второе: держать локальный вариант. LFM3 на 2 млрд параметров не сделает финальный кадр, зато закроет черновики и текст вокруг него, и на ноутбуке это не требует аренды.

Третье: не строить план на исследовании. WanAR читается как заявка на будущий инструмент, в смету его не ставят.

Четвёртое: проверять сборки сообщества на своих кадрах. FastH3 молодой, 135 лайков это мало, первый прогон лучше делать на коротком отрезке с речью, чтобы увидеть, как звук попадает в движение губ.

Если ролик нужен к дате, у нас есть услуга видео нейросетями: сценарий, генерация, звук и монтаж в одном заказе, с ценой за штуку и без подписки на четыре сервиса. Под поток коротких роликов собирается другая схема, там важнее шаблон и повторяемость.

частые вопросы

01Vidu Q4 Preview уже можно запускать
Да. Предварительная версия открыта 30 октября на Vidu Platform и в API, длина от 3 до 16 секунд, разрешение до 4K, звук опционален. Пометка Preview значит, что характеристики могут поменяться до финального релиза.
02Что такое LFM3 от Liquid AI
Семейство моделей на 2 млрд параметров, где текст, изображения, аудио, видео и задачи принятия решений работают на одном бэкбоне. Дообучение заявлено на одной GPU, запуск на телефонах и ноутбуках, текстовая версия около 1 ГБ в 4 битах при контексте 256K.
03WanAR делает готовое видео из одного фото
Нет, это исследование. Метод строит длинный кадр из одной картинки и ведёт его по заданной траектории камеры, качество замерено на RealEstate10k и DL3DV. Продукта и публичного запуска нет.
04FastH3-Omni-Comfy требует мощную видеокарту
Набор идёт в двух форматах, BF16 и INT8 ConvRot, второй рассчитан на скромную память. Точных требований к железу авторы пока не приводят, поэтому первый прогон стоит делать на коротком отрезке.