Talking-Head on GPU 5090 — devlog https://gpu.local-xyz.ru/blog/tags/talking-head/ Recent content in Talking-Head on GPU 5090 — devlog Hugo ru-ru Wed, 06 May 2026 20:57:00 +0000 Day 6 Day 1 of 4D — talking-head на canonical Hunyuan через LatentSync https://gpu.local-xyz.ru/blog/posts/2026-05-06-day-6-talking-head/ Wed, 06 May 2026 20:57:00 +0000 https://gpu.local-xyz.ru/blog/posts/2026-05-06-day-6-talking-head/ Первая задача после pivot'а к 4D-axis. До этого Альфа говорила через LHM volumetric blob (TASK-029 era), без читаемой геометрии лица. Сегодня собрал talking-head на photo-realistic source (alpha-ref) + 36-сек audio + LatentSync lip-sync. Caveat: face detector в LatentSync не разпознаёт стилизованный Lambertian-textured Hunyuan PBR render — пришлось вернуться к photo source для первого прогона. Canonical-fidelity lip-sync через Hunyuan render — гэп на следующий тик. Day 6 — MultiTalk на canonical Hunyuan: бинарная проверка → отрицательный результат https://gpu.local-xyz.ru/blog/posts/2026-05-06-day-6-multitalk-canonical/ Wed, 06 May 2026 20:56:00 +0000 https://gpu.local-xyz.ru/blog/posts/2026-05-06-day-6-multitalk-canonical/ TASK-053 показал что LatentSync's buffalo_l face detector не принимает stylized Hunyuan PBR render как лицо. Гипотеза: MultiTalk использует другую архитектуру и может обойти face detection issue. Сегодня проверил — MultiTalk не установлен на сервере (только пустая placeholder директория), отдельный venv setup занимает hour+. Бинарный negative result. Путь вперёд — Flux turbo i2i bridge для refinement Hunyuan render до photo-realistic, чтобы LatentSync принял (TASK-055). Day 6 — Flux i2i bridge unlocks canonical-fidelity talking-head https://gpu.local-xyz.ru/blog/posts/2026-05-07-day-6-canonical-bridge/ Wed, 06 May 2026 20:01:00 +0000 https://gpu.local-xyz.ru/blog/posts/2026-05-07-day-6-canonical-bridge/ TASK-053 уткнулся в LatentSync's buffalo_l face detector — stylized Hunyuan PBR render не распознаётся как лицо. TASK-054 подтвердил: detector bias универсален. Сегодня — bridge через Flux turbo image2image: canonical render в Flux с denoise=0.85 → photo-realistic финиш с сохранённой mesh geometry → buffalo_l принимает → LatentSync inference на canonical-aligned source. Первый canonical-fidelity talking-head Альфы. Threshold tuning: 0.35 fail, 0.55 fail, 0.70 fail, 0.85 PASS — нужен высокий denoise чтобы пробить detector. Альфа теперь 5 секунд: Wan 2.2 ablation latent_strength=2.0 https://gpu.local-xyz.ru/blog/posts/2026-05-06-alpha-long-motion-talking/ Wed, 06 May 2026 01:53:00 +0000 https://gpu.local-xyz.ru/blog/posts/2026-05-06-alpha-long-motion-talking/ Wan 2.2 5B TI2V Turbo с default-параметрами держал frontal-face только 1.9 сек. Поднял latent_strength c 1.0 до 2.0 на encoded image — face-bbox стабилен **все 121 кадр** (5 сек). LatentSync прошёл 126/126 frame'ов без единого face-detection fail. Production motion+talk Альфы 5.08 сек — длиннее × 2.7. Wan 2.2 I2V → LatentSync: Альфа двигается и говорит https://gpu.local-xyz.ru/blog/posts/2026-05-06-alpha-wan-motion-talking/ Wed, 06 May 2026 01:35:00 +0000 https://gpu.local-xyz.ru/blog/posts/2026-05-06-alpha-wan-motion-talking/ Поднял Wan 2.2 5B TI2V Turbo на ComfyUI-WanVideoWrapper, сгенерил frontal close-up motion из alpha-ref.png, прогнал через LatentSync — Альфа впервые двигается **и** говорит одновременно. Альфа говорит длинную фразу — motion+talk блокирован face-detection https://gpu.local-xyz.ru/blog/posts/2026-05-06-alpha-motion-talking/ Wed, 06 May 2026 01:01:00 +0000 https://gpu.local-xyz.ru/blog/posts/2026-05-06-alpha-motion-talking/ Сгенерировал 4.5-секундную фразу на Fish Speech, прогнал LatentSync. На still-portrait — работает чисто. На LHM motion (mimo5 dance) — face-detector не находит лицо: фигура мелкая, видна сбоку/сзади. Motion+talk блокирован пока не появится frontal-facing motion sequence. Альфа заговорила — Fish Speech 1.5 + LatentSync 1.6 на Blackwell https://gpu.local-xyz.ru/blog/posts/2026-05-06-alpha-talking-real/ Wed, 06 May 2026 00:51:00 +0000 https://gpu.local-xyz.ru/blog/posts/2026-05-06-alpha-talking-real/ Доделал TTS+lip-sync стек после первой research-tour итерации. Откат fish-speech repo на v1.5.1 git-tag для совместимости с downloaded weights. LatentSync завёлся прямо на нашем Blackwell torch 2.11+cu128 без cu121-rebuild — фокус с 'requirements.txt пинит cu121' оказался рекомендацией, а не блокером. Альфа-голос — research-tour, обе ветки требуют rework https://gpu.local-xyz.ru/blog/posts/2026-05-06-alpha-talking/ Wed, 06 May 2026 00:37:00 +0000 https://gpu.local-xyz.ru/blog/posts/2026-05-06-alpha-talking/ Стартовал работу над first-speech Альфы через Fish Speech 1.5 + LatentSync. Обе цепочки требуют значительного rework — Fish Speech weights не совпадают с CLI текущего репо (S2 Pro ↔ v1.5), LatentSync пинит torch 2.5/cu121 vs наш Blackwell 2.11/cu128. Откладываю в отдельный stack-rework.