v0.5.38
2026-11-15
一句话:语音链路低延迟双流改造——LLM 流式(reply 增量明文+句级早触发 TTS,音频与 LLM 并行)+ 流式 ASR 第一期(FunASR paraformer-streaming 上 104 + brain 首条 WebSocket 中继)。
本版更新
- LLM 流式(全链):
LLMGatewayBackend.chat新on_delta参数(stream=True 走 OpenAI SSE delta,iter_sse_deltas纯函数解析;两参调用逐字节兼容);引擎InterviewLLM.complete加on_delta=None透传(鸭子类型替身 TypeError 自动回退两参);_get_engine._Adapter同步扩参(真 DeepSeek 探针曾因此静默走整块——已修)。/turn/streamLLM 阶段新增turn.reply.delta(增量明文)与turn.sentence(句级早触发)事件:JSON reply 增量解码(_ReplyDeltaTracker状态机,容错跨 chunk 转义),句边界(。!?;≥2 字)即送 TTS——音频与LLM 并行流出;字幕轴改用实际口播句构建(255ms/字估算,客户端按 done 的duration_ms 二次缩放);提取失败/未产出自动退回原整块路径(envINTERVIEW_TURN_LLMTTS=0关)。 - 真 DeepSeek 延迟证据(scripts/llm_stream_probe.py 双轮对照):流式开首 delta 1.03s/首句 1.30s/首音频 1.73s vs 关 首音频 1.80s(本轮 flash 模型短回复全量即快,长回复/主模型场景差距拉开;首 delta 字幕收益确定)。
- 流式 ASR 第一期:新服务
iv-asr-stream(104 :8046,FunASR paraformer-zh-streaming CPU,systemd;8044 已被音乐服务占用勘误);brain 首条 WebSocketWS /api/v1/interview/asr/stream(?key=/X-API-Key 鉴权,开放模式同 /turn 家族;纯薄中继 8044→8046,协议透传 partial/final/start/stop)。nginx 8843 反代已含 WS Upgrade 头免改。实测定谳三条:上行裸 PCM、FunASR streaming 回传增量(拼接非替换)、模型内存缓存重启即冷(首 partial 冷26s/热 0.96s)。探针scripts/asr_stream_probe.py直连 pass(首 partial 959ms、final 与源文一致、partial 5 段)。 - 测试:
tests/test_interview_llm_stream.py14 用例(SSE delta 解析/ 增量提取转义/句切分)+ p4_stream 4 端点用例(假流式 LLM 事件序/Echo 零delta 回归/两参鸭子回归/env 开关);访谈族全绿 91+;桌面 vitest 237 绿。