流式生成（streaming generation）在 AI 页面生成与实时预览场景中十分重要。本文总结常见流式设计模式与工程要点。
为什么使用流式
- 降低感知延迟：用户可以边生成边查看部分内容。
- 支持增量渲染与错误恢复，提高交互体验。
设计模式
- 分块生成：把页面按模块或段落分块生成并逐块推送。
- 差异更新：只推送模板变更的差异以减小带宽与渲染成本。
传输与协议
- 使用 SSE 或 WebSocket 做低延迟推送，结合序列化协议（JSON Lines）简化消费端解析。
- 提供断点续传与部分重试机制，保证在网络抖动时系统健壮。
前端渲染策略
- 增量占位与占位骨架屏（skeleton）可以提高流式渲染的视觉稳定性。
- 原子更新策略（小颗粒渲染）能防止闪烁与布局抖动。
工程实践
- 记录生成状态与日志，方便回溯与问题定位。
- 在后端做速率限制与优先级调度，保证资源公平使用。
结论
流式生成显著改善用户体验，但需要周全的错误处理与资源控制策略。设计时兼顾可观察性、重试与幂等性可以显著提高稳定性。