🎙️ AI 语音与智能交互

集成 ASR 语音识别、TTS 语音合成、NLP 对话与实时字幕,打造 IPTV 智能语音助手与 IVR 客服系统。

Powered by LLM · ASR · TTS

AI 语音技术栈

一个完整的语音交互系统通常包含三个环节:听清、听懂、说话。下图展示端到端处理流程。

麦克风采集VAD 静音检测
ASR 识别语音转文字
NLU/LLM意图理解
对话管理多轮上下文
TTS 合成文字转语音
扬声器音频输出

核心能力详解

🔊 ASR 语音识别

将麦克风采集到的语音流实时转成文字。中文识别准确率可达 96%+,支持普通话、方言、英语混合。

WhisperSenseVoiceFunASRParaformer

🗣️ TTS 语音合成

将 LLM 生成的回复文本合成为自然、有情感的语音,支持音色克隆与多情感音色。

CosyVoiceEdge-TTSVITSChatTTS

🧠 LLM 大模型对话

基于 GLM、Qwen、DeepSeek 等大模型进行多轮对话,支持 Function Call 调用业务接口(查节目单、切台、点播)。

GLMQwenDeepSeekRAG

🎵 声纹与唤醒

"嗨,小五" 等唤醒词 + 说话人识别,让 IPTV 机顶盒像智能音箱一样待命唤醒。

Porcupine3D-SpeakerSnowboy

📺 实时字幕

将直播流通过 ASR 转写,生成 WebVTT 字幕流,与 HLS 同步分发,适合新闻、新闻台、教育直播。

WebVTTFFmpeg subtitle

📞 IVR 智能客服

对接 SIP/Asterisk,把传统按键 IVR 升级为自然语言客服,按需转人工坐席。

Asterisk AGIFreeSWITCH ESL

IPTV + AI 语音典型场景

🎬 语音切台

用户说"换到央视一套"或"播放新闻",LLM 解析意图后调用 EPG 接口自动切台。

🔍 内容搜索

语音搜索"最近有什么动作片",机顶盒直接返回相关点播内容。

📝 实时字幕

新闻直播同步生成字幕,辅助听障用户观看,提升无障碍体验。

🤖 AI 主播

用 LLM 生成新闻稿件,TTS 合成主播声音,数字人驱动虚拟主播 24 小时播报。

📈 用户行为分析

对话日志结构化,分析高频意图,反哺运营推荐策略。

🎧 呼叫中心

电视购物、宽带报修的 IVR 智能化,自然语言自助 + 转人工。

实战:浏览器内语音助手 Demo

使用浏览器原生 Web Speech API 实现一个最小可用的语音对话(免费、零依赖),后端可对接任意 LLM:

const SR = window.SpeechRecognition || window.webkitSpeechRecognition;
const recog = new SR();
recog.lang = 'zh-CN';
recog.continuous = false;

recog.onresult = async (e) => {
  const text = e.results[0][0].transcript;
  console.log('用户:', text);

  // 把识别文本发给后端 LLM 接口
  const r = await fetch('/api/chat', {
    method: 'POST',
    headers: {'Content-Type':'application/json'},
    body: JSON.stringify({text})
  });
  const {reply} = await r.json();

  // TTS 朗读回复
  const u = new SpeechSynthesisUtterance(reply);
  u.lang = 'zh-CN';
  speechSynthesis.speak(u);
};

document.getElementById('mic').onclick = () => recog.start();
生产建议:Web Speech API 仅适合 Demo,正式部署请使用 Whisper / FunASR 等本地 ASR + 真人音色 TTS,体验更稳定。流式识别(streaming ASR)能显著降低首字延迟。

实时字幕生成(FFmpeg + 字幕轨道)

通过将 ASR 输出与视频流合成 WebVTT 字幕轨,给现有 HLS 直播追加字幕:

ffmpeg -i input.mp4 -vf "subtitles=subtitles.vtt" \
  -c:v libx264 -preset veryfast -c:a aac \
  -f hls -hls_time 6 -hls_list_size 10 \
  out.m3u8

开源工具与模型推荐