B站大模型×领域RAG：打造高效、智能化的用户服务体验

B站大模型×领域RAG：打造高效、智能化的用户服务体验.pptx

下载

pptx文件

6.5M

#智能客服 #RAG大模型 #用户服务优化
行业痛点：传统智能客服需单独维护多任务模型（维护成本↑30%）+ 拦截率低（基线组仅65%）+ 幻觉问题频发（误导率15%），难以覆盖长尾用户查询（拒答率超40%）。
技术方案：

• AI能力：领域RAG框架（单模型支持10+任务）+ 微调LLM（幻觉率↓60%）+ 多级检索优化（查询改写/子查询分解）。
• 数据训练：基于历史会话抽取FAQ（覆盖率↑80%）+ 偏好数据训练奖励模型（标注成本减少50%）。
• 产品形态：B站自研大模型（bilibili index）驱动的智能客服，集成拒答能力与信息溯源功能。

应用流程：

• 场景：用户咨询视频审核规则、账号异常处理等复杂问题。
• 输入：自然语言查询（如“为什么我的投稿被锁定？”）+ 上下文对话记录。
• AI处理：Step-back泛化查询→子查询分解→检索知识库（10万+条目）→RAG模型生成多步骤推理答案。
• 输出：精准回答（含规则条款引用）+ 拒答提示（信息不足时）+ 引导用户补充信息。
• 人机协同：人工审核高风险回答（误拦截率↓25%），标注员优化奖励模型（迭代周期缩短40%）。

成果：

• 效率提升：拦截率从65%→85%（大模型组），复杂问题解决率提升35%。
• 准确性：答案准确度↑20%，幻觉率从15%→6%（内测数据）。
• 用户反馈：客服响应速度提升50%，用户满意度从70%→88%。

挑战应对：

• 数据隐私：端到端加密对话记录（数据泄露风险↓90%）。
• 技术瓶颈：动态上下文窗口扩展（长文本处理延迟↓30%），混合检索策略（召回率↑25%）。
• 合规方案：答案经合规引擎过滤（敏感词拦截率99%），输出结果嵌入溯源链接（可解释性↑70%）。

关键补充项：

• 数据对比：传统模型需维护20+细分模型，RAG框架仅需1个通用模型+动态知识库。
• 场景细节：输入“如何解封账号？”，AI分解为子查询（如“封禁原因”“申诉流程”），检索后生成分步指南。
• 商业价值：单客服项目ROI提升2.5倍，催生“智能客服SaaS”模式，企业客户续约率↑45%。
• 风险提示：拒答逻辑需定期校准（避免误判合规问题），生成内容需符合社区规范（关键词库动态更新）。

逻辑串联：行业痛点（高成本/低效）→技术方案（RAG+微调LLM）→应用流程（查询→检索→推理→输出）→成果（拦截↑/准确↑）→挑战（隐私/长尾/合规）。
标签调用：#智能客服 #RAG大模型 #用户服务优化 #B站落地