AI 应用服务、质量与交付 · 技术问答

这组题关注“模型能力如何变成产品能力”。回答时先说边界和风险，再说具体技术选型。

必会

重点 一个 AI 对话功能为什么不能让前端直接调用模型？

答题要点

• 前端不能持有模型、向量库或业务系统密钥，也不能作为权限和配额的可信边界。
• 业务后端验证用户与租户，负责限流、会话归属、审计、成本控制和敏感数据策略。
• AI 编排层处理 Prompt、RAG、工具与输出校验；工具权限必须由服务端执行。

重点 流式对话、文件解析和批量入库分别怎么做？

答题要点

• 文本生成用 SSE 或 WebSocket 流式返回，前端支持取消、断线重连和最终完成事件。
• 文件解析、OCR、批量索引是长任务：先返回 job_id，由队列执行，再通过轮询或事件通知进度。
• 写入型任务加幂等键，重试不会重复建索引、重复发消息或重复扣费。

重点 RAG 多租户怎样避免串库？

答题要点

• 身份认证后，服务端把 tenant、用户角色和 ACL 转为检索过滤条件。
• 在检索前过滤，而不是召回后要求模型“不要说出来”；后者已经泄露了上下文。
• 文档、chunk、向量和缓存 key 都带租户与版本；删除文档时要同步删除索引和缓存。

如何评测一个 AI 功能上线后是否真的更好？

答题要点

• 离线用固定黄金集看检索命中、忠实度、格式和拒答；改 Prompt、模型或切片必须回归。
• 线上看成功率、点踩/人工转接、空检索、P95 延迟、token 与工具成本。
• Trace 记录模型、Prompt、检索、工具和输出版本，才能定位一次差回答坏在哪一层。

Agent 调用外部工具最重要的安全边界是什么？

答题要点

• 模型只能提出工具调用建议，服务端根据用户权限校验工具、参数和作用范围。
• 文档、网页、工具返回值都是不可信输入，不能覆盖系统策略。
• 涉及删除、支付、发送消息、权限变更等高风险操作，必须有用户确认与审计记录。

进阶

模型服务故障或输出不合格时如何降级？

按错误类型处理：短暂网络错误可限次重试；结构化输出可修复并重新校验；无证据时明确拒答并返回可用来源；高风险工具失败不自动重复执行。模型、Prompt 和检索配置均应可回滚到已验证版本。

怎样从前端背景证明自己具备 AI 应用交付能力？

把前端经验转为产品闭环：设计流式交互、可取消任务、引用与错误状态；和后端一起定义 API 契约与会话状态；用埋点和 Trace 看用户路径、延迟与成本。关键不是“会调模型”，而是能让复杂 AI 能力在真实界面中稳定可用。