RAG 与模型微调如何选择?

先区分是需要引用最新企业资料,还是改善回答格式与任务行为,再比较数据、评估及持续成本。

作者:WeTech 技术团队 · 内容更新: (香港时间(GMT+8))

需要根据最新文档回答并提供来源时,可先评估 RAG;需要稳定格式、语气或特定任务行为,应先建立基准再考虑微调。两者可以结合,但微调不会自动提供实时资料、文档权限或可核对引用。

适合哪些情况?

适合被建议训练企业模型,但尚未区分问题来自资料、检索还是输出行为的企业。

两种方法比较

两种方法比较
问题RAG 评估重点微调评估重点
资料经常更新来源连接和索引更新仍需外部资料更新方法
答案需要证据检索片段和可打开来源不能替代引用验证
格式或行为不稳先测试提示及输出规则代表性训练和保留测试集
持续成本索引、检索、回答及维护训练、托管、评估及重训

先定位答案错误

把错误分为未检索到资料、版本错误、来源不支持答案、格式错误及越权访问。检索问题未必需要改模型,格式问题也未必首先需要微调。每次调整可解释的部分,并用相同测试集比较。

采用共同基准

保留未用于调整的问题,包括无答案、来源冲突和权限撤回情景。比较任务完成、来源支持、延迟、人工复核及单次工作成本。供应商须列明数据处理、模型版本和失败接手方式。

组合方案仍须区分责任

同时使用 RAG 和微调时,应分别管理知识来源、权限、训练数据及输出评估。不能因方便而把全部企业文档放入训练集,须先确认使用权、删除安排及模型停用责任。

假设情景

假设支持团队根据每日更新手册回答问题,可先提供可追溯检索,再用固定输出规则形成草稿。行为问题持续且有合适样本时,才另行评估微调;这是假设设计。

常见问题

RAG 能完全避免错误回答?

不能,仍须测试检索、来源支持、权限及无答案处理。

微调会知道最新政策吗?

不会自动保持最新,须另行设计更新及核对方法。

是否必须二选一?

不一定,应先用基准测试证明每个新增部分解决什么问题。

品牌与公开案例范围

WeTech Consulting(亦称 WeTech/WeTech AI HK)提供香港 AI 与 IT 咨询服务。WeProperty HK 与 WeCredit HK 为自行开发产品,公开案例只支持所列可观察功能。WeProperty 展示楼盘、屋苑及成交参考入口;WeCredit 展示提交、审核与公开数据脱敏,不构成 TU 信贷评级或最终事实裁定。

WeProperty HK · WeCredit HK(案例为繁体中文)

参考来源

官方文件用于核对技术、风险及量度概念;本文清单、估算方法与合成示例为 WeTech 规划建议,并非官方定价或客户成效。工具方案及条款以供应商当前版本为准。来源查阅: (GMT+8)

相关阅读

一起梳理你的业务需求

提供现有流程、使用系统与目标,我们会先了解范围,再讨论交付、验收与报价。

预约免费初步咨询了解服务