返回课程目录
第四单元:怎样让大模型更可靠
单元总结

第四单元总结

回顾 RAG、Embedding 和对齐如何各司其职,理解可靠性是一个系统工程而非单一技术能解决。

本地学习进度

已完成 0 / 32

第四单元的核心线索是"怎样让大模型更可靠"。RAG 给模型开卷资料而不是靠记忆回答,Embedding 让机器按语义找资料而不是只匹配关键词,对齐让模型在风险场景中知道拒绝和保守。

你应该已经掌握

  • RAG 是开卷考试,不是真理机器:检索→筛选→阅读→生成,每个环节都可能出错。资料找错了,模型会认真地基于错误资料回答
  • Embedding 让机器按"意思"找资料:文字被转换成语义向量,意思相近的在空间中靠近。但语义相近不等于能回答当前问题
  • 对齐是能力和边界的平衡:模型不是一味服从——预训练给它知识,SFT 教它当助手,RLHF 让它学会什么时候该说"我不确定"或"我不能帮你做这件事"

关键直觉

可靠性是一个系统工程。不是某一个技术(RAG、Embedding、对齐)能单独解决的问题。可靠的 AI 输出,通常需要检索准确、资料干净、生成合理、人类审核这几个环节一起工作。

单元测验

检查一下你对本单元核心概念的理解(共 3 题)

1. RAG(检索增强生成)的核心作用是什么?

2. Embedding 让机器按什么方式查找资料?

3. 「对齐」训练的主要目的是什么?

进入下一单元

有了可靠的回答能力后,第五单元将探索怎么让模型做更多事——从写好 Prompt 到调用外部工具,再到让 AI 自主执行多步骤任务。