面向开发者的LLM入门教程（学习笔记01）

关注B站可以观看更多实战教学视频：hallo128的个人空间

面向开发者的LLM入门教程（学习笔记01）

吴恩达老师的《Prompt Engineering for Developer》课程

一、简介

1.LLM的定义

大语言模型（LLM） 的更强大功能是能通过 API 接口调用，从而快速构建软件应用程序

2.分类

（1）基础LLM：是基于文本训练数据，训练出预测下一个单词能力的模型。
（2）指令微调 LLM ：通过专门的训练，可以更好地理解并遵循指令。

3.如何训练

指令微调 LLM 的训练通常基于预训练语言模型，先在大规模文本数据上进行预训练，掌握语言的基本规律。在此基础上进行进一步的训练与微调（finetune），输入是指令，输出是对这些指令的正确回复。有时还会采用RLHF（reinforcement learning from human feedback，人类反馈强化学习）技术，根据人类对模型输出的反馈进一步增强模型遵循指令的能力。通过这种受控的训练过程。

指令微调 LLM 可以生成对指令高度敏感、更安全可靠的输出，较少无关和损害性内容。