本书从大模型的提示工程入手，从数据和模型维度讲解大模型是什么，以云服务和本地部署两种方式解读和示范大模型知识库、微调、RAG、多模态等应用实践案例。

科学源于对自然奥秘的兴趣和精神追求，涉及物理、化学等基础定律，追求本源知识和精神上的满足。技术（以工具为重要载体）源于人类生存和进化的需要，凭借实践的智慧，技术创新不断辅助人类探索前行，从蒙昧走向文明。尽管科学与技术各行其道，但科学与技术的联合推动了人类社会各个阶段的革命性进步，尤其人工智能的出现更是重新定义了科学的范式（如人类智能辅助的科学发现—— AI4Science），更多基于人工智能的科学发现也更快地应用于技术。
但科学和技术仍属不同的源流，按各自的规律独立发展。早在1956年举办的达特茅斯会议上，约翰·麦卡锡、马文·明斯基、克劳德·香农等计算机科学家为人工智能设定了自动化、神经网络、抽象、随机性和创造性等关键议题。如今DeepSeek、ChatGPT等大模型及其应用的诞生将这些概念具象化，如同人类的语言一样，以各种形态参与到人类社会的建设和重塑中。
在工程师和科学家合作追求通用人工智能（AGI）的同时，人工智能挑战了电力能源系统、机器和人类的角色关系，机器智能和泛在应用不断影响和变革着人类的各行各业。物质、能量、结构和时间是人类认知和机器认知的最基本要素，也是人类智能和人工智能共同的奠基石。人工智能浓缩重演人类智能，用机器来模仿、拓展人的认知，不断推进“科学—技术—工程—应用”循环的发展。
全书尽量避免枯燥理论的堆砌，从大模型涉及的数据、模型、应用、知识等维度，突出问题求解与大模型应用的方法逻辑，通过“小案例+综合案例”“大模型+小模型”的集成方式，引导读者形成大模型领域的“工程师+科学家”思维，“科学—技术—工程—应用”分进合击，“数据（知识）—算法—算力—应用”融会贯通，探索大模型能力边界，强化需求牵引与落地应用的深度结合。
一、组织结构
本书从大模型的提示工程入手，从数据和模型维度介绍大模型是什么，从云服务和本地部署两种方式解读大模型知识库、微调、RAG、多模态等应用实践案例，章节安排划分为引言、多维解析、实战应用三部分共9章。
其中，引言部分概述了大模型的时代背景，以追本溯源的方式开启了大模型时代，先后介绍了计算技术、人工智能、语言模型的发展历史，分析了大模型的时代特征以及未来发展方向。
多维解析部分，包括第2～4章，涉及大模型的提示工程、数据、模型等核心内容。以大模型提示工程开篇，全面介绍提示工程方法、技巧及相关示例，直观展示各场景下基于提示工程的大模型应用情况，激发读者对大模型应用的思考与憧憬；然后，分别从数据、模型等方面解析大模型在数据准备、模型构建、训练部署等方面的工程化能力需求，并结合小型实战案例各个击破大模型的细碎知识点。
多维解析部分完成了从背景与任务，到提示工程（如何使用大模型），到大模型理论，再到数据（知识）的学习流程，初学者可以根据知识点完成大模型应用的入门学习，相关内容较为基础，但涉及知识点较多，建议按照每章后的知识点小结进行梳理和知识检索。不积跬步，无以至千里。循序渐进，理论结合实践，有助于读者早日成为人工智能领域的行家里手。
实战应用部分，包括第5～9章，涉及千帆大模型平台、PAI-灵骏平台、ModelScope平台，以及GLM系列大模型、通义千问大模型、多模态大模型等核心内容。以综合案例为主体，遵循“问题—方法—步骤—效果”的基本逻辑，按照“任务—工具—案例”三部分，展现大模型在千帆大模型平台的提示工程与训练微调、在PAI-灵骏平台的RAG技术、基于LangChain框架的外挂知识库构建、基于ModelScope平台的多模态实践，以及GLM大模型和通义千问大模型的微调等典型案例，帮助读者在不具备充足的本地算力资源支撑条件下，依然可以轻松上手大模型实战。
实战应用部分涉及的知识结构、技术实现、操作复杂性较为庞杂，入门难度较大。因此，本部分摒弃了传统软件工程的基本范式，以开源、主流、共享云服务平台及工具为切入点，避免读者漫长、冗杂、易错的基础环境搭建、依赖包配置等环节，提高读者的可视化、可感化入门实践，做到事半功倍。
二、特色与亮点
（1）入门与进阶的循序渐进
一方面，大模型时代的信息是思维软构体在结构、时间上形成的衍生物，例如，构成人类文字的最小元素是符号或笔画，数学中最基本的抽象是0和1，代数中最基本的抽象是常量和变量，几何中最基本的抽象是点线面。另一方面，大模型源于数据、信息、知识，又体现了从线性到非线性，从确定性到不确定性，从可逆可还原到不可逆不可还原，从简单到复杂的演进过程，因此，大模型时代开辟了“结构性、时间性的科学、技术和工程”。
大模型技术既有深厚的理论基础，又有丰富的应用场景，无论是理论初学者还是行业的爱好者，通过入门与进阶的循序渐进“交流”，可以共同达到思想上的共识——大模型是人工智能理论与工程实践碰撞的时代产物！
（2）基础理论与案例实践的融合
尽管大模型技术已超越了经典的系统工程，但体系思维仍对大模型的研究具有指导意义，实践与现实应用场景需求紧密相关，加深于理论知识学习，反馈于工程实践，形成“场景需求—理论技术—工程实践”的闭合回路是各章节内容的内在联系。
在案例实践方面，本书涉及千帆大模型平台的提示工程、大模型微调、PAI-灵骏平台的RAG技术实现、云服务环境和本地环境的LangChain知识库、基于ModelScope平台的多模态大模型等综合案例开发。兼顾编程语言、操作系统、人工智能、云计算的理论深度和综合实践案例的广度，为读者展现大模型理论与实践的多维应用场景，让实践赋予理论更多的“实在感”。
（3）开源共享与持续创新的厚积
开源是促进信息技术创新的重要途径，是开放科学的核心精神在信息领域的集中体现，并已经成为新一代信息技术发展的基础和动力，有利于我国国家创新驱动战略、人才培养战略。因此，开源是推动大模型等人工智能技术走进商业、工程、生活，甚至每个普通新技术爱好者的重要手段。
本书所涉及的软件程序一部分源于大模型开源社区、企业开源产品等，另一部分源于所在团队在GitHub上开源的工作，希望关于大模型的初步科普工作可为人工智能开发技术的开源与知识共享传播贡献一份力量。此外，创新是科技进步的源泉，也是技术发展的不竭动力。本书的部分理论思考及实践案例是团队多年成果的持续积累，也是本书在内涵上的重要特色。
关于本书的相关学习（教学）资源可在中国铁道出版社教育资源数字化平台（https://www.tdpress.com/51eds）下载。
三、预期读者
从工程技术层面，本书的读者对象为人工智能软件开发工程师、人工智能理论爱好者等，以及高年级本科生和研究生；除此之外，本书也可作为如下人群的参考书：
（1）大模型体验者
技术的生命在于应用转化，尤其在计算机科学领域，没有落地应用，犹如无本之木、无源之水，相应理论技术很难有长远持续的发展。因此，希望本书在入门案例多维呈现、基本操作反复演练、实战案例主线讲解的过程中，使人工智能初学者具有思路上的启发和实际应用场景的共鸣。同时，人工智能所涉及的技术体系庞大、知识点繁多，可选用资源又过度丰富，初学者容易无从下手。因此，读者可以通过具象化的大模型提示工程、云服务平台厘清人工智能、大模型等理论与技术的基本脉络，找到适合自己的技术学习和发展路线。
（2）前沿科技爱好者
一方面，当今世界正处于百年未有之大变局，机遇和挑战并存；另一方面，我国信息通信技术产业任重道远，关键核心技术“卡脖子”问题依然存在，如何化危为机依然是新时代前沿科技领域发展的重要使命。开源是软件生态发展的必经之路，希望本书可为计算机等领域相关前沿科技爱好者提供共享技术、共享理念的交流平台，对大模型开源社区建设、人工智能知识的普及起到一定推动作用。
四、学习建议
随着人工智能技术的飞速发展，人工智能大模型已经成为推动各行各业技术革新的关键力量，成为新一代人工智能的重要代名词，是“大数据+”“互联网+”“人工智能+”等新技术演进过程中涌现出的重要技术范式，形成了提示工程、检索增强生成、训练微调、人工智能 Agent 等新的技术流程，相关梳理希望有助于读者的学习和实践。
（1）提示工程涉及设计和优化用于激发或引导人工智能大模型输出特定类型回答的提示或问题，使语言模型高效适应文本概括、数学推理、代码生成等任务场景。
（2）检索增强生成（RAG）从外部知识库中检索关键信息，并将其作为上下文输入提供给大模型，融合了信息检索和文本生成的双重优势，以此增强生成内容的质量和深度。
（3）训练微调是在预训练大模型基础上，为适应特定任务或领域而进行的额外训练。通过使用特定任务的数据集，微调可以调整模型的部分或全部参数，从而将特定领域的知识整合进模型中。
（4）人工智能Agent能够自主感知、理解环境信息、做出决策并自主执行任务，不仅能够独立思考，还能利用各种工具来逐步实现既定目标。
人工智能Agent是基于人工智能大模型的应用架构，超越了传统软件工程思维的系统化和结构化的方法论，既是将人工智能Agent的工程思维、人工智能技术应用于人工智能Agent的开发和维护的系统化方法论，也是结合了软件工程的基本原则和人工智能领域的特定实践。
综上所述，本书以“工程师+科学家”思维为指引，强化“工程师”的动手实践能力，弱化“科学家”的理论细节，进而降低各类读者的大模型入门门槛；以多个实践案例整合大模型应用中提示工程、微调、知识问答等核心问题的主体框架，融合相应大模型技术要点，突出问题导向和落地应用，形成“解决什么问题—如何解决问题—问题求解效果”的逻辑思维链路。
此外，“按部就班就能完成的任务，不是研究，顶多是家庭作业”。本书建议读者从“科学—技术—工程—应用”“数据（知识）—算法—算力—应用”的思维模式和思考角度对相关问题进行全面深入研究，根据明确的目标和完成节点，心无旁骛地去完成既定计划，集中精力去练习、去开发、去实践，并“延迟满足”，在终点和高峰终将体悟到成功的喜悦！
最后，关于大模型技术的几点方向性学习建议如下：
一是关于开发环境，建议初学者摒弃传统学习思路，不要一见到案例复现，就循规蹈矩地部署本地开发环境、开发工具，复制代码、调试代码。换个角度，像人类学习语言一样，先练习阅读能力，再提升写代码的能力。本书提供的源代码可作为读者编程中的第一“读物”。而后，通过云服务、云环境进行大模型实践，或许可以事半功倍。
二是开发语言和资料，毋庸置疑，Python+Linux的“硬骨头”无可避免的要啃，建议读者采用模仿学习的方式，编程语言并非人类直接交流的语言，而是从不同抽象层次和角度实现的机器语言，尽管程序员无须了解二进制编码，但仍要学习基础语法、控制语句、面向对象等知识。在学习资料方面，相关大模型的云服务平台文档具有庞大的文档体系，学习者可以按图索骥，按需查阅，多看、多悟，再实践，厚积薄发，或许会为程序开发提供较为清晰的思路。
希望通过本书的学习，读者可以从技术融合和系统工程的角度对大模型和人工智能进行思考，了解知识前沿，追踪最新实践案例和技术文档资料，进而提高动手实践和理论研究能力。最后，“纸上得来终觉浅，绝知此事要躬行”，想要深入理解大模型技术，还需读者自己动手去编程实践、实际应用，方可真正形成“感性认识—理性认识—实践认识”的闭合学习回路。
五、写作感悟与致谢
时间既是良药，也是标尺。写书既是对时间尺度的重新审视，也是对生命哲学的整装待发。本书能够顺利选题酝酿、知识沉淀、审校出版，需要感谢中国铁道出版社有限公司编辑的大力支持与鼓励。
在本书的成稿之际，一直在揣摩读者的思维模式，思考如何找到入门大模型、人工智能的最佳方式方法，以及探究理论深度与实践广度的关系，尽力平衡“书”的教与“读者”的学，以期通过深入浅出的方式帮助初学者厘清大模型入门、人工智能应用的学习脉络。
希望本书不仅技术“顶天”，更能应用“立地”，既紧跟大模型等生成式人工智能的大潮，更胸怀国之大者，感受大模型之于科学技术，之于国家，之于每个人的温度。
作为一名普通科研工作者，希望尽力做好科普工作，为科技转化推广作些绵薄贡献。感谢人工智能大模型为人们美好生活作出的贡献。本书的完成是站在巨人肩膀上的作品，感谢大量科技工作者、开源爱好者的辛苦工作，祝平安顺遂、幸福美满!
由于编者水平有限，书中难免存在疏漏之处，恳请广大读者批评指正。

第1章  引言：大模型的时代
1.1  智能溯源 1
1.1.1  计算技术溯源 1
1.1.2  人工智能溯源 3
1.2  语言模型溯源 6
1.2.1  何为语言模型 6
1.2.2  典型的语言模型 7
1.3  大模型的时代特征及未来发展 13
1.3.1  大模型的时代特征 13
1.3.2  未来发展方向 15
本章小结 17
第2章  用起来：大模型的提示工程
2.1  提示工程简介 18
2.1.1  工具介绍 18
2.1.2  简单的提示工程样例 20
2.1.3  提示设计的技巧 23
2.2  高级提示工程方法 25
2.2.1  思维链提示 25
2.2.2  生成知识提示 28
2.2.3  链式提示与思维树（ToT） 29
2.2.4  检索增强生成（RAG） 32
2.2.5  其他提示工程技术 34
2.3  典型的提示示例 40
2.3.1  生成数据示例 40
2.3.2  代码生成示例 41
2.3.3  提示函数示例 42
2.3.4  对抗性提示示例 44
本章小结 46
第3章  原材料：大模型的数据
3.1  重要概念 47
3.1.1  数据与信息 47
3.1.2  科学、技术与工程 48
3.1.3  数据思维与数据工程 49
3.2  大模型的预训练数据 51
3.2.1  通用网页数据 51
3.2.2  书籍与论文 56
3.3  常用微调数据集 58
3.3.1  指令微调数据集 58
3.3.2  人类对齐数据集 59
3.4  大模型测试基准 61
3.4.1  英文能力测试 61
3.4.2  中文能力测试 62
本章小结 64
第4章  百花齐放：大模型家族
4.1  大模型的核心——拆解Transformer架构 65
4.1.1  整体架构 65
4.1.2  关键组成 67
4.1.3  技术小结 69
4.2  典型的大模型家族 70
4.2.1  GPT系列模型 70
4.2.2  LLaMA系列模型 73
4.2.3  GLM系列模型 76
4.2.4  其他大模型 80
本章小结 82
第5章  基于千帆大模型平台的入门级实践
5.1  实践任务 83
5.2  实践工具 84
5.3  实践案例 86
5.3.1  提示工程示例 86
5.3.2  Prompt使用技巧 88
5.3.3  训练调参技巧 92
5.3.4  训练调优应用 94
本章小结 101
第6章  基于PAI-灵骏平台的RAG实践
6.1  实践任务 102
6.2  实践工具 103
6.3  实践案例 105
本章小结 120
第7章  基于外挂知识库的大模型实践
7.1  实践任务 121
7.2  实践工具 122
7.2.1  LangChain框架 122
7.2.2  知识库平台 126
7.3  实践案例 129
本章小结 137
第8章  基于ModelScope平台的多模态大模型实践
8.1  实践任务 138
8.2  实践工具 141
8.2.1  ModelScope平台 141
8.2.2  数据集与多模态模型 143
8.3  实践案例 146
8.3.1  基于OFA的OCR识别 146
8.3.2  基于中文CLIP的视觉问答 153
本章小结 155
第9章  大模型微调实践
9.1  实践任务 156
9.2  实践工具 157
9.2.1  智谱AI开放平台 157
9.2.2  大模型微调技术 159
9.3  实践案例 162
9.3.1  基于接口的大模型调用 162
9.3.2  本地部署模型微调 166
9.3.3  Qwen1.5-7B-Chat微调 174
本章小结 181

高志强，军队指挥学武警信息化研究方向博士，毕业于中国人民武装警察部队工程大学，武警部队首届军事大数据工程专业筹备组成员。作为骨干成员参与研制多项武警部队信息化装备及平台系统，参与国家自然科学基金2项、陕西省自然科学基金1项。主要研究方向：深度学习、大数据与智能计算、面向大数据开放与治理的差分隐私保护数据发布关键技术研究及应用、粒子群优化算法等。黄振宙，男，湖北随县人，中国人民武装警察部队工程大学工程师，主要从事数据通信、网络安全、软件开发、人工智能、网络运维等方向研究与应用。在国家级期刊发表数据通信、网络安全、移动应用安全、人工智能及物联网相关文章数篇；主导编写内部通信工作资料多项，开发网站、桌面端软件、移动应用上百项。郭建民，男，汉族，1990年3月出生，2012年12月入党。中国人民武装警察部队工程大学工程师，先后参加多项重大任务，组织完成多项信息化项目，发表文章10余篇；主要研究方向为鸿蒙应用开发、无线通信技术。刘志骋，男，河南方城人，硕士研究生学历，中国人民武装警察部队士官学校助理讲师。主要从事信号处理、软件开发、硬件设计、移动通信、网络运维等方面的研究。牵头负责多项信息化建设工作，在省部级以上期刊发表论文6篇，参与省部级以上课题2项，申请实用新型专利2个。

（1）入门与进阶的循序渐进。

（2）基础理论与案例实践的融合

（3）开源共享与继续创新的厚积