大模型Agent應(yīng)用開發(fā)

第1章  大規(guī)模語言模型簡介  1
1.1  大型基礎(chǔ)模型和大規(guī)模語言模型定義  2
1.1.1  人工智能范式轉(zhuǎn)變——基礎(chǔ)模型簡介  2
1.1.2  大規(guī)模語言模型簡介  5
1.2  最流行的基于transformer架構(gòu)的大規(guī)模語言模型  10
1.2.1  早期實驗  11
1.2.2  transformer架構(gòu)  11
1.3  訓(xùn)練和評估大規(guī)模語言模型  16
1.3.1  訓(xùn)練大規(guī)模語言模型  16
1.3.2  模型評估  19
1.4  基礎(chǔ)模型與定制模型  21
1.5  小結(jié)  23
1.6  參考文獻  23
第2章  面向人工智能應(yīng)用的大規(guī)模語言模型  25
2.1  大規(guī)模語言模型如何改變軟件開發(fā)  25
2.2  Copilot系統(tǒng)  26
2.3  引入人工智能編排器，將大規(guī)模語言模型嵌入應(yīng)用程序  30
2.3.1  人工智能編排器的主要組成部分  31
2.3.2  LangChain  33
2.3.3  Haystack  35
2.3.4  語義內(nèi)核  36
2.3.5  如何選擇框架  38
2.4  小結(jié)  39
2.5  參考文獻  40
第3章  為應(yīng)用選擇大規(guī)模語言模型  41
3.1  市場上最有前途的大規(guī)模語言模型  41
3.1.1  專有模型  42
3.1.2  開源模型  51
3.2  語言模型之外  56
3.3  選擇正確大規(guī)模語言模型的決策框架  60
3.3.1  考慮因素  60
3.3.2  案例研究  62
3.4  小結(jié)  63
3.5  參考文獻  63
第4章  提示工程  65
4.1  技術(shù)要求  65
4.2  提示工程的定義  66
4.3  提示工程原則  66
4.3.1  明確的指令  66
4.3.2  將復(fù)雜任務(wù)劃分為子任務(wù)  69
4.3.3  詢問理由  71
4.3.4  生成多個輸出，然后使用模型挑選最佳輸出  73
4.3.5  結(jié)尾處的重復(fù)指令  74
4.3.6  使用分隔符  76
4.4  高級技術(shù)  78
4.4.1  少樣本方法  78
4.4.2  思維鏈  81
4.4.3  ReAct  83
4.5  小結(jié)  86
4.6  參考文獻  87
第5章  在應(yīng)用程序中嵌入大規(guī)模語言模型  88
5.1  技術(shù)要求  88
5.2  LangChain的簡要說明  89
5.3  開始使用LangChain  90
5.3.1  模型和提示  91
5.3.2  數(shù)據(jù)連接  93
5.3.3  記憶  99
5.3.4  鏈  101
5.3.5  智能體  105
5.4  通過Hugging Face Hub使用大規(guī)模語言模型  107
5.4.1  創(chuàng)建Hugging Face用戶訪問令牌  107
5.4.2  在.env文件中存儲密鑰  110
5.4.3  啟用開源大規(guī)模語言模型  110
5.5  小結(jié)  112
5.6  參考文獻  112
第6章  構(gòu)建會話應(yīng)用程序  113
6.1  技術(shù)要求  113
6.2  會話應(yīng)用程序入門  114
6.2.1  創(chuàng)建普通機器人  114
6.2.2  添加記憶  116
6.2.3  添加非參數(shù)知識  119
6.2.4  添加外部工具  122
6.3  使用Streamlit開發(fā)前端  125
6.4  小結(jié)  129
6.5  參考文獻  129
第7章  使用大規(guī)模語言模型的搜索引擎和推薦引擎  130
7.1  技術(shù)要求  130
7.2  推薦系統(tǒng)簡介  131
7.3  現(xiàn)有推薦系統(tǒng)  132
7.3.1  K最近鄰  132
7.3.2  矩陣因式分解  133
7.3.3  神經(jīng)網(wǎng)絡(luò)  136
7.4  大規(guī)模語言模型如何改變推薦系統(tǒng)  138
7.5  實現(xiàn)由大規(guī)模語言模型驅(qū)動的推薦系統(tǒng)  139
7.5.1  數(shù)據(jù)預(yù)處理  140
7.5.2  在冷啟動場景中構(gòu)建QA推薦聊天機器人  143
7.5.3  構(gòu)建基于內(nèi)容的推薦系統(tǒng)  149
7.6  使用Streamlit開發(fā)前端  153
7.7  小結(jié)  156
7.8  參考文獻  156
第8章  使用結(jié)構(gòu)化數(shù)據(jù)的大規(guī)模語言模型  157
8.1  技術(shù)要求  157
8.2  結(jié)構(gòu)化數(shù)據(jù)的定義  158
8.3  關(guān)系數(shù)據(jù)庫入門  159
8.3.1  關(guān)系數(shù)據(jù)庫簡介  160
8.3.2  Chinook數(shù)據(jù)庫概述  161
8.3.3  如何在Python中使用關(guān)系數(shù)據(jù)庫  162
8.4  使用LangChain實現(xiàn)DBCopilot  166
8.4.1  LangChain智能體和SQL智能體  167
8.4.2  提示工程  170
8.4.3  添加更多工具  173
8.5  使用Streamlit開發(fā)前端  176
8.6  小結(jié)  179
8.7  參考文獻  180
第9章  使用大規(guī)模語言模型生成代碼  181
9.1  技術(shù)要求  181
9.2  為代碼選擇合適的大規(guī)模語言模型  182
9.3  代碼理解和生成  183
9.3.1  Falcon LLM  184
9.3.2  CodeLlama  187
9.3.3  StarCoder  190
9.4  像算法一樣行動  194
9.5  利用代碼解釋器  200
9.6  小結(jié)  206
9.7  參考文獻  206
第10章  使用大規(guī)模語言模型構(gòu)建多模態(tài)應(yīng)用  208
10.1  技術(shù)要求  208
10.2  為什么是多模態(tài)  209
10.3  使用LangChain構(gòu)建多模態(tài)智能體  211
10.4  方案1：使用Azure AI服務(wù)的開箱即用工具包  211
10.5  方案2：將單一工具整合到一個智能體中  225
10.5.1  YouTube工具和Whisper  225
10.5.2  DALL-E和文本生成  227
10.5.3  將所有工具整合在一起  229
10.6  方案3：使用序列鏈的硬編碼方法  233
10.7  三種方案的比較  236
10.8  使用Streamlit開發(fā)前端  237
10.9  小結(jié)  239
10.10  參考文獻  239
第11章  微調(diào)大規(guī)模語言模型  240
11.1  技術(shù)要求  241
11.2  微調(diào)定義  241
11.3  何時微調(diào)  244
11.4  開始微調(diào)  245
11.4.1  獲取數(shù)據(jù)集  245
11.4.2  詞元化數(shù)據(jù)  246
11.4.3  微調(diào)模型  249
11.4.4  使用評估指標  250
11.4.5  訓(xùn)練和保存  253
11.5  小結(jié)  256
11.6  參考文獻  257
第12章  負責(zé)任的人工智能  258
12.1  什么是負責(zé)任的人工智能，為什么需要它  258
12.2  負責(zé)任的人工智能架構(gòu)  260
12.2.1  模型層  260
12.2.2  元提示層  263
12.2.3  用戶界面層  264
12.3  有關(guān)負責(zé)任的人工智能的法規(guī)  267
12.4  小結(jié)  268
12.5  參考文獻  269
第13章  新興趨勢和創(chuàng)新  270
13.1  語言模型和生成式人工智能的最新發(fā)展趨勢  270
13.1.1  GPT-4V  271
13.1.2  DALL-E 3  272
13.1.3  AutoGen  273
13.1.4  小型語言模型  274
13.2  擁抱生成式人工智能技術(shù)的公司  275
13.2.1  Coca-Cola  275
13.2.2  Notion  275
13.2.3  Malbek  276
13.2.4  微軟  277
13.3  小結(jié)  278
13.4  參考文獻  279