本篇內(nèi)容為您提供了千帆大模型平臺數(shù)據(jù)服務(wù)、大模型調(diào)優(yōu)、大模型管理等功能具體實操步驟。 目錄百度智能云千帆大模型平臺使用指南—V1.0版本（上） 一、個人賬號申請 二、數(shù)據(jù)服務(wù)實踐 三、大模型調(diào)優(yōu) 四、大模型管理 百度智能云千帆大模型平臺使用指南—V1.0版本（下） 五、大模型服務(wù) 六、插件應(yīng)用 七、Prompt工程 八、RLHF訓(xùn)練 一、個人賬號申請 用戶可進入千帆大模型平臺產(chǎn)品頁開通并使用，進入百度智能云千帆大模型平臺產(chǎn)品頁。 二、數(shù)據(jù)服務(wù)實踐 在數(shù)據(jù)服務(wù)當中，你可以完成prompt數(shù)據(jù)創(chuàng)建、數(shù)據(jù)標準、批量數(shù)據(jù)導(dǎo)入、批量數(shù)據(jù)處理（清洗/增強）等工作。 2.1 數(shù)據(jù)集管理與數(shù)據(jù)標注

數(shù)據(jù)標注方法有兩種： 在線標注

導(dǎo)入已標注數(shù)據(jù)

2.1.1導(dǎo)入未標注數(shù)據(jù) 創(chuàng)建

文本對話

類型的

非排序

數(shù)據(jù)集

導(dǎo)入未標注數(shù)據(jù)，直接導(dǎo)入如下壓縮包

導(dǎo)入完畢如下圖所示

2.1.2數(shù)據(jù)標注 對導(dǎo)入數(shù)據(jù)進行標注，在此處輸入問題答案，填寫完畢以后點擊右上角保存標注填寫標注如下所示： ?2.1.3導(dǎo)入已標注數(shù)據(jù) 手動標注800條數(shù)據(jù)需要比較多時間，此處直接將已標注好的數(shù)據(jù)導(dǎo)入，代替手動標注 創(chuàng)建2個數(shù)據(jù)集，分別是訓(xùn)練數(shù)據(jù)集和評估數(shù)據(jù)集

解壓素材 ??點擊下載壓縮包? 將解壓后得到的2個文件分別導(dǎo)入上面的2個數(shù)據(jù)集 發(fā)布數(shù)據(jù)集 2.2數(shù)據(jù)處理 2.2.1數(shù)據(jù)清洗 創(chuàng)建文本對話類型的非排序、未標注 測試數(shù)據(jù)集 導(dǎo)入測試數(shù)據(jù)集，1596條，這個數(shù)據(jù)集當中有emoji。 ??點擊下載壓縮包? 導(dǎo)入完成以后查看數(shù)據(jù)集如下：

創(chuàng)建數(shù)據(jù)處理任務(wù) 選擇處理后數(shù)據(jù)集，以及清洗配置 注意：處理后數(shù)據(jù)集是必選，可以使用原有數(shù)據(jù)集，新建一個版本。 執(zhí)行數(shù)據(jù)清洗任務(wù)

對比清洗前后數(shù)據(jù)，可以看到emoji ??都去掉了 清洗前 清洗后 2.2.2數(shù)據(jù)增強 三、大模型調(diào)優(yōu) 產(chǎn)品文檔參考參考：?SFT調(diào)優(yōu)快速手冊? 3.1Bloom-全量參數(shù) RD建議訓(xùn)練參數(shù)如下

大概需要20分鐘 查看評估報告，可以看到loss收斂 發(fā)布模型 3.2ERNIE-Bot-turbo-全量參數(shù) 使用默認訓(xùn)練參數(shù)即可，不需要修改

四、大模型管理 在模型管理當中找到大模型調(diào)優(yōu)發(fā)布過來的模型

支持模型的評估、壓縮、部署 4.1模型評估 在模型部署之前，建議可以提前做一次模型評估，在模型評估報告當中，可以批量看到模型推斷結(jié)果。 注意： 一個賬號最多支持5個評估任務(wù)并行執(zhí)行。 評估任務(wù)所只用的數(shù)據(jù)集必須為已發(fā)布狀態(tài)。 當前只支持Bloom模型評估，ERNIE-Bot模型評估功能待開放

4.2模型壓縮 當前主要支持INT8量化壓縮，壓縮以后生成新的模型版本。 可以對壓縮以后的模型再次進行部署。 部署量化壓縮以后的模型，算力單元從原來的4降低為2。 注意：以下截圖有問題，展示的還是4算力單元，其實只需要2算力單元 4.3模型部署 點擊模型部署 填寫服務(wù)接口地址 選擇算力單元時長 計費billing 注意：如果模型的一個版本已經(jīng)部署，則不能再重復(fù)部署。會提示如下。但是1個模型的不同版本可以進行在線更新。在大模型服務(wù)章節(jié)，會介紹多版本服務(wù)切換。