[AI角色對(duì)話]使用KoboldAI與AI貓娘對(duì)話(數(shù)據(jù)私有化)

本教程有兩個(gè)前置條件
①可以使用Colab
②具備一定的英語對(duì)話能力
如果英語水平不足,可以使用翻譯軟件?;蛘撸琓avernAI有g(shù)pt3.5-turbo版,也就是說可以調(diào)用chatgpt的api,實(shí)現(xiàn)中文對(duì)話。

第一步——安裝TavernAI并啟動(dòng)
①打開TavernAI的項(xiàng)目頁面:https://github.com/TavernAI/TavernAI

下載后解壓壓縮包
②安裝Node.js
https://nodejs.org/download/release/v19.1.0/

一路安裝下去。
③安裝環(huán)境依賴
來到剛剛解壓的TavernAI文件夾,Shift+P,選擇終端打開。
依次輸入下方四個(gè)指令
需要注意的是,node server.js 是啟動(dòng)指令,以后要啟動(dòng)TavernAI,直接cd進(jìn)去然后輸入node?server.js即可


當(dāng)出現(xiàn)這個(gè)網(wǎng)頁時(shí),代表TavernAI已經(jīng)成功安裝。

第二步——使用Colab運(yùn)行KoboldAI
打開KoboldAI的項(xiàng)目鏈接:https://github.com/KoboldAI/KoboldAI-Client

有TPU版本和GPU版本,我這里選擇TPU版本。


點(diǎn)擊左側(cè)第一個(gè)按鈕

然后出現(xiàn)個(gè)音樂播放,點(diǎn)擊即可。
下方代碼塊,在Model處選擇你要運(yùn)行的模型。

KoboldAI的項(xiàng)目Readme里面有詳細(xì)的模型介紹,大家可以看自己喜歡來選擇。

我這里以默認(rèn)的Nerys 13B V2為例子。點(diǎn)擊左側(cè)的按鈕,代碼塊開始運(yùn)行。如果你把use_google_drive 的勾打上了,那可能需要谷歌云盤授權(quán)。運(yùn)行的時(shí)間大概在10分鐘以內(nèi),大致流程是自動(dòng)下載文件,安裝依賴,下載模型,然后加載模型,耐心等待即可。
當(dāng)出現(xiàn)類似于這種鏈接出現(xiàn)時(shí),說明已經(jīng)成功運(yùn)行。打開此鏈接,檢查能否訪問。

成功訪問


第三步——自定義AI角色人設(shè)
打開這個(gè)網(wǎng)站:https://zoltanai.github.io/character-editor/
選擇右邊的new character

開始你的自定義人設(shè)(請(qǐng)使用英文)

最后上傳角色的頭像

下方按鈕導(dǎo)出

選擇左側(cè)下載角色卡片

請(qǐng)注意,這張png照片包含了你剛剛輸入的所有人設(shè)信息。

第四步——導(dǎo)入角色設(shè)定并開始對(duì)話
回到之前的TavernAI頁面,http://127.0.0.1:8000/
點(diǎn)擊右上角的選項(xiàng)

點(diǎn)擊Chaeacter→Import進(jìn)行導(dǎo)入(UI作者內(nèi)設(shè)了三個(gè)素晴世界的人設(shè))

導(dǎo)入成功

選擇該角色,會(huì)出現(xiàn)該角色的會(huì)話框,以及你設(shè)定的Greeting Message

最后打開Settings,復(fù)制剛剛的鏈接到api選項(xiàng)處,并點(diǎn)擊connect

當(dāng)出現(xiàn)綠色圓形并顯示加載的模型名稱時(shí),代表TavernAI與KoboldAI連接成功。

至此,教程已結(jié)束。