我的極空間“活了”?用NAS養一隻貓娘是什麼體驗!搭建AI大世界
更新于:2025-03-26 09:08:20

親愛的粉絲朋友們好啊!今天熊貓又來介紹好玩有趣的Docker專案了,喜歡的記得點個關注哦!

引言

因為最近《哪吒》爆火,就想著重新看看之前一樣被稱為國產科幻之光的《流浪地球》,看完之後對裡面的550W莫斯人工智慧非常感興趣,於是突然產生了一個想法,能不能給我的NAS也增加一點趣味性呢?比如添加一個世界觀進去,賦予它“靈魂”?

我們都知道常規的AI大模型用來進行一些對話、搜索或者解答是完全可以的,但想要讓AI瞭解整個世界觀,賦予它角色,並同時讓他能持續性的按照你給出的設定來進行對話,那就需要大量的AI前置條件,也就是現在各大LLM的預設情景。而要記住大量的資訊,同時賦予它“靈魂”,不止是需要大量的文本資訊讓他記住,還需要一些有用的外掛程式,讓它看起來真的想一個“人”在跟你交流,於是電子酒館專案就這麼誕生了。

SillyTavern專案相信大家可能有點陌生,但其實如果我說電子酒館或者電子“魅魔”估計大家就比較熟悉了,SillyTavern可以讓你的AI擁有更多定製化的內容,例如世界資訊、角色資訊、自動翻譯、文本繪圖、語音生成以及基於角色的資料庫聊天,它不僅能根據你給到的角色和世界觀來和你對話,還擁有情緒識別、聊天記錄自動摘要、發送圖片和解釋圖片的功能,總之,這個專案的一切就是讓你的AI大模型更像一個能和你正常聊天的“人”

部署機

“器靈”的搭建方式有了,那麼接下來就是挑選一個適合的設備了,這裡我果斷選了極空間Z423旗艦版,畢竟作為陪伴了我兩年多的NAS,是時候給它賦予靈魂了。

用Z423旗艦版還有一部分原因是因為性能,因為涉及到審查的原因,可能有些大模型並不方便用來作為本地角色扮演用,所以這裡建議可以嘗試本地部署大模型,那這就需要用到Z423旗艦版的性能了,畢竟作為消費級性能天花板,也就它能勝任這樣的工作。

雖說AI大模型會有審查,不過如果聊天不涉及審查或者不涉及自身隱私問題,那麼其實直接用極空間的Q4、Z2Pro或者Z4Pro這些也完全可以,畢竟調用API是不存在佔用本地資源的。

部署過程

SillyTavern的鏡像是存放在ghcr.io上的,所以這裡我們需要用到自定義拉取,打開極空間的Docker,隨後在鏡像的倉庫介面點擊右上角自定義拉取,在對話框中輸入鏡像位址ghcr.io/sillytavern/sillytavern:latest下載鏡像。

鏡像下載之後按兩下鏡像創建容器,這裡我們需要映射四個資料夾,對應的路徑分別為/home/node/app/config、/home/node/app/data、/home/node/app/plugins 以及/home/node/app/public/scripts/extensions/third-party,其中分別對應配置、數據、插件以及角色卡。(可選擇性映射,不用全部映射)

埠方面只需要要映射8000埠即可,例如我這裡映射為8300埠。

所有設置好之後就可以點擊應用創建容器了,不過創建好之後並不能第一時間通過埠訪問專案,我們還需要將我們的IP添加到專案的白名單中才行。

這就需要用到SSH功能,我們點擊該專案的SSH選擇命令/bin/ash,隨後輸入ls列出目前的容器的目錄。

再輸入cd config打開設定檔目錄,輸入vim config.yaml打開配置檔,這時候能看到這樣的介面。

這裡紅圈標出來的部分就是專案白名單了,此時將游標移動到白名單的位置,按照格式添加我們的IP即可,這裡需要注意,添加的IP既要有自己本地的IP還需要有容器IP,容器IP可以在容器運行起來之後的網路介面看到。

這時候我們再通過瀏覽器輸入極空間IP:8300就能訪問酒館的介面了。

專案使用

點擊上方插頭一樣的標誌,就能彈出API的設置介面,點擊連接看到亮綠燈之後便代表AI大模型能正常工作,加下來就是角色卡以及各種其他事項的設置工作了。

最左側的為對話設置項, 在這裡可以設置對話的上下文長度、模式、創意性、提示詞以及各種外掛程式的配置和文生圖等設置項,根據自己的大模型情況與需求來設置即可。(不懂可以不動)

要設置角色,就需要先導入角色卡或者自己創建。點擊最右側的圖示就是AI角色卡的設置介面了,在這裡可以通過連結導入、檔導入以及自建的形式,這裏也推薦一個AI角色卡的網站(https://realm.risuai.net/),該網站擁有大量用戶預設好了的角色(還有一些大人玩的角色),不過網址因為是境外網址,所以需要自行想辦法訪問。

下載或者複製角色卡連結,隨後在酒館介面導入就能看到你導入的角色了,部分角色會有對話立繪和插畫。

最後的最後,點擊你導入的角色就能直接聊天了,我們來試試效果吧!(因為角色卡來源於外站,而極空間這裡並沒有代理,所以立繪無法載入出來)

酒館的設置項還有很多,像是背景、世界觀等等都可以設置,同時通過外掛程式的形式還能實現更多有趣好玩的功能,理論上你能將他調教為你最想看到的樣子,不過這需要大量的前置條件設置好才行。

寫在最後

非常有趣且好玩的專案,誰不希望在自己的NAS裡面養一隻貓娘或者女朋友呢?

以上便是本期的全部內容了,如果你覺得還算有趣或者對你有所説明,不妨點讚收藏,最後也希望能得到你的關注,咱們下期見!