因(yīn)为最近《哪吒》爆火,就(jiù)想着重新看看之前一样被称为国产科幻之光的(de)《流浪地球》,看完之后对里面的(de)550W莫斯人工(gōng)智能非(fēi)常感兴趣,于是(shì)突然产生了一个想法,能不(bù)能给我的(de)NAS也增加一點(diǎn)趣味性呢?比如添加一个世界观进去,赋予它“灵魂”?
我们都知道常规的(de)AI大模型(xíng)用来进行一些对话、搜索(suǒ)或者解答是(shì)完全可(kě)以的(de),但想要让AI了解整个世界观,赋予它角色,并同时让他能持续性的(de)按照你给出的(de)设定来进行对话,那(nà)就(jiù)需(xū)要大量的(de)AI前置条件,也就(jiù)是(shì)现在各大LLM的(de)预设情景。而要记住大量的(de)信息,同时赋予它“灵魂”,不(bù)止是(shì)需(xū)要大量的(de)文本信息让他记住,还需(xū)要一些有用的(de)插件,让它看起来真的(de)想一个“人”在跟你交流,于是(shì)电子酒馆项目就(jiù)这么诞生了。
SillyTavern项目相信大家可(kě)能有點(diǎn)陌生,但其实如果我说电子酒馆或者电子“魅魔”估计大家就(jiù)比较熟悉了,SillyTavern可(kě)以让你的(de)AI拥有更多定制化的(de)内容(róng),例如世界信息、角色信息、自动翻译、文本绘图、語(yǔ)音生成以及基于角色的(de)数据库聊天,它不(bù)仅能根据你给到的(de)角色和世界观来和你对话,还拥有情绪识別(bié)、聊天记錄(lù)自动摘要、发送图片和解释图片的(de)功能,总之,这个项目的(de)一切就(jiù)是(shì)让你的(de)AI大模型(xíng)更像一个能和你正常聊天的(de)“人”
“器灵”的(de)搭建方式(shì)有了,那(nà)么接下来就(jiù)是(shì)挑选一个适合的(de)设备了,这里我果断选了极空(kōng)间Z423旗舰版,毕竟作为陪伴了我两年多的(de)NAS,是(shì)时候给它赋予灵魂了。
展开全文
用Z423旗舰版还有一部分原因(yīn)是(shì)因(yīn)为性能,因(yīn)为涉及到审查的(de)原因(yīn),可(kě)能有些大模型(xíng)并不(bù)方便用来作为本地角色扮演用,所以这里建议可(kě)以尝试本地部署大模型(xíng),那(nà)这就(jiù)需(xū)要用到Z423旗舰版的(de)性能了,毕竟作为消费级性能天花板,也就(jiù)它能胜任这样的(de)工(gōng)作。
虽说AI大模型(xíng)会有审查,不(bù)过如果聊天不(bù)涉及审查或者不(bù)涉及自身隐私问题,那(nà)么其实直接用极空(kōng)间的(de)Q4、Z2Pro或者Z4Pro这些也完全可(kě)以,毕竟调用API是(shì)不(bù)存在占用本地资源的(de)。
SillyTavern的(de)镜像是(shì)存放在ghcr.io上的(de),所以这里我们需(xū)要用到自定义拉取,打开极空(kōng)间的(de)Docker,随后在镜像的(de)仓库界面點(diǎn)击右上角自定义拉取,在对话框中输入镜像地址ghcr.io/sillytavern/sillytavern:latest下载镜像。
镜像下载之后双击镜像创建容(róng)器,这里我们需(xū)要映射四个文件夹,对应的(de)路径分別(bié)为/home/node/app/config、/home/node/app/data、/home/node/app/plugins 以及/home/node/app/public/scripts/extensions/third-party,其中分別(bié)对应配(pèi)置、数据、插件以及角色卡。(可(kě)选择性映射,不(bù)用全部映射)
端口方面只需(xū)要要映射8000端口即可(kě),例如我这里映射为8300端口。
所有设置好之后就(jiù)可(kě)以點(diǎn)击应用创建容(róng)器了,不(bù)过创建好之后并不(bù)能第一时间通过端口访问项目,我们还需(xū)要将我们的(de)IP添加到项目的(de)白名单中才行。
这就(jiù)需(xū)要用到SSH功能,我们點(diǎn)击该项目的(de)SSH选择命令/bin/ash,随后输入ls列出当前容(róng)器的(de)目錄(lù)。
再输入cd config打开配(pèi)置文件目錄(lù),输入vim config.yaml打开配(pèi)置文件,这时候能看到这样的(de)界面。
这里红圈标出来的(de)部分就(jiù)是(shì)项目白名单了,此时将光标移动到白名单的(de)位置,按照格(gé)式(shì)添加我们的(de)IP即可(kě),这里需(xū)要注意(yì),添加的(de)IP既要有自己本地的(de)IP还需(xū)要有容(róng)器IP,容(róng)器IP可(kě)以在容(róng)器运行起来之后的(de)网络界面看到。
这时候我们再通过浏览器输入极空(kōng)间IP:8300就(jiù)能访问酒馆的(de)界面了。
點(diǎn)击上方插头一样的(de)标志,就(jiù)能弹出API的(de)设置界面,點(diǎn)击连接看到亮绿灯之后便代表AI大模型(xíng)能正常工(gōng)作,加下来就(jiù)是(shì)角色卡以及各种其他事项的(de)设置工(gōng)作了。
最左侧的(de)为对话设置项, 在这里可(kě)以设置对话的(de)上下文长度、模式(shì)、创意(yì)性、提示词以及各种插件的(de)配(pèi)置和文生图等设置项,根据自己的(de)大模型(xíng)情况与需(xū)求来设置即可(kě)。(不(bù)懂可(kě)以不(bù)动)
要设置角色,就(jiù)需(xū)要先导入角色卡或者自己创建。點(diǎn)击最右侧的(de)图标就(jiù)是(shì)AI角色卡的(de)设置界面了,在这里可(kě)以通过链接导入、文件导入以及自建的(de)形式(shì),这里也推荐一个AI角色卡的(de)网站(/),该网站拥有大量用户预设好了的(de)角色(还有一些大人玩的(de)角色),不(bù)过网址因(yīn)为是(shì)境外网址,所以需(xū)要自行想办法访问。
下载或者复制角色卡链接,随后在酒馆界面导入就(jiù)能看到你导入的(de)角色了,部分角色会有对话立绘和插画。
最后的(de)最后,點(diǎn)击你导入的(de)角色就(jiù)能直接聊天了,我们来试试效果吧!(因(yīn)为角色卡来源于外站,而极空(kōng)间这里并没有代理,所以立绘无法加载出来)
酒馆的(de)设置项还有很多,像是(shì)背景、世界观等等都可(kě)以设置,同时通过插件的(de)形式(shì)还能实现更多有趣好玩的(de)功能,理论上你能将他调教为你最想看到的(de)样子,不(bù)过这需(xū)要大量的(de)前置条件设置好才行。
非(fēi)常有趣且好玩的(de)项目,谁不(bù)希(xī)望在自己的(de)NAS里面养一只猫娘或者女朋友呢?
以上便是(shì)本期的(de)全部内容(róng)了,如果你觉得还算有趣或者对你有所帮助,不(bù)妨點(diǎn)赞收藏,最后也希(xī)望能得到你的(de)关注,咱们下期见!
版权声明
本文仅代表作者观点,不代表百度立场。
本文系作者授权百度百家发表,未经许可,不得转载。