Re: [洽特] 有关如何自建本地AI聊天机器人

楼主: driftcreator (小雷)   2024-11-14 12:58:43
现在最强的LLM对话前端平台,应该是韩国制品RisuAI,只是在英文系的社群平台不够红
开源,使用者友善的UI接口、有Web端(可以用手机玩),功能丰富程度仅次于ST
可惜的是Mod没有,我猜都放在赞助后加入的discord上面了
https://risuai.net/
RisuAI最神的是,平台上一堆用爱发电的作者用Regex写卡片,这在其他平台非常稀少
SillyTavern也有支援Regex,但因为RisuAI是角色卡内容+数据库+语法直接绑一包
与其花时间手动移植,还不如加入RisuAI,平台上直接一键下载省事
Regex可以实现的功能像是
.直接在每次回应输出立绘卡,还能翻面看状态 https://imgur.com/a/R5CZiKR
.在底部生成一个小表格,纪录你的状态、装备 https://imgur.com/a/jTa6BF6
.能输入指令直接启用特殊事件 https://imgur.com/a/gZpXb6T
.官网例图。但我找不到实装卡片 https://imgur.com/a/FYHmQ7g
且虽然韩国使用者不少,但卡片仍用英文建构,且不少还内建多语言的初始对话
支援通用V2 png格式,所以其他平台的角色卡、数据库也能直接汇进去
作者: MrJB (囧兴)   2024-11-14 13:02:00
感觉好难
作者: Rosor (我就是城武 别再问了)   2024-11-14 23:20:00
这个有支援本地模型吗
楼主: driftcreator (小雷)   2024-11-14 23:30:00
Ollama, Kobold, llama.cpp都是执行本地模型的后端但Regex加持的增强卡片,小模型会比较容易输出跑歪
作者: chiekat (chiekat)   2024-11-15 18:11:00
各LLM对数值的追踪表现还好吗,之前在 sillytavern reddit 爬文得到的回复都不太乐观
楼主: driftcreator (小雷)   2024-11-16 00:03:00
越大越聪明的模型,越能相对有效追踪参数跟细节
作者: LaPass (LaPass)   2024-11-16 00:51:00
感谢

Links booklink

Contact Us: admin [ a t ] ucptt.com