1. PTT
  2. Python

[问题] safetensors 转gguf后 答非所问

楼主: gostjoke (鬼笑话)   2024-09-11 10:02:11
不好意思 版上有人遇到这个问题吗?
我之前准备了一个测试训练 强化某问题(instruction)
模型是 Chinese llama 1.3B
然后再FT 后可以回答出该问题
但用llama.cpp转gguf后答案整个歪掉 此外原本的许多问题都答不出来或答非所问
有人遇到这个问题吗?
作者: DaOppaiLoli (大欧派萝莉)   2024-09-12 07:32:00
你要不要附上指令参数，可能跟 prompt format 有关
继续阅读
[征求］协助部署flaskaocaoef[问题] Pandas双条件groupby求取sonicstars[问题] 新手请问第一支程式要在哪里写呢?hayato2888[心得] LeetCode家教后，写程式的执行效率提升goldeneyes[问题] 如何使用Pywin32读取USB打印机的连线状态meisu[问题] selenium现在有办法爬虫IE吗?oskens[问题] Django admin后台建立自定义按钮问题def345[问题] excel两栏比对的问题mikevadaRe: [问题] 长条图标题与X轴标签字体大小调整viskboy[问题] 安装jupyter 无法执行,想请问如何处理。blassreiter

Links booklink

Contact Us: admin [ a t ] ucptt.com