婆罗门
精华
|
战斗力 鹅
|
帖子
注册时间 2012-6-5
|
我通过修改代码直接赋予3完成了转换,但是又遇到问题
- (venv) PS F:\Chinese-LLaMA-Alpaca\llama.cpp> ./quantize ./zh-models/13B/ggml-model-f16.bin ./zh-models/13B/ggml-model-q4_0.bin 3
- llama.cpp: loading model from ./zh-models/13B/ggml-model-f16.bin
- llama_model_quantize: failed to quantize: llama.cpp: tensor '' should not be 0-dimensional
- main: failed to quantize model from './zh-models/13B/ggml-model-f16.bin'
复制代码
tokenizer_checklist.chk 我是没有的,我只能从最原始的包里找
tokenizer.model 我用的下载下来的那个..
|
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有帐号?立即注册
x
|