无法加载模型bin或者guff模型

[velonica0]

除了官方示例的chinese-alpaca-7b-q4.bin，其他的都会报如下错误。

Assert ' 0 ' failed at file : /home/openkylin/workspace/InferLLM/src/graph/ggml_llama.cpp
line 37 : virtual void inferllm::GgmlLlamaGraph::load(std::shared_ptrinferllm::InputFile, inferllm::LlmParams&, std::shared_ptrinferllm::Vocab),
extra message: unsupported model type.已放弃

然而我将相同的模型用llama.cpp运行没有问题

[Mrnewliu]

./llama -m chinese-alpaca-7b-q4.bin -t 4

main: seed = 77536
Assert ' 0 ' failed at file : /home/hack213/tpc_c_cplusplus/thirdparty/InferLLM/InferLLM-405d866e4c11b884a8072b4b30659c63555be41d/src/graph/ggml_llama.cpp
line 37 : virtual void inferllm::GgmlLlamaGraph::load(std::shared_ptr, inferllm::LlmParams &, std::shared_ptr),
extra message: unsupported model type.Signal 6
同样的问题

[Yues007]

请问现在这个问题解决了吗？这个框架是不是不支持gguf格式的模型？除了readme中提到的那些模型，能不能再跑一些更大的模型？ @velonica0 @Mrnewliu