Hugging Face Blog·· 18 天前精选AI 评分70
Transformers 现在支持运行 llama.cpp quants
Transformers now runs llama.cpp quants
AI 导读
Hugging Face 的 Transformers 现在支持运行 GGUF 模型，允许用户使用适合笔记本电脑内存大小的检查点，通过熟悉的 Transformers API 进行生成。
推荐理由
原文给出了能力变化和开放入口，读者可以据此判断它会怎样改变现有工作流。
来源：Hugging Face Blog · huggingface.co