最近有个项目，想通过大预言模型的微调来进一步增强RAG的效率，才有了几天的折腾，虽然最后还是没有达到预期，还是记录一下这个过程，没准后期还得再来一遍。 unsloth是一个大语言模型微调工具，支持多种包括刚开源的Qwen2、llama3等主流开源模型，可导出为GGUF（这样就可以直接在ollama中使用了，巨方便），项目地址：https:……