蚂蚁集团最近发布了 CodeFuse-CodeLlama-34B 的 4bits 量化版本，该模型经过量化后仍可用单张 A10 或 RTX4090 加载。经过量化后的模型在 Humaneval pass@1 指标上取得了 73.8% 的表现。CodeFuse 是蚂蚁自研的代码生成专属大模型，通过提供智能建议和实时支持，帮助开发者自动生成代码，提升研发效率。
本文由「aiuc」编辑整理，文章链接：https://www.aiuc.net/23206
该文观点仅代表作者本人，平台仅提供信息存储空间服务。
