蚂蚁宣布开源代码大模型CodeFuse

在今日的外滩大会分论坛上，蚂蚁集团首次开源了代码大模型CodeFuse。CodeFuse基于蚂蚁基础大模型研发，在近期代码补全的HumanEval评测中，CodeFuse得分74.4%，超过GPT-4的67%和WizardCoder-34B的73.2%。本次开源内容包括代码框架、模型等，现已上架HuggingFace等平台。代码框架部分包括自研的多任务微调（Multi-task fine-tuning，MFT）框架，支持代码生成、代码翻译、测试用例生成、bug修复等数10个任务一起微调。模型部分包括CodeFuse13B-4K、CodeFuse-CodeLlaMa34B-MFT两个大模型。
开源地址：
https://huggingface.co/codefuse-ai