AI 自动修 bug，科罚率达 44%！这是环球开源模子的最新最强水平。
来自蚂蚁的开源新模子，在 SWE-bench Lite 上卓越扫数开源有蓄意，性能失色闭源模子。
具体推崇如下，在 SWE-bench Lite 上：
扫数开源模子举止（Open Weight Model）中名依次一；
扫数开源系统举止（Open Source Syestem）中名依次六；
总体名依次 14；
优于目下榜单最好开源模子" KGCompass " 7.33%。
他们创始将仓库代码图模态融入大模子（Code Graph Model, CGM），让大讲话模子能径直厚实代码图，更高效建立 bug、补全代码。
这透顶开脱对黑盒模子（如 GPT-4 或 Claude 3.7 等）和复杂 Agent 责任经过的依赖，竣事愈加可控、透明、安全的 SE 自动化。
而且，CGM 竣工基于开源模子。要知说念，开源模子在 SWE-bench 上的推崇通常不够好，此前险些扫数 SOTA 级有蓄意都是基于闭源模子竣事。而 CGM 基于 Qwen 模子，作念到了并列闭源模子的水平。
CGM仅需 4 步就能快速定位、生成补丁，省去了 Agent 有蓄意中复杂的编排过程，效鲠直线 up。
让 AI 真确厚实大模子代码库
大模子趋势以来，AI 编程马上崛起，尤其是在写函数这类小任务上的推崇出色，比如在 HumanEval 等基准测试上，很多模子的准确率仍是向上 90%。
然而的确的软件工程远比"写一个函数"复杂得多。像 Bug 建立、功能增强这么的任务，通常需要跨文献、跨模块操作，并条款模子厚实阵势中复杂的结构、依赖关连和类的秉承体系。
目下的主流举止通常是使用基于闭源模子的 Agent。它们不错模拟东说念主类门径员举止，如不雅察代码、调用器具、多轮交互等完成任务。
但这类举止也存在几个问题：
举止旅途不成控，容易积蓄推理流毒；
依赖 GPT-4、Claude 等闭源模子，难以专有部署或定制；
工程资本高，着力不高。
与此同期，刻下使用开源模子的有蓄意，很难竣事 SOTA 级成果。
为此盘问团队建议：能否只用开源模子、不依赖 Agent，科罚仓库级任务？CGM 由此而来。
� � 图结构与大模子深度交融
CGM 摄取近似 Vision-Language Model（VLM）的跨模态建模方式。它将传统 LLM 的文智商会才气与代码仓库的结构图（Graph）聚合，变成一种图 - 讲话多模态模子。模子中枢交融了两个模态：
图模态：将仓库构建为结构化图，节点包括函数、类、文献、包等 7 种类型，边示意调用、包含、秉承等依赖；
讲话模态：用户输入的当然讲话容颜和代码辅导，初始模子生成 patch 或回复。
模子输入为代码图和文本方式的 prompt，将在 LLM 中对结构 - 语义进行双模态对王人。
具体结构交融举止如下：
使用微型编码器（CodeT5+）对每个节点进行编码，压缩为单个"节点 token "，每个节点内按照至多 512 个 token 的文本块切分。
通过一个适配器（一个两层 MLP）将编码后的节点表征映射到 LLM 输入镶嵌空间中。罕见于将 LLM 高下文推广 512 倍，能更克己理海量的代码仓库高下文。
使用图感知防备力掩码（Graph-aware Attention Mask）。替代 LLM 华夏有的因果防备力，使防备力机制只作用于相邻节点间。近似于 GNN 的音书传递机制，简略让 LLM 径直感知和诳骗代码的结构依赖关连。
✏️两阶段锻真金不怕火：结构厚实 + 问题泛化
基于此模子架构，团队通过两阶段锻真金不怕火让 LLM 简略厚实代码图的拓扑结构。
阶段一：子图重构预锻真金不怕火
为了锻真金不怕火 CGM 有用捕捉代码图的语义和结构信息，团队假想了一个"图生代码 ( Graph-to-Code ) "任务。从大型代码图中当场采样出子图（拆开节点数目以适度输出代码长度），模子需要字据这些输入的子图（仅包含节点类型和通顺关连，不含完好的代码内容）来重建出原始的代码片断。
然后摄取层级化举止，保捏重建代码的结构一致性和可读性。按照拓扑排序与行号法则拼接仓库高下文：高等别节点（如 REPO、PACKAGE）置于输出序列或文献的肇端；文献节点通过拓扑排序确定法则；文献内节点（如 CLASS、FUNCTION）则按行号法则拼接。
阶段二：噪声增强微调
此阶段使用的确的 GitHub 问题 - 建立补丁数据对 CGM 进行微调。
模子学习基于两项输入生成代码补丁： ( i ) 一个关联的代码子图； ( ii ) 一段文本辅导，指明字据补丁可能需要修改的本体文献。为了进步模子的鲁棒性，成心在辅导中引入了 10% 的噪声输入：举例，辅导中可能包含一个本体上无需修改的不关联文献，或者遗漏至少一个本应被修改的关节文献。在锻真金不怕火中引入这种受控的噪声有助于模子更好地泛化到本体输入信息不完好或包含侵犯的场景。
� � 推理阶段：Graph-RAG 框架替代 Agent
临了，为了进一步进步本体应用才气，CGM 构建了一个无 Agent 轻量化框架 Graph-RAG。
它收复了东说念主类门径员 bug 建立责任流，但比现存 Agent 有蓄意着力更高。
中枢模块数目从 10 个进一步精简到了 4 个：改写器→检索器→重排器→生成器（CGM 模子）。
改写器（Rewriter）：改写问题容颜，索求关节词与关联文献；
检索器（Retriever）：通过语义与结构检索，从代码图中抽取连通子图；
重排器（Reranker）：排序检索收尾，采纳最关节文献用于生成；
生成器（Reader）：聚合子图与辅导生成最终建立代码。
基于以上，CGM 在多个测试基准中得回了最先收获。具体如下——
本质收尾
盘问团队在多个主流基准上系统评估了 CGM 的性能，涵盖两个主要任务类别：（1）代码建立和（2）代码补全。
仓库级别的代码建立
在 SWE-bench Lite Leaderboard 上，CGM 以 44.00% 的收尾名次开源权重榜单第一。
在 SWE-bench Verified 上，CGM 比较于最好开源基线进步了 10.20%，至 50.40%；
关于 Java 阵势，CGM 在 SWE-bench-java Verified 上达到 14.29%，则比较于最好开源基线进步了 4.4%。
这些收尾标明 CGM 简略处理跨讲话、跨项蓄意大限制仓库级 Bug 建立任务，展现出普遍的结构厚实与泛化才气。
仓库级别的代码补全
在复杂代码生成任务中，CGM 在 ComplexCodeEval 和 CrossCodeEval 上也显赫最先于同尺寸开源模子，罕见是在需要跨文献推理和补全的场景下成果杰出。
此外，盘问团队在不同基座模子上（CodeLlama-7B 和 DeepSeek-Coder-7B）永诀部署了 CGM，并与近期 RAG 系统进行比较。收尾露馅，CGM 具备很好通用性，不错适配多种基座模子，何况推崇卓越传统 RAG 举止。
回归来看，CGM 不依赖复杂 Agent 系统，初度竣事了在大模子中交融代码图模态，让 AI 像东说念主类相似 get 仓库里文本和代码之间的复杂依赖关连，"真确厚实一个阵势"。
更关节的是，它基于开源模子就能竣事，不局限于特定模子。为企业和开拓者提供了一个无邪、透明且可控的有蓄意。
� � 临了，CGM 的本领论文、中枢代码、模子权重与锻真金不怕火数据均已开源，感酷好的同学可进一步了解笃信。
本领论文：https://arxiv.org/abs/2505.16901
开源代码：https://github.com/codefuse-ai/CodeFuse-CGM
模子权重：https://huggingface.co/codefuse-ai/CodeFuse-CGM-72B
锻真金不怕火数据：https://huggingface.co/datasets/codefuse-ai/CodeGraph
� � 团队此前责任：
Code LLM 综述：Awesome-Code-LLM（TMLR）
https://github.com/codefuse-ai/Awesome-Code-LLM
Graph+LLM 前序盘问：GALLa（ACL 2025）
https://github.com/codefuse-ai/GALLa
高效防备力架构：Rodimus（ICLR 2025）
https://arxiv.org/abs/2410.06577
代码多任务微调框架：MFTCoder（KDD 2024）
https://arxiv.org/abs/2311.02303
一键三连「点赞」「转发」「小心心」
迎接在驳倒区留住你的思法！
— 完 —
� � 点亮星标 � �
科技前沿进展逐日见2024欧洲杯官网入口
当前网址：http://www.geruijia.com/xinwenzhongxin/1785861.html
tag：2024欧洲杯官网入口,变成,一种,话多,模态,模子