图片来源:unsplash
编程一向被视为AI落地的“第一站”和“风向标”。如今,AI编程能力仍在不断进化,但究竟能在真实软件开发、业务场景中发挥多大实际作用,仍存在争议。
(资料图片仅供参考)
10月27日,AI编程公司Cognition发布FrontierCode 2.0测评榜单。据称更新版测评更加侧重AI编程在真实软件工程任务中的通过率,包含132项任务,相较以往版本提高了任务复杂度和工程质量要求。最终,主流模型得分均较以往大幅缩水,Claude Opus 5.5虽仍然排名最高,但分数从FrontierCode 1.1版本的54.6%降到了新版本的45.5%,排名第二的GPT-6 Astra得分从53.3%降至42.8%。其他模型跌幅更大,典型如Grok 4.7,得分从47.6%“断崖式”降至28.6%。
相关结果在社交媒体X、开发者社区中引发讨论,不少声音认为,很多模型能在编程测试中得到高分,却在真实应用中带来麻烦,说明测评本身“有水分”。不少开发者跟帖分享AI编程在真实场景中的失败案例,包括模型经常通过直接删除公共API来“暴力修bug”、“过度思考”误读需求后强行实现错误理解等。
一位在软件公司工作多年的开发者介绍称,AI在代码补全、函数生成领域带来的效率提升是历史级的,包括能够根据自然语言描述就能vibe coding(氛围编程)出简单的应用,也是以前无法想象的事。但在真实的软件工程中,生成代码只是起点。
生产级、商业化软件中的真实任务,往往需要开发者在既有系统中增加功能,同时兼容旧接口、遵循项目架构、避免引入安全漏洞,并确保其他模块不受影响。需求文档未必会写出所有约束,开发者还需要理解代码仓库的历史设计、维护者的习惯,以及不同模块之间的依赖关系。想要真正完成任务交付,光让代码能跑远远不够,从需求理解到测试验证、代码维护等诸多环节都不能出错,否则就会让最终结果无法使用。而在实际应用中,软件还需要匹配业务场景,完成业务建模,工作更加复杂。
还有开发者在社群讨论中提出“Vibe谬误”的概念,认为随着AI编程能力快速普及,基准任务的门槛几乎被踏平,但这也让人们习惯于用简单任务来理解编程工作,形成“这么简单?那我也行!”的认知和心态。但真实的软件工业仍是另一个世界,处理的不是孤立的编程问题,而是一个包含多重约束的系统工程。而且,软件开发中的正确答案往往并不唯一。一个功能可以通过多种方式实现,但只有部分方案符合现有架构、性能要求和维护规范。他认为,目前来看很多问题还是需要有经验的工程师来解决,最典型的例子就是,AI模型经常在成功修复当前问题后留下新的隐患,甚至随着其代码修改权限的扩大,能够自主调用工具、执行命令、连续修改多个文件时,错误的影响范围也会随之扩大,甚至在项目推进到一半、2/3,或启动后的维护过程中显现出“灾难性影响”,不得不“推倒重来”。
今年以来,编程Agent发展迅速,逐渐深入企业开发流程,但从目前来看,多数Agent在长程任务、多组件系统的配置与集成等领域表现仍不理想,再加之审查验证、生产环境接入与组织治理调整等环节不同步,AI编程大多仍被困在本地窗口,真正完成端到端交付的并不多。
一些从事AI开发的团队也在进行更加“AI原生”的尝试,打散传统线性任务流程和组织架构,AI跑代码开发,人类则加码评审工作,通过“项目制”聚合编程Agent与人类各自的所长。不过,值得注意的是,相关实践更多集中于本身从事AI研发的团队,而且往往是小团队先行,或将大团队切成一个个的项目组“分头行动”,在开发中使用得也多为自研编程工具或定制化工具,这些都有助于消化AI代码产能跃进后带来的测试工作“倍增”、安全高度承压等问题。而对于相对传统的软件开发领域,即使不考虑Token成本,想直接挪用这些包含了个性化工具开发、组织架构变革的模式,仍面临很多瓶颈。
想让AI编程在更大范围内形成真实生产力,或许还要先寄望于模型领域的突破。
目前,AI大模型仍在加码编程能力。10月24日Kimi发布的K3.1 Pro和10月27日OpenAI发布的GPT-6.1 Terra都强调了AI编程在真实场景中的能力提升和成本下降。
尤其是K3.1 Pro,通过训练范式的变革,着重增强了真实任务编程、长程Agent、金融等能力,测评显示其任务成功率显著提升。有业内人士分析认为,Kimi当前技术攻关的重心,是解决现有模型在100步以上长思维链中容易陷入死循环的问题,并把复杂数理证明能力和工程代码能力作为可验证推理能力的重点方向加以提升。在主流模型代码补全能力已不易拉开差距的背景下,长程链路方向的突破,有望让AI在复杂软件工程、前沿研究和物理世界推理等方面表现更佳,并在长代码Agent、金融等垂直大行业的落地场景中占据更大份额。
不过,从已公开的测评结果看,K3.1 Pro距离突破100步门槛也仍不少路要走,其他模型也在通过不同技术路线提升AI落地真实场景的能力。目前来看,何时能够搞定真正靠谱的长程Agent,是AI编程交付能力大考的关键。(本文首发于钛媒体APP,文|飞向Tai空)
跑代码易,做任务难:AI编程迎来交付能力大考,跑代码,ai编程,交付能力,
菊影依依偎碧水,繁花叠叠缀长堤,2026瘦西湖“菊花会”启幕
亚洲现货价差优势明显,原本发往欧美市场的甲醇船货转流向中国、东南亚
人民财讯10月28日电,10月28日,智元宣布升级一站式具身智能仿真平台Ge
10月28日,据报道,TPG正与艾略特管理公司(ElliottManagement)洽谈收
格隆汇10月28日丨科士达在互动平台表示,截至10月20日,公司股东人数约
“宅度假”兴起,飞猪双11:沙漠、雪山、湖畔酒店火了
莱美药业、百普赛斯双双涨停,诺思格、海创药业涨超10%,普蕊斯、益诺
申京受伤缺阵雄鹿,火箭队仅剩1+2中锋,或重启五小阵容,阿门需挑起大
10月23日晚间,上海徐家汇商城股份有限公司(下称“徐家汇”)(002561
CFi CN讯:数据显示,巨化股份前三季度营收190 86亿元,同比降6 41%;
智通财经APP获悉,五一视界(06651)持续走高,截至发稿,涨11 88%,报63
上证报中国证券网讯(记者窦世平)五一视界10月28日发布自愿性公告称,
亚马逊:在AI时代考核一名工程师,应看业务价值而非AI使用量,时代,工程
金吾财讯|存储概念板块普涨,截至发稿,澜起科技(06809)涨8 35%,兆
天眼查App显示,近日,惠州市文兴包装有限公司成立,法定代表人为姜荣
谷歌DeepMind发布Genie4世界模型,支持实时交互编辑与同步音频生成,谷
格隆汇10月28日丨永恒策略(00764 HK)发布公告,该公司的股份将于今天(2
【港股物理AI股走强欢创科技涨超7%】截至发稿,欢创科技(06802 HK)涨7
新华社华沙10月27日电波兰国防部副部长玛格达莱娜·索布科维亚克-恰尔
国家能源局:2026年1—9月绿电交易电量2492亿千瓦时,同比增长6 1%,202
证券之星消息,10月27日,软件ETF招商基金(159899)最新份额为11 59亿
快科技10月28日消息,近期蜜雪冰城一款创意转转杯在社交平台出圈,凭借
厄德高:我们的表现没达到应有水准,要争取在周末及时反弹,枪手,厄德高
河北日报讯(记者冯阳)消费是经济增长的“压舱石”、主动力。从省统计
交易所最新数据显示,永杰新材于2026年10月27日获融资买入425 94万元,
大冷!14亿欧阿森纳遭英乙第18名淘汰:身价是对方500倍无缘4冠王,英乙,
证券之星消息,10月27日,科创综指ETF易方达基金(589800)最新份额为1
南财智讯10月28日电,托伦斯在投资者关系活动中表示,目前先进制程对零
迪拜青年国民2-0德黑兰独立,阿兹蒙助攻双响,马特乌桑破僵,国民,迪拜,