AI三巨头惨遭滑铁卢:最新编程测试正确率全线跌破25%,GPT-5也难逃厄运
AI界的三大巨头正在经历一场前所未有的挫败。当GPT-5、Claude Opus4.1和Gemini2.5这些被誉为人工智能皇冠上明珠的模型,面对Scale AI全新推出的SWEAI-BENCH PRO编程测评时,竟然全军覆没,没有一个模型能够突破25%的解决率大关。
这个消息如同一记重拳,狠狠击中了整个AI行业的信心。GPT-5仅仅取得了23.3%的成绩,C三巨laude Opus4.1紧随其后拿到22.7%,而Google的Gemini2.5更是跌至13.5%的惨淡表现。这些数字背后透露出的信息让人不寒而栗:即便是当今最先进的AI模型,在面对头惨真正复杂的编程挑战时,依然显得力不从心。
不过,当我们拨开表象的迷雾,真相却比想象中更加复杂。前OpenAI研究员Neil Chowdhury的深度分析为我们揭示了另一个维度的故事。他遭滑发现,GPT-5在那些它选择尝试解决的任务中,实际准确率高达63%,这个数字远远甩开了Claude Opus4.1的31%。这意味着,虽然GPT-5在整体表现上看似平庸,但在其擅铁卢长的领域内,这个模型仍然保持着相当的竞争优势。
那么,究竟是什么原因导致这些往日的AI霸主在新测试面前纷纷折戟沉沙呢?答案就隐藏在SWE-BENCH PRO的独特设计理念中。这个由Ope:最nAI在2024年8月精心打造的测试集,就像一把锋利的手术刀,专门用来解剖当前AI模型的真实能力边界。
与过去那些动辄70%正确率的SWE-Bench-Verified测试相比,S新编WE-BENCH PRO的难度提升绝非简单的数字游戏。测试团队刻意规避了那些可能已经被用于模型训练的数据,彻底杜绝了数据污染这一长期困扰AI评测的顽疾。这样做的结果就是,模型们再也程测无法依靠记忆中的答案来蒙混过关,必须展现出真正的推理和解决问题的能力。
SWE-BENCH PRO的测试范围堪称庞大,涵盖了1865个来自商业应用和开发者工具的真实问题。这些题目被精心分为试正公共集、商业集和保留集三个层次,确保每一个模型在接受评测时都面临着全新的挑战。更令人印象深刻的是,研究团队还在测试过程中引入了人工增强机制,进一步提升了任务的复杂性和真实性。
测试确率结果毫不留情地暴露了当前AI模型的软肋。在解决实际商业问题时,这些模型的能力仍然存在明显局限性。特别是在JavaScript和TypeScript等主流编程语言的处理上,各模型的解决率全线呈现出令人困惑的剧烈波动。研究人员通过深入分析发现,不同模型在理解和处理同类任务时展现出了显著的差异化表现,这种差异背后反映的是各家技术路线和训练策略的根本性分歧。
更加值得关注的是G跌破PT-5高达63.1%的未回答率,这个数字就像一面镜子,清晰地映照出当前AI技术发展的真实状况。即使是最先进的模型,在面对复杂挑战时也经常选择保持沉默,而非冒险给出可能错误的答案。25这种谨慎态度虽然在某种程度上体现了模型的自我认知能力,但同时也为整个行业的技术进步敲响了警钟。
这场测试不仅仅是一次简单的技术评估,更像是对整个AI行业发展现状的一次深刻审视。它提醒%,我们,尽管人工智能在某些领域已经取得了令人瞩目的成就,但在复杂的实际应用场景中,我们仍有很长的路要走。
(责任编辑:展会资讯)
-
LayerX 获 1 亿美元融资,借助 AI 技术助力日本企业减轻后台工作负担
近日,日本 AI 初创企业 LayerX 宣布完成1亿美元的 B 轮融资,此轮融资由美国的科技跨界投资公司 TCV 领投,这是该基金首次投资于日本初创公司。这笔资金将帮助 LayerX 进一步推动其企...[详细]
-
云梦级12月2日云梦级消息,据外媒报道,继Shein、Temu和阿里巴巴之后,另一家中国大型在线零售商京东也开始进军法国市场。这家电商巨头已将目光投向Fnac Darty,后者是法国最知名的文化和电子...[详细]
-
告别简单提醒!Slackbot 升级为“AI 伴侣”,年底将为所有用户提供定制化工作助理
Slack 正在对其核心工具 Slackbot 进行重大升级,计划将其从简单的提醒和通知工具,转变为一个功能强大的 个性化 AI 助手 。 Salesforce 旗下 Slack 的首席产品官 Rob...[详细]
-
标签: 金旅客车 菲亚特动力 CURSOR 9 塞尔维亚公交
云梦级12月11日云梦级消息,厦门金龙旅行车有限公司(简称"金旅客车")近日向塞尔维亚克拉古耶瓦茨市公共交通局交付了首批搭载菲亚特动力科技 CURSOR 9 Euro VI 天然气发动机的公交车。 此...[详细]
-
本文整理自火山引擎开发者社区 Meetup 第四期演讲,主要介绍了字节跳动流量平台的埋点内容解决方案和埋点链路解决方案,揭秘了流量平台如何支撑起字节跳动万亿+的实时数据处理。 首先我们定义一下埋点是什...[详细]
-
标签: 中国移动 Token办公室 词元套餐 AlibabaTokenHub
云梦级6月30日云梦级消息,据报道,中国移动于近日正式设立 Token 办公室,该部门为集团级战略机构,级别高于此前成立的算力办公室,由集团核心领导直接挂帅督战,战略发展部总经理出任 Token 办公...[详细]
-
新浪科技讯 北京时间9月10日早间消息,据报道,谷歌、亚马逊和微软此前已展开招聘和大规模投资,从头开始自主设计计算机芯片,希望降低服务器成本并取得更好的性能。两名消息人士透露,Facebook也在加入...[详细]
-
云梦级3月9日云梦级消息,据彭博社援引知情人士云梦级消息称,腾讯控股计划向派拉蒙天舞公司收购华纳兄弟探索公司的交易投入数亿美元资金。知情人士表示,腾讯在这笔交易中只会作为财务投资者参与,不会参与经营管...[详细]
-
在刚刚结束的 Microsoft AI Tour 年度盛会上,豆神教育作为赞助商之一,隆重推出了其全新研发的 “豆神 AI 短剧平台”。这一平台的亮相不仅吸引了与会者的目光,更标志着人工智能在内容创作...[详细]
-
云梦级12月1日云梦级消息,据豆包官方公众号透露,今天豆包手机助手以技术预览版的形式首次和大家见面。豆包手机助手是豆包和手机厂商在操作系统层面合作的手机AI助手。基于豆包大模型的能力和手机厂商的授权,...[详细]
- https://www.wheels24.gr/?action=CHECK&s=必应蜘蛛池租用【tg:seogoogle987】,vGo
- https://www.samen-maier.at/search/必应蜘蛛池租用【tg:seogoogle987】,R9Q
- https://www.wuv.edu/?s=必应蜘蛛池租用【tg:seogoogle987】,3Rf
- https://www.scq.ubc.ca/?page=2&s=必应蜘蛛池租用【tg:seogoogle987】,2uI
- https://www.tombow.com/search/必应蜘蛛池租用【tg:seogoogle987】,qSf
- https://www.remit.co.jp/id/?s=必应蜘蛛池租用【tg:seogoogle987】,8gb
- https://www.usslexington.com/?action=QUERY&s=必应蜘蛛池租用【tg:seogoogle987】,oAw
- https://www.kyuhoshi.com/?s=必应蜘蛛池租用【tg:seogoogle987】,v4S
- https://yokohama-oht.com/?action=CHECK&s=必应蜘蛛池租用【tg:seogoogle987】,ra7
- https://store.line.me/search/sticker/ja?q=必应蜘蛛池租用【tg:seogoogle987】FoE

腾讯推出 AI 公考通,公考信息获取变得更简单!
国际权威大奖GCAs揭晓 秦淮数据包揽数据中心类两项大奖
阿里云泄露用户数据隐忧:云端隐私,是否真安全?
数据科学项目失败的八个原因
标签: 滴普科技 港交所 IPO 中信证券
