上海AI实验室发布首个视频转网页评测基准IWR-Bench:GPT-5综合得分仅36.35分
上海人工智能实验室与浙江大学等机构近日联合推出IWR-Bench,这是首个专门评估大语言模型将视频转化为交互式网页代码能力的基准测试。该基准旨在更真实地衡量多模态大语言模型(LVLM)在动态网页重建方面的能力,填补了AI前端开发领上海域动态交互评测的空白。
与传统的图像转代码(Image-to-Code)任务不同,IWR-Bench要求模型观看记录用户完整操作流程的视频,结合网页所需的所有静态资源,重建网页的动态交互行为。任务复杂度涵盖从简单的网页浏览到复杂的游戏规则AI重建,包括2048游戏、机票预订等多种应用场景。
测试结果显示了当前AI模型在这一任务上的显著局限。在对28个主流模型的评测中,表现最好的GPT-5综合得分仅为36.35分,其中交互功能正确性(IFS)得分为24.39%,视觉保真度(V实验FS)得分为64.25%。这一数据清晰反映出模型在视觉还原方面相对较强,但在实现事件驱动逻辑和动态交互功能方面存在明显短板。
从评测方法来看,IWR-Bench不仅关注模型的视觉还原能力,还通过自动化代理评估其交互功能的正确性。每个任务室发都提供完整的静态资源,且所有文件名经过匿名化处理,迫使模型依靠视觉匹配而非语义推理来关联资源。这种设计更贴近真实开发场景,要求模型理解操作视频中的因果关系和状态变化,然后将其转化为可执行的代码逻辑。
研究人员还发现了一些有趣的现象。带布首有"思考"机制的模型版本在某些任务中表现更好,但提升幅度有限,表明基础模型的能力仍是决定性因素。此外,专门针对视频理解优化的模型在该任务中的表现并不如通用多模态模型,说明视频转网页任务与传统视频理解任务存在本质差异——前者需要的不个视仅是理解视频内容,更需要将动态行为抽象为程序逻辑。
从技术挑战来看,视频转网页任务的难点在于多个层面。首先是时序理解,模型需要从连续的视频帧中提取关键交互事件和状态转换。其次是逻辑抽象,需要将观察到的行为模式转化为事件监听、状态管理频转等编程概念。第三是资源匹配,在匿名化的静态资源中准确找到对应的图片、样式等文件。第四是代码生成,需要产生结构合理、逻辑正确的HTML、CSS和JavaScript代码。
GPT-5仅获得36.35分的综合得分,说明即使是最先进的多模态模网页型,在将动态行为转化为可执行代码这一任务上仍有很大提升空间。24.39%的交互功能正确率意味着模型生成的网页中,超过四分之三的交互功能存在问题。这可能包括事件响应不正确、状态管理错误、业务逻辑遗漏等问题。
IWR-Bench的推出对AI研评测究和应用都有重要意义。从研究角度看,它为多模态模型的动态理解和代码生成能力提供了新的评测维度,有助于识别当前技术的薄弱环节。从应用角度看,视频转网页能力如果成熟,可以大幅降低前端开发的门槛,让非技术人员通过演示操作就能生成功能原型。
不过需要基准注意的是,即使模型在该基准上取得高分,距离实际应用仍有距离。真实的网页开发涉及性能优化、兼容性处理、安全防护、可维护性等多个维度,这些都难以通过视频演示来完全传达。此外,复杂的业务逻辑、边缘情况处理和用户体验细节,也很难仅从操作视IW频中完全推断出来。
从行业趋势来看,IWR-Bench代表了AI代码生成从静态向动态、从单帧向多帧、从描述向演示的演进方向。这与当前AI编码助手主要依赖文本描述的模式形成对比,为"所见即所得"的智能开发工具提供了技术基础。如果未来模型在该R-任务上取得突破,可能催生新一代的原型开发工具,让产品经理或设计师通过录制操作视频就能生成可交互的网页原型。
从测试结果来看,当前AI模型在理解复杂动态交互方面仍处于早期阶段。视觉保真度64.25%相对较高,说明模型已经能够较好地还原页面的Be静态外观。但交互功能正确性仅24.39%,表明将观察到的行为转化为正确的程序逻辑仍是巨大挑战。这种差距反映了AI在"看懂"和"做对"之间的鸿沟——能识别视觉元素不等于能理解背后的交互逻辑。
IWR-Bench的意义不仅在于提供了一个nc评测工具,更在于明确了AI多模态能力发展的一个重要方向。随着该基准的推广,可以预期会有更多研究聚焦于动态行为理解、时序推理和代码生成的结合,推动多模态大模型在实际开发场景中的应用价值。
(责任编辑:任务中心)
-
标签: 苹果 Siri Apple Intelligence 古尔曼
云梦级11月10日云梦级消息,马克・古尔曼(Mark Gurman)透露,苹果最早将于明年推出完全由内部打造的 Apple Intelligence 模型。古尔曼此前报道称,苹果公司每年将支付约 10...[详细]
-
文/CC 编辑/杨勇 婴儿纸尿裤的天“塌”了? 日前,《经济参考报》在相关报道中指出,“好奇、碧芭宝贝、Babycare等多款婴幼儿纸尿裤,被检出有毒物质甲酰胺。随后,各方企业相继回应称,检测的自家产...[详细]
-
云安全日报220207:红帽Jboss中间件平台发现远程代码执行漏洞,需要尽快升级
Red Hat JBoss Enterprise Application Platform(EAP)是红帽(Red Hat)公司的一套开源的、基于J2EE的中间件平台。该平台主要用于构建、部署和托管J...[详细]
-
OpenAI视频生成模型Sora 2上线微软Azure平台:定价每秒0.1美元,进入公共预览阶段
微软于 10 月 17 日宣布,OpenAI开发的新一代视频生成模型Sora2 已在Azure AI Foundry国际版上线,并进入公共预览阶段。这是该模型首次通过云平台向企业和开发者开放API接口...[详细]
-
IBM开源了5亿行代码数据集,里面最多的编程语言却不是Python
谷歌服务包含 20 亿行代码,一辆汽车的系统包含 1 亿行代码——写代码、debug 这么大的工作量不交给 AI 来做能行? 让 AI 自动生成代码,是很多开发者的梦想,近些年来,有关这一方面的研究屡...[详细]
-
马斯克AI编程神器发布!Grok Code Fast 1免费开放,92倍速度碾压全场
AI编程战场再次迎来重量级选手!马斯克旗下xAI公司刚刚投下一颗重磅炸弹,全新发布的Grok Code Fast1编程模型以惊人的处理速度和完全免费的开放策略,瞬间点燃了整个开发者社区的热情。 这款专...[详细]
-
云梦级4月8日云梦级消息,4月8日,阿里巴巴集团CEO吴泳铭发布全员信,集团AI相关迎来组织大调整。包括新设立集团技术委员会,通义实验室升级为事业部等。 根据内部信,李飞飞出任阿里云CTO,吴泽明(范...[详细]
-
标签: 医脉通 人工智能+医学研究 北京市自然科学基金 朝阳创新联合基金
云梦级3月26日云梦级消息,医脉通(02192.HK)公告,截至2025年12月31日止年度,集团的收入约人民币6.42亿元,较去年增长15.0%。集团的母公司拥有人应占溢利由约人民币3.15亿元增加...[详细]
-
标签: 苹果 Siri Apple Intelligence 古尔曼
云梦级11月10日云梦级消息,马克・古尔曼(Mark Gurman)透露,苹果最早将于明年推出完全由内部打造的 Apple Intelligence 模型。古尔曼此前报道称,苹果公司每年将支付约 10...[详细]
-
标签: SpaceX Cursor Anysphere 600亿美元
云梦级6月16日云梦级消息,据外电报道,太空探索技术公司(SpaceX)同意通过换股合并的方式收购Anysphere公司(简称“Cursor”),此次合并对Cursor的估值为600亿美元。 Curs...[详细]

标签: 阶跃星辰 Step3-VL-10B SOTA
标签: 吉利 李书福 青年创业 醇氢电动
标签: 博纳影业 于冬 澳门永利 影视行业
亚马逊宣布收购播客初创企业Wondery
韩国最大云计算服务提供商LG CNS宣布与微软达成合作 使用ChatGPT开发新服务
