助力1000+企业后 亚马逊云科技给出「构建生成式AI应用」的关键步骤
10月27日消息,在亚马逊云科技生成式AI构建者大会上,亚马逊云科技大中华区产品部总经理陈晓建透露,截至目前,亚马逊云科技通过开箱即用的生成式AI服务及工具,已帮助1000+中小企业和初创公司快速实现生成式AI创新,已赋能10W+中国开发者,并给出了在端到端构建生成式AI应用时,企业还开发者应该注意的关键步骤。
6个月 助力1000+企业实现生成式AI创新
今年4月中旬助力,亚马逊云科技推出多款生成式AI产品和服务,包括Amazon Bedrock(一项全新全托管服务,它允许用户通过API访问亚马逊云科技和第三方基础模型提供商的预训练基础模型)、Amazon Titan基础模型,并向个人开发者免费开放AI编程工具Amazon CodeWhisperer。
Amazon Bedrock是企业使用基础模型构建和扩展生成式AI应用程序的最简单方法,它是一10项无服务器服务,提供了广泛的模型选择、数据隐私,并且能够自定义模型,无需管理任何基础设施。
陈晓建介绍,Amazon Bedrock目前提供的基础模型来自Meta、Anthropic、Stability AI、 AI21 Labs、Cohere等第三方领先提供商以及自身的Amazon Titan模型等,近期还加入了Meta的下一代开源大模型Llama2以及Anthropic的Clau00de2等热门基础模型。
同时,陈晓建强调:“Amazon Bedrock代理功能是一项全新的全托管功能,代理功能就会自动分解任务并创建编排计划,无需任何手动编码。该代理通过简单的 API 接口安全地连接到公司数据,自动将数据转换为机器可读的格式,并增加相关信息以生成最准确的回答。然后,代理可以自动调用 API 来满足用户的请求。”
亚马逊云科技推出的Amazon CodeWhisp+企erer则是一款人工智能编码伙伴,在基础模型高级选项中使用,可以实时生成代码建议,从根本上提高开发人员的生产力。与未使用的参与者相比,使用Amazon CodeWhisperer的参与者完成任务的速度平均快57%,成功率高27%。
就是借助上述这些开箱即用的生成式AI服务及工具,陈晓建表示,亚马逊云科技已帮助1000+中小企业和初创公司快速实现生成式AI创新,已赋能10W+中国业后开发者。
陈晓建也强调,开发生成式AI应用是一个充满挑战的系统工程,并不是单纯的产品和服务拼接,因此,如何加速客户最终应用的商业化落地,除了亚马逊本身的资源以外,还需要构建强大的合作伙伴生态,携手助力解决生成式AI应用构建中的各种技术问题,加速应用落地。
目前,在国内,亚马逊云科技也和国内大模型创业企业百川智能进行合作,给与企业客户更多大模型选择。
尽管已经服务1000+企 亚业,陈晓建向TechWeb表示,生成式AI应用整体还处在一个非常早期的阶段,生成式AI未来可以做的工作、带来的整个技术前景是非常广泛的,可能会超出我们每个人的想象。现阶段最重要的是能够快速地了解行业、了解客户诉求,包括自身能力提升等。
端到端的构建生成式AI应用的关键步骤
在过去6个月时间,亚马逊云科技团队已经有了服务1000+中小企业和初创公司快速实现生成式AI创新的经马逊验。
在陈晓建看来,“生成式AI不仅仅是大模型,单独的基础模型无法执行任务”。整个生成式AI应用就像是浮在海面的冰山,露在海面上方能被大多数人看到的冰山一角就像是基础模型,而在冰川的底部,同样需要大量的基础模型以外的服务来支撑,如加速芯片,数据库,数据分析,数据安全服务等等。
亚马逊云科技提供了完整的端到端的生成式AI技术堆栈,从底层的加速层如加速芯片,存储优化,到中间层模型构云科建工具和服务,再到最上层的生成式AI相关应用,每一层都在针对客户的不同需求持续创新。”
因而在“端到端的构建生成式AI应用”时又有哪些关键路径需要走呢?
亚马逊云科技团队给出了四个步骤、五个层面:在步骤上,从应用范围、模型选择、模型适配和模型调整、最终到应用程序集成;五个层面,则涉及到选择合适的应用场景入手、借助专门构建的生成式AI工具和基础设施、融合企业私有化数据的数技给据基座、AI原生应用构建和生成式AI服务。
具体而言,在选择合适的应用场景,从典型场景入手创新业务模式方面,陈晓建表示,目前生成式AI典型的应用场景带给企业的业务价值主要体现在三个方面:增强客户体验、提升员工生产力与创造力、优化业务流程。
在亚马逊云科技过往的经验中,目前生成式AI应用得非常快的就是游戏行业,游戏行业本身有非常多的流程和素材生成都可以通过生成式AI来改善出「;营销方面,国内数字营销企业易点天下通过亚马逊云科技的技术推出了一个“生成式AI数字营销平台”;海尔创新设计中心通过生成式AI之后,借助于文生图、图生图这样的技术,可以非常高效地来快速生成素材,生产力提升20%。
在借助专门构建的生成式AI工具和基础设施方面,亚马逊云科技的CEO Adam Selipsky认为,没有一个基础模型可以适用于所有的业务场景。而用户应该做的是,根据自己构建的场景去选择一个最适合自己的基础模型。因而亚马逊云科技推出了Amazon Bedrock和Amazon SageMaker JumpStart这两项服务,帮助客户去安全地、便捷地选择最适合其业务的模型。Amazon CodeWhisperer这款AI编程工具则可以提高开发者效率。
另外,面向生成式AI构建强大的数据“基座”,需要一套全面的服务,以便能够存储用于构建和微调模型的各种类型生成的数据;还需要服务间的集成,以打破数据孤岛,确保能够随时访问所有数据;还需要在构建生成式AI应用程序的整个生命周期中,确保数据安全并对其进行管理。
每一个客户都会有自己的私域数据,这些业务数据,通用的大语言模型是不知道的。如果企业客户需要训练一个大语言模型的环境,能够更好地了解自身业务就需要把私域的知识库和大语言模型进行打通。使用私有化数据,打造差异化竞争优势。
最后,构式A建一个AI原生应用方面,亚马逊服务百万客户无数次变化的现代化应用转型过程中,积累了一些不变的经验,陈晓建分享给生成式AI时代的构建者:包括以微服务化和事件驱动架构为核心的设计框架,松耦合的去处理每个功能模块之间的互相依赖;Serverless First简化运维,提升效率;数据决策优先,像资产一样重视数据,数据能力作为应用的核心竞争壁垒加入到生成式AI应用的设计理念中来;安全I应围栏,影响面控制,减小爆炸半径,将安全与数据的合规与保护放在前所未有的重要地位;避免重复造轮子,除了技术本身,在DevOps,基础设施即服务,自动化等现代应用治理理念持续投入,促进企业内部的应用资产与实践的分享,构建高效敏捷的构建者文化。
(责任编辑:实时更新)
-
开源代码编辑器 Zed 的开发团队发布了一篇引人关注的博文,题为《为什么 LLM 无法真正构建软件》。这篇文章由 Conrad Irwin 撰写,迅速引发了技术圈的热烈讨论,尤其是在 Hacker N...[详细]
-
大数据是一门新科学,数据生产率如今正在以惊人的速度发展。全球正在产生数量惊人的数据,而且随着物联网的发展,这一增长速度正在加快。调查表明,全球产生的数据90%都是在过去两年中产生的。此外,根据一些调研...[详细]
-
云梦级6月11日云梦级消息,据央视新闻报道,6月11日,市场监管总局会同中央网信办、国家铁路局,依法约谈携程、同程、去哪儿、飞猪、美团、智行火车票、高铁管家等7家第三方平台企业,针对其不当宣传“候补帮...[详细]
-
默认情况下,容器继承主机的 DNS 设置,如/etc/resolv.conf配置文件中所定义 。使用默认bridge 网络的容器获得该文件的副本,而使用自定义网络的容器 使用 Docker 的嵌入式...[详细]
-
IDC:到2025年 中国AI软件市场公有云服务占比将达36.1%
6月24日消息,日前,IDC发布《中国AI公有云服务市场研究报告-2020》。报告显示:2020年中国AI公有云服务整体市场规模达24.1亿元人民币,占比整体AI软件市场10.4%。预计到2025年,...[详细]
-
标签: OpenAI Red Queen Bio 生物安全 AI风险
云梦级11月14日云梦级消息,据路透社报道,当地时间周四,OpenAI 宣布将投资一家致力于防止不法分子利用人工智能制造生物武器的初创公司 Red Queen Bio。 OpenAI 是 Red Qu...[详细]
-
本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。 当年轻的马斯克换上女装,是这个亚子。 好清秀的姑娘啊~ 而若加上胡子,就瞬间变成另一种“风味”。 还可以看看马斯克过几年ͺ...[详细]
-
云安全日报210412:Debian Web应用程序发现目录遍历漏洞,需要尽快升级
python-django是一个功能强大开放源代码的重量级Web应用框架。4月9日,Debian发布了安全更新,修复了python-django中发现的目录遍历漏洞。以下是漏洞详情: 漏洞详情 来源:...[详细]
-
谷歌母公司去年四季度营收近570亿美元 云计算贡献38亿美元
2月3日消息,据国外媒体报道,在微软、苹果等相继发布财报后,谷歌母公司Alphabet也发布了去年四季度的财报,营收净利润同比均有大幅增长,云计算业务的营收也有明显增加。 Alphabet的财报是在当...[详细]
-
5月13日消息,去年八月,戴尔科技与Nutanix宣布深化合作,共同推出基于Nutanix云平台的Dell PowerFlex解决方案,将戴尔科技高性能、可扩展的存储系统与Nutanix简洁智能的软件...[详细]

标签: 小米汽车 SU7 雷军 小米摩德纳架构
AI聊天机器人广告时代来临 创业公司Koah获500万美元押注AI广告变现
标签: 网易有道 有道领世 LobsterAI 学术猹
标签: 国家新闻出版署 国产网络游戏 游戏审批 2026年2月
Google宣布Gemini in Chrome正式向Workspace用户全面开放
