开云-亚马逊云科技在Amazon Bedrock上推出100多个新模型和全新强大的推理和数据处理功能,助力客户加速采用生成式AI

[导读]模子扩大范围空前,并新增推理优化东西和额外的数据功能,为客户供给了更年夜的矫捷性和节制力,更快构建和摆设出产级生成式AI 北京——2024年12月6日 亚马逊云科技在2024 re:Invent全球年夜会上,公布推出Amazon Bedrock的多项立异功能。Amazon Bedrock是亚马逊云科技一项完全托管的办事,旨在操纵高机能根本模子构建和扩大生成式人工智能(AI)利用法式。此次发布进一步彰显了亚马逊云科技对模子选择的许诺,同时优化了年夜范围推理的履行体例,帮忙客户从数据中发掘更多价值。 在新模子目次中摸索Amazon Bedrock Marketplace模子和Amazon Bedrock完全托管的模子 亚马逊云科技行将成为首家供给Luma AI和poolside模子的云办事供给商。亚马逊云科技还将把Stability AI的最新模子添加至Amazon Bedrock,并经由过程全新的Amazon Bedrock Marketplace功能为客户供给100多个热点、新兴和专业模子的拜候权限,客户可按照本身用例找到最适合的模子组合。 全新的提醒词缓存功能和Amazon Bedrock Intelligent Prompt Routing提醒词智能路由功能帮忙客户更轻松、更经济地扩大推理营业。 Amazon Bedrock Knowledge Bases现已供给对布局化数据和GraphRAG的撑持,进一步拓展了客户操纵本身数据供给定制化生成式AI体验的路子。 Amazon BedrockData Automation功能可以或许在无需编写代码的环境下,主动将非布局化、多模态的数据转换为布局化数据,以帮忙客户将更大都据利用在生成式AI和阐发工作中。 数以万计的客户相信Amazon Bedrock运行其生成式AI利用法式,曩昔一年利用该办事的客户量增加了4.7倍。Adobe、Argo Labs、宝马团体、Octus、Symbeo、Tenovos和Zendesk等公司已采取Amazon Bedrock的最新手艺。 亚马逊云科技人工智能和数据副总裁Swami Sivasubramanian博士暗示:“Amazon Bedrock办事延续快速增加,因其普遍而领先的模子选择、可轻松基在本身数据进行定制的东西、内置的负责任的AI功能和开辟复杂智能体的能力成为愈来愈多客户的选择。为了让客户充实释放生成式AI的潜力,Amazon Bedrock一向致力在解决开辟人员当前面对的最年夜挑战。经由过程此次新发布的一系列新功能,我们将帮忙客户开辟出更智能的AI利用法式,让他们为其终究用户缔造更年夜价值。” 聚集领先AI公司的普遍模子选择 Amazon Bedrock为客户供给丰硕的完全托管的模子选择,这些模子来自领先的AI公司,包罗AI21 Labs、Anthropic、Cohere、Meta、Mistral AI和Stability AI等。另外,Amazon Bedrock是客户利用新发布的Amazon Nova模子的独一渠道。Amazon Nova是新一代根本模子,以行业领先的性价比为普遍的使命供给进步前辈的智能能力。经由过程此次发布,亚马逊云科技在Amazon Bedrock上新增更多行业领先的模子,进一步扩大Amazon Bedrock的模子选择规模。 Luma AI的Ray 2:Luma AI的多模态模子和软件产物借助生成式AI鞭策视频内容创作。亚马逊云科技将成为首家向用户供给Luma AI最早进的Luma Ray 2模子(其闻名视频模子的第二代)的云办事供给商。Ray 2标记着生成式AI辅助视频创作的重猛进步,它可以或许根据文本和图象高效且以片子级质感生成高质量、传神的视频。用户可以或许快速测验考试分歧的拍摄角度和气概,建立脚色联贯、物理结果正确的视频,可为建筑、时尚、片子、平面设计和音乐等范畴供给创意性输出。 poolside的malibu和point:poolside解决年夜型企业现代软件工程面对的挑战。亚马逊云科技将成为首家供给poolside的malibu和point模子拜候权限的云办事供给商,这两个模子在代码生成、测试、文档编制和及时代码补全方面表示超卓。这有助在工程团队提高出产力,更快编写出更优良的代码,并加快产物开辟周期。这两种模子还可以或许根据客户的代码库、实践操作和文档进行平安、私密的微调,使其可以或许适配特定项目,帮忙客户以更高的正确性和效力处置平常软件工程使命。另外,亚马逊云科技还将成为首家供给poolside Assistant拜候权限的云办事供给商,该功能可以将poolside的malibu和point模子壮大的功能融入开辟人员首选的集成开辟情况(IDE)当中。 Stability AI的Stable Diffusion 3.5 Large:Stability AI是视觉媒体范畴领先的生成式AI模子开辟商,在图象、视频、3D和音频方面具有进步前辈的模子。Amazon Bedrock行将添加Stable Diffusion 3.5 Large这一Stability AI最早进的文本转图象模子。该模子可以或许根据各类气概的文本描写生成高质量图象,加快为媒体、游戏、告白和零售范畴的客户建立概念艺术、视觉结果和具体的产物图象。 经由过程Amazon Bedrock Marketplace拜候100多个热点、新兴和专业模子 虽然Amazon Bedrock中的模子可以或许撑持浩繁使命,很多客户仍但愿将新兴的专用模子融入到他们的利用法式中,为其怪异的用例,如阐发财政文档或生成新型卵白质等供给撑持。借助Amazon Bedrock Marketplace,客户现在可以或许轻松地从100多个模子中进行查找与选择,这些模子可摆设在亚马逊云科技上,并能经由过程Amazon Bedrock中的同一体验进行拜候。这涵盖了诸如Mistral AI的Mistral NeMo Instruct 2407、Technology Innovation Institute的Falcon RW 1B和NVIDIA NIM微办事等热点模子,和浩繁专业模子,如用在金融行业的Writer的Palmyra-Fin、用在翻译的Upstage的Solar Pro、Camb.ai的文本转音频MARS6和用在生物学的EvolutionaryScale的ESM3生成模子等。 客户一旦找到他们想用的模子,就可以根据本身扩大需求选择适合的根本举措措施,并经由过程完全托管端点轻松将其摆设在亚马逊云科技上。客户随后可将该模子与Amazon Bedrock的同一利用法式编程接口(API)平安集成,从而利用诸如Guardrails和Agents等东西,并受益在内置的平安和隐私功能。 Zendesk是一家全球办事软件公司,办事在笼盖全球10万个品牌的多元文化客户群体。该公司可在Amazon Bedrock中利用如用在翻译的Widn.AI等专用模子,经由过程电子邮件、聊天、德律风和社交媒体对客户办事要求进行个性化和当地化处置。这将为客服人员供给其所需的数据,好比客户母语表达中的情感或意图等,终究晋升客户办事体验。 提醒词缓存和Intelligent Prompt Routing帮忙客户年夜范围处置推理问题 在选择模子时,开辟人员需要衡量多种身分,如正确性、本钱和延迟。针对此中任一身分进行优化,都可能意味着在其他身分上做出妥协。为了在将利用法式摆设到出产情况时均衡这些考量身分,客户会采取多种手艺,例如缓存经常使用提醒词或将简单问题分派给较小模子。但是,应用这些手艺既复杂又耗时,需要专业常识来频频测试分歧的方式,以确保终端用户取得杰出的体验。正因如斯,亚马逊云科技新增了两项功能,帮忙客户更有用地年夜范围治理提醒词信息。 经由过程缓存提醒词功能下降响应延迟和本钱。Amazon Bedrock现已撑持平安地缓存提醒词,从而削减反复处置,且不会影响正确性。对受撑持的模子,此功能最高可将本钱下降90%,并将延迟最多缩短85%。例如,一家律师事务所可以建立一个生成式AI聊天利用法式,用在回覆律师有关文件的问题。当多名律师在提醒词中扣问关在文档统一部门的问题时,Amazon Bedrock可以或许缓存该部门内容,使其只需处置一次,以后每当有人想要扣问相干问题时即可反复利用。这经由过程削减模子每次需要处置的信息量来下降本钱。Adobe的Acrobat AI助手经由过程实现快速文档摘要和问答功能,提高了用户的工作效力。按照初步测试,借助Amazon Bedrock上的提醒词缓存功能,Adobe发现其响应时候缩短了72%。 提醒词智能路由功能有助在优化响应质量和本钱。借助该功能,客户能设置装备摆设 Amazon Bedrock 主动把提醒词分派至统一模子系列里的分歧根本模子,以优化响应质量和本钱。应用进步前辈的提醒词匹配和模子理解手艺,提醒词智能路由可以或许猜测每一个要求对应的每一个模子的机能,并将要求动态路由至最有可能以最低本钱供给所需响应的模子。提醒词智能路由可在不影响正确性的环境下,将本钱下降多达30%。Argo Labs为餐厅供给立异的语音代办署理解决方案,经由过程提醒词智能路由处置各类客户咨询和预订营业。当客户提交问题、下单和预订位置时,Argo Labs的语音聊天机械人会动态地将查询要求路由至最适合的模子,从而优化响应的本钱和质量。例如,像“今晚这家餐厅有空桌吗?”如许简单的长短问题,可以由较小模子处置,而“这家餐厅供给哪些素食选项?”这类更复杂的问题则可由较年夜模子往返答。借助提醒词智能路由功能,Argo Labs可以或许操纵其语音代办署理无缝处置客户交互,同时实现正确性和本钱之间的公道均衡。 Amazon Bedrock常识库的两项新功能助力客户最年夜水平阐扬数据价值 不管本身数据存储在何处、采取何种格局,客户都但愿操纵它们为终端用户构建怪异的由生成式AI驱动的体验。常识库是一项全托管功能,客户借助检索加强生成(RAG),可以或许轻松操纵上下文相干和联系关系数据自界说根本模子的响应。固然常识库已能便捷地毗连至诸如Amazon OpenSearch Serverless和Amazon Aurora等数据源,但很多客户还但愿将其他数据源和数据类型融入其生成式AI利用法式中。基在此,亚马逊云科技为常识库新增了两项功能。 布局化数据检索撑持功能加快生成式AI利用法式开辟。Knowledge Bases供给了首批托管式、开箱即用的RAG解决方案之一,使客户可以或许直接查询其生成式AI利用法式中布局化数据的存储位置。这一功能有助在打破数据源之间的数据孤岛,将生成式AI开辟周期从一个多月缩短至短短几天。客户可以或许构建利用法式,让利用法式应用天然说话查询来摸索存储在Amazon SageMaker Lakehouse、Amazon S3数据湖和Amazon Redshift等数据源中的布局化数据。借助这项新功能,提醒词信息会转换为SQL查询,用在检索数据成果。Knowledge Bases会根据客户的架构和数据主动调剂,从查询模式中进修,并供给一系列定制选项,进一步提高所选用例的正确性。信誉谍报公司Octus将应用Knowledge Bases中全新的布局化数据检索功能,答应终端用户利用天然说话查询布局化数据。经由过程将Knowledge Bases与Octus现有的主数据治理系统相连,终端用户的提醒词信息可转换为SQL查询,Amazon Bedrock操纵这些SQL查询检索相干信息,并将其作为利用法式响应的一部门返回给用户。这将帮忙Octus的聊天机械人向用户供给精准的、由数据驱动的看法,加强用户与公司一系列数据产物之间的交互。 GraphRAG撑持功能可生成更具相干性的响应。常识图谱答应客户经由过程将分歧的相干信息映照成网状布局来对数据间的关系进行建模和存储。将这些常识图谱融入RAG时会非分特别有效,系统可根据图谱轻松核阅并检索相干信息片断。现在,凭仗对GraphRAG的撑持,Knowledge Bases可以让客户无需具有图数据库专业常识,便可利用Amazon Neptune图数据库办事主动生成图谱,并跨数据链接各实体之间的关系。Knowledge Bases可以或许更便捷地生成更正确、更相干的响应,借助常识图谱辨认相干联系,并查看源信息以领会模子若何得出特定响应。宝马团体将为旗下的My AI Assistant(MAIA)实行GraphRAG。MAIA是一款人工智能驱动的虚拟助手,可帮忙用户查找、理解并整合托管在亚马逊云科技上的公司内部数据资产。借助由Amazon Neptune撑持的GraphRAG主动化图形建模功能,宝马团体可以或许根据数据利用环境,延续更新MAIA所需的常识图谱,从其数据资产中供给更具相干且周全的洞察,进而延续为数百万车主打造优良体验。 Amazon Bedrock Data Automation将非布局化多模态数据转换为布局化数据,用在生成式AI和阐发 现在,年夜大都企业数据都长短布局化的,这些数据包括在文档、视频、图象和音频文件等内容中。很多客户但愿操纵这些数据发掘看法或为客户打造新体验,但将其转换为便在阐发或RAG所需的格局常常是一个艰巨的手动进程。例如,银行在处置贷款营业时可能会领受多个PDF文档,需要从每一个文档中提取具体信息,对姓名、诞生日期等特点进行尺度化以包管一致性,然后将成果转换为文本格局,再输入数据仓库进行阐发。借助Amazon Bedrock Data Automation,客户可以或许利用单个API从非布局化内容中年夜范围主动提取、转换并生成数据。 Amazon Bedrock Data Automation可以或许快速且经济高效地从文档、图象、音频和视频中提守信息,并将其转换为布局化格局,合用在智能文档处置、视频阐发和RAG等用例。该功能可使用预界说的默许设置生成内容,例如视频片断每一个场景的描写或音频的转录内容,客户也能够按照本身的数据架构生成定制化的输出内容,并将其轻松加载到现有的数据库或数据仓库中。经由过程与Knowledge Bases的集成,Amazon Bedrock Data Automation还可以解析内容以撑持RAG利用法式,经由过程整合嵌入在图象和文本中的信息,晋升成果的正确性和相干性。同时,该功能供给置信度评分,并基在原始内容生成响应,有助在下降生成“幻觉”风险并提高透明度。 Symbeo是一家附属在CorVel的公司,供给主动化应付账款解决方案。Symbeo打算操纵Amazon Bedrock Data Automation,从复杂的文档(如保险理赔、医疗账单等)中主动提取数据。这将帮忙Symbeo的团队更快速地处置理赔事务,并缩短向客户答复的周转时候。数字资产治理平台Tenovos正在利用Amazon Bedrock Data Automation在年夜范围语义搜刮中晋升内容的复用率,复用率提高了50%以上,节流了数百万美元的营销费用。 Amazon Bedrock Marketplace现已正式可用,同时Amazon Bedrock Knowledge Bases中的推理治理功能、布局化数据检索、GraphRAG和Amazon Bedrock Data Automation均已预览可用。另外,Luma AI、poolside和Stability AI的模子也行将上线。

欲知详情,请下载word文档 下载文档

北京2024年8月27日 /美通社/ -- 在8月23日举行的2024年长三角生态绿色一体化成长示范区结合招商会上,软通动力信息手艺(团体)股分有限公司(以下简称 软通动力 )与长三角投资(上海)有限...

要害字: BSP 信息手艺

上海2024年8月26日 /美通社/ -- 本日,高端全合成润滑油品牌美孚1号联袂品牌体验官周冠宇,开启全新路程,助力泛博车主经由过程驾驶去摸索更广漠的世界。在全新发布的品牌视频中,周冠宇和分歧布景的消费者表达了对驾驶的酷爱...

要害字: BSP 汽车制造

上一篇:开云-超过华为、苹果!11月小米手机新机激活量中国第一 下一篇:开云-干货分享 ▎应用于USB3.0接口ESD/EOS晶选防护方案