当前位置:正文

世博shibo登录入口价钱并不是用户是否摄取大模子的决定性成分-世博体育(中国)登录入口官方网站IOS安卓/通用版/APP官方网站

发布日期:2024-07-06 06:20    点击次数:189

图片系AI生成世博shibo登录入口

钛媒体App 5月28日音问,在2024智能经济论坛上,百度集团推论副总裁、百度智能云奇迹群总裁沈抖先容了文心系列主力大模子免费背后的原因。此外,为了加快行业大模子的落地,百度智能云推出“千帆·行业增强版”,咫尺如故在政务、交通、工业等行业落地。

“其实咱们决定免费的原因稀奇朴素,即是但愿天下别再天天拉表格比价钱了,有这个时间,不如去卷场景、卷应用。咫尺资本更低了,天下翻新的胆子不错更大一些、步子不错更快一些,把意想的场景都试一遍,快速考证。跑得手了,就快速复制。”沈抖暗示。

此前大模子行业先后开启降价和免费旺盛,字节、阿里、百度、腾讯、科大讯飞在内的多家厂商秘书降价或免费,将大模子竞争卷入新的阶段。

但就咫尺而言,价钱并不是用户是否摄取大模子的决定性成分,大模子产业链还不完备,降价更猛进度起到诱骗新客户的作用,是否粗略留存客户,还要看大模子厂商的时刻整合和生态身手。

一周前,百度智能云秘书ERNIE Speed、ERNIE Lite两款主力模子全面免费。这两个模子是客户在场景应用中频繁用到的主力模子,在案牍创作、聊天对话、常识问答、内容续写等场景中有较高的调用量。

沈抖暗示,模子免费以及降价,主若是依托于时刻身手,尤其是AI异构算力管制平台和“一云多芯”

在AI异构算力管制平台方面,百度百舸·AI异构缱绻平台粗略对不同所在、界限、集群的智能算力进行合资、高效的管制,基于芯片性能优化、自动芯片选型、潮汐混部等时刻,大幅擢升智能算力遵循,万卡集群上的模子灵验查考时长占比进步98.8%。交流的大模子任务,百舸粗略匡助客户将资源资本缩小一半。据推算,百舸每年为企业客户省俭的智算资本可达50亿元以上。

在“一云多芯”方面,百舸兼容昆仑芯、昇腾、海光DCU、英伟达、英特尔等国表里主流AI芯片,援救并吞智算集群中羼杂使用不同厂商芯片,最猛进度上屏蔽硬件之间互异,匡助企业解脱单一芯片依赖,打造更有性价比、更安全、更具弹性的供应链体系。在多芯羼杂查考任务中,百舸粗略将单芯片诈欺率、芯片间通讯效率、集群合座遵循发达到极致,百卡界限性能蚀本不进步3%,千卡界限性能蚀本不进步5%,均为国内最高水平。

“天下稀奇可贵自主可控。在芯片层,咱们有自研的芯片昆仑芯,正在逐渐推向市集;诚然,如果有其它厂商的芯片,百舸缱绻平台也能很好地管制起来。在框架层,咱们有自研的深度学习框架飞桨,如故成为国内最受迎接的开源框架。在模子层,咱们会保险模子的内容安全可控。”沈抖提到。

此外,在模子层面,千帆ModelBuilder提供的模子路由身手,粗略针对任务类型自动分派符合的模子进行处理,让更低廉的小参数模子在特定场景中比好意思大参数模子的后果。以小度AI助手为例,通过使用模子路由身手,比拟一皆任务调用旗舰版文心大模子,资本大幅下跌了99%,模子反映速率也擢升了200%。“即使是在复杂应用场景下,模子路由也不错量入为主30%的资本。”沈抖说。

此外,为了进一步缩小行业大模子的建树门槛,百度智能云这次推出了千帆·行业增强版。

沈抖指出,行业大模子内容上是一个多模子的行业处罚决策,由一个通用大模子和多个行业模子组合而成。这些行业模子时常由小模子精调而成,在特定领域具有很强的身手。但企业应用场景十分复杂,如果仅仅用一个个“寥寂”的行业模子去处罚特定场景的问题,那么整套工程将会稀奇复杂,和传统的AI建树莫得阔别,建树效率极低。

具体来看,千帆·行业增强版主要由资源作事、大模子作事、应用作事三部分构成,它不仅提供千帆、百舸的通用身手,在这个基础上,还作念了行业身手的膨大和适配。

在资源作事方面,企业不错相接业务情况,膨大多源数据治理、云边端协同等身手,为业务构建起纷乱的基础智商;在大模子作事方面,企业不错在千帆平台上解放选拔不同参数界限、不同高下文长度、不同细分领域的大模子,然后按需膨大行业模子、行业常识、行业智能体;在应用作事方面,援救添加运营、运维、企业环境内应用建树、应用作事等种种业务逻辑。

沈抖暗示,咫尺,百度文心大模子如故领有中国最大的产业落地界限世博shibo登录入口,进步半数的央企正在使用百度智能云。(本文首发于钛媒体APP,作家 | 张帅,剪辑 | 盖虹达)