文欢网

百度开源文心大模型4.5系列模型 中国算力平台率先上线

快科技6月30日消息,百度今天正式开源文心大模型4.5系列模型。与此同时,中国算力平台模创空间率先上线文心大模型。中国算力平台是在工信部指导下,中国信息通信研究院建设的平台,汇聚“......

快科技6月30日消息,百度今天正式开源文心大模型4.5系列模型。与此同时,中国算力平台模创空间率先上线文心大模型

中国算力平台是在工信部指导下,中国信息通信研究院建设的平台,汇聚“多源+多元”模型服务。

通过服务网关能力,实现模型及AI应用的在线调用服务。模型方可以将自有模型通过API方式发布到模型市场,开发者可以在线调用模型进行开发创作。

作为前沿人工智能成果,文心4.5创新运用多模态混合专家模型预训练技术,以异构混合专家结构结合了多维旋转位置编码,并且在损失函数计算时,增强了不同专家间的正交性,提升文本生成、图像理解以及多模态推理等任务效能。

为支持高效训练提出异构混合并行和多层级负载均衡策略,在推理方面提出多专家并行协同量化方法和卷积编码量化算法,从而实现高效训练推理框架。

对预训练模型进行了针对模态的精调,大语言模型针对通用语言理解和生成进行了优化,多模态大模型侧重于视觉语言理解,支持思考和非思考模式,满足实际场景不同需求。

百度开源文心大模型4.5系列模型 中国算力平台率先上线

本网通过AI自动登载内容,本文转载自MSN,【提供者:快聊IT | 作者:驱动之家】,仅代表原作者个人观点。本站旨在传播优质文章,无商业用途。如不想在本站展示可联系删除。

阅读前请先查看【免责声明】本文来自网络或用户投稿,本站仅供信息存储,若本文侵犯了原著者的合法权益,可联系我们进行处理。 转载请注明出处:https://www.ynwhw.com/news/7952.html

分享:
扫描分享到社交APP
上一篇
下一篇

联系我们

关注我们