Techub News 消息,百度正式开源最新基座模型文心 5.5 Flash Base(ERNIE 5.5 Flash Base)。该模型采用 MoE 架构,总参数量 2800 亿,每个 Token 激活 140 亿参数,预训练上下文长度最高达 128K,在知识、推理、数学、代码、多语言和长上下文等多个基准测试中取得同尺寸模型 SOTA 表现。 模型在注意力机制、专家路由及训练机制等关键环节进行了系统性优化,旨在降低长上下文处理的资源开销,同时保留对关键信息的处理能力。 开源地址:https://huggingface.co/baidu/ERNIE-5.5-Flash-Base。(量子位)
如您认为本页面(或本平台)内容存在侵权或违规情形,请您在发现之日起尽快与我们联系,并提供:权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式:creator@techub.news
商务合作:contacting@techub.news
点击链接下载 Techub News App,获取最新讯息:
https://www.techub.news/download
(或扫描下方二维码下载)

本网站所提供的所有信息仅供参考之用。
本网站不保证信息的准确性、有效性、及时性和完整性。
任何依赖于本网站所提供信息的行为,均由用户自行承担风险。
Techub News 消息,百度正式开源最新基座模型文心 5.5 Flash Base(ERNIE 5.5 Flash Base)。该模型采用 MoE 架构,总参数量 2800 亿,每个 Token 激活 140 亿参数,预训练上下文长度最高达 128K,在知识、推理、数学、代码、多语言和长上下文等多个基准测试中取得同尺寸模型 SOTA 表现。 模型在注意力机制、专家路由及训练机制等关键环节进行了系统性优化,旨在降低长上下文处理的资源开销,同时保留对关键信息的处理能力。 开源地址:https://huggingface.co/baidu/ERNIE-5.5-Flash-Base。(量子位)
如您认为本页面(或本平台)内容存在侵权或违规情形,请您在发现之日起尽快与我们联系,并提供:权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式:creator@techub.news
商务合作:contacting@techub.news
点击链接下载 Techub News App,获取最新讯息:
https://www.techub.news/download
(或扫描下方二维码下载)

本网站所提供的所有信息仅供参考之用。本网站不保证信息的准确性、有效性、及时性和完整性。任何依赖于本网站所提供信息的行为,均由用户自行承担风险。