vivo 开放其自研的 BlueLM-7B 大模型,提供更多行业创新机会

vivo 在最近的 2023 开发者大会上宣布了一个重磅消息,他们将率先向全行业开源 70 亿参数级的 BlueLM-7B 大模型以及对应的微调框架。

图片

按照计划,vivo 已经在 Hugging Face 上正式开源了 BlueLM-7B,IT之家的小伙伴们可以在该平台获取到更多详细信息和代码。

这个开源的大模型包括 BlueLM-7B 基础模型和对话模型,同时 vivo 也开源了支持 32K 长文本的基础模型和对话模型。这些模型都经过了高质量语料库的训练,总计达到了 2.6 万亿的 token 数,这个语料库包含了中文、英文以及少量的日韩数据。其中,BlueLM-7B-Chat 在 C-Eval 和 CMMLU 两个评估标准上都展现出了领先的结果。

更值得一提的是,BlueLM-7B-Base-32K 和 BlueLM-7B-Chat-32K 两个模型均支持 32K 的长文本输入。在保持基础能力相当的情况下,这两个模型能够更好地理解更长的上下文信息。

这次 vivo 的开源大模型是其在人工智能领域深度投入的一部分,旨在推动整个行业的发展和创新。通过分享和开放源代码,vivo 希望与全行业的开发者一起,共同推动人工智能技术的进步和应用。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值