尝鲜18倍速大模型Groq和世界第二AI Mistral(Le Chat)

本文介绍了Groq的LPU技术,它比英伟达GPU快18倍,提供了高效的自然语言处理能力。同时,文章提到了Mistral AI的Le Chat,作为ChatGPT的竞品,它在多语言推理任务上表现出色。两者均与微软有合作,提供云端服务。
摘要由CSDN通过智能技术生成

01 尝鲜

中午,一边吃饭,一边尝试一下最新的AI:Groq,它使用了重新设计的LPU,据说比英伟达的GPU快了18倍。

运行了开源的Mixtral-8x7b模型,屏幕上的文字回复几乎是瞬间的,那种速度感,让人心跳加速。

图片

接着,我尝试了来自欧洲的新贵——Mistral AI的Le Chat。

这个三天前刚刚发布的chat工具,对标OPEN AI的ChatGPT,已经迅速攀升至大模型排名的第二位,它的流畅和智能让我感到震惊,仿佛我的能力在这一刻被更新,能量在体内涌动。

我摩拳擦掌,跃跃欲试,就像突然拥有了超能力,一拳打出去,墙壁都似乎要裂开。

打开浏览器,和我一起尝试吧:

02 简介

Groq

https://groq.com

Groq是一家美国企业,专注于人工智能计算的Language Processing Unit(LPU)。

这种LPU旨在替代传统的GPU,如英伟达的A100和H100芯片。Groq的LPU在基准测试中展现出每秒500 Token的输出速度,相比顶级GPU的

  • 10
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

程序员熊子峰

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值