北京时间4月19日凌晨,Meta 发布 LLaMA3 8B 和 LLaMA3 70B 两个参数的大模型,其中,LLaMA3 8B 效果在5个基准测试集上的表现均大幅超过LLaMA2 70B,部分指标实现近3倍提升。
无穹Infini-AI的模型体验中心现已上架 LLaMA3 8B和LLaMA3 70B,诚邀感兴趣的用户前来注册体验。后续,无问芯穹会开放基于开源版本的中文能力增强模型,并持续提升LLaMA3 8B 和 LLaMA3 70B的中文对话体验。
体验地址:https://www.infini-ai.com/ (复制链接到浏览器打开)
01 #Step1选择模型
前往无问芯穹智算云控制台的模型广场页面,浏览无问芯穹大模型服务平台(GenStudio)的预置的主流模型。选择体验新鲜上架的LLaMA3 8B 和LLaMA3 70B,点击卡片进入模型详情页。
模型广场选择示意
02 #Step2进入体验中心
我们为预置的LLaMA3 8B 大模型提供了基于 UI 交互的体验中心。在模型详情页点击立即体验,即可进入开启交互体验界面。
Llama3 8B模型详情内页
03 #Step3对话体验
体验中心页面分为配置区和互动体验区,提供带有上下文的对话体验。打开M*N体验模式,还可以通过对话交互,体验LLaMA3 8B和LLaMA3 70B效果的直观对比。无问芯穹Infini-AI LLaMA3 8B体验
快来https://www.infini-ai.com/体验试试吧,另外您可以查看文档中心以了解后续如何在Infini-AI上微调和部署它。
04 无穹Infini-AI
无问芯穹Infini-AI是一个面向大模型开发者的企业级服务平台,基于多元芯片算力底座,可以让开发者只花小成本,就能够享受好用工具和充沛算力。
开发者可以在这个平台上体验、对比各种模型能力和芯片效果,通过简单拖拽各种参数按钮的动作,就能精调出更贴合业务的大模型,并部署在无穹Infini-AI上,再以非常优惠的千token单价向用户提供服务。
目前,平台已经支持包含Llama 3 在内的20余种大模型与10余种计算卡,第三方平台或自定义训练、微调而来的模型也可以无缝迁移托管到无穹Infini-Al,并获得细粒度定制化的按token计费方案。4月1日至4月30日,无穹Infini-AI平台正在开放全量注册,并提供百亿补贴(限免),欲体验从速!