20240306 大模型快讯

//社区生态//

1. Anthropic释出人类最强大模型Claude 3。Anthropic公开目前人类最强大模型Claude 3，在数学、编程、多语言理解、视觉等多个维度性能均超过GPT-4和Gemini 1.0 Ultra。

//多模态大模型//

1. Stability AI公开Stable Diffusion 3架构细节。Stability AI 发布论文公开与Sora相同的Stable Diffusion 3架构DiT（Diffusion Transformer），为每种模态设置独立的Transformer，但将序列结合起来做注意力运算。

//基础技术//

1. 英伟达禁止第三方使用CUDA。英伟达在CUDA 11.6版本明确禁止第三方硬件平台通过翻译层运行CUDA。

2. Groq公司开发专用NLP的处理器LPU。初创公司Groq开发专门针对NLP任务的AI处理器LPU（Language Processing Unit），推理速度是英伟达10倍，但是成本和能耗远超英伟达竞品。