通过备案！无问芯穹Infini-Megrez无穹天权大模型完成生成式人工智能服务备案

上海市互联网信息办公室13日公告，无问芯穹Infini-Megrez无穹天权大模型通过《生成式人工智能服务管理暂行办法》备案。

6月13日，上海市网信办会同相关部门按照《生成式人工智能服务管理暂行办法》要求，新增5款已完成备案的生成式人工智能服务。截至公告时间，上海市累计已完成34款生成式人工智能服务备案，无问芯穹Infini-Megrez无穹天权大模型在列。

6月13日上海市网信办公告  5款新增已完成备案的生成式人工智能服务

无问芯穹综合考量自身软硬件一体化核心技术优势，以及作为模型芯片生态连结者的中间层产业身位，将大模型算法实力视作无问芯穹作为一家AI Infra企业的特殊优势。于2023年11月6日首次发布的Infini-Megrez无穹天权大模型，在不使用RAG，不使用滑动窗口、稀疏化等“有损”方案的前提下，成功使用无损的长程注意力机制将上下文文本支持长度拓展到了256k，是当时支持上下文文本长度最长的大模型（点击回顾机器之心报道：无问芯穹刷新大模型优化记录）。

此外，无问芯穹在大模型算法层面的洞见与积淀，从平均长度最长的测试基准LV-Eval中也可见一斑。2024年3月8日，无问芯穹在上海人工智能实验室OpenCompass推出LV-Eval，最大文本测试长度达到256k，平均文本长度达到了102,380字，为长文本大语言模型的研究发展提供了更与时俱进的评测基准选择（点击回顾：无问芯穹推出LV-Eval，一个平均长度最长的测试基准）。

当前，无穹天权大模型已形成1至70B多种参数量版本覆盖，既可以在端侧提供软硬协同的最佳方案，也可以支持云侧的通用能力部署，具有行业能力增强、安全可信、支持全栈国产化等显著技术特点。Infini-Megrez无穹天权大模型在 CEval (中)、MMLU (英)、CMMLU (中)、AGIEval 等数据集上仍继续保持第一梯队算法性能。上个月，基于国产GPU千卡智算集群，由Infini-Megrez无穹天权大模型训练而来的MT-infini-3B模型，在同规模模型中跻身前列，甚至超越更大参数规模模型的表现水准（点击回顾无问芯穹基于摩尔线程夸娥千卡智算集群的“MT-infini-3B”大模型实训已完成）

Infini-Megrez在逻辑推理、对话能力等方面有优秀的性能表现，配合无问芯穹自研大模型计算加速引擎，具备更快的推理速度，现已可通过无问芯穹Infini-AI云平台的大模型服务平台GenStudio（cloud.infini-ai.com）直接体验、调用。除了Infini-Megrez，GenStudio还预置了多种来源和参数规模的其他开/闭源LLMs、Stable Diffusion模型，提供预置大模型的微调、部署服务，适配英伟达、AMD 以及多种国产芯片，且提供了多种大模型评测对比工具。

Infini-AI云平台>大模型服务平台>模型广场

此次Infini-Megrez无穹天权大模型通过生成式人工智能服务备案，意味着无问芯穹能够面向大模型行业上下游伙伴、客户提供更有力的软硬件联合优化服务，并将无问芯穹从服务实践中获得的反馈转化为自研大模型计算加速引擎的突出优势。“释放无穹算力，让AGI触手可及。”无问芯穹将持续深耕从多模型到多芯片的联合优化与高效部署、推理，赋能大模型软硬件产业生态，推动生成式人工智能行业可持续发展。