蜜度：拉升大模型应用的密度

2023年底、2024年初，各方一致山呼“2024年是大模型应用元年”。如今，2024年过半，大模型应用发展到底如何？

在上海举行的WAIC2024世界人工智能大会现场，我们遇到了刚发布完蜜巢政务大模型3.0的蜜度CTO、蜜度蜜巢总裁刘益东，与他交流了大模型应用发展现状。

大模型应用爆发，未来在垂直场景

在刘益东看来，2024上半年，国内大模型项目已发布超过200多个中标公告，平均每天就有一个中标项目出来，还是比较可观的。

但繁荣的背后，要分两种来看，一种是通用大模型应用，目前的数量占据优势，但存在同质化严重的问题，市场最终的玩家可能会集中在几家巨头；另一种是垂直大模型应用，目前这种数量还很有限，但千行百业的垂直领域，是大模型应用场景汇聚的聚宝盆，这就意味着大量高质量的大模型应用将出自这里。

针对有些通用大模型想“一招鲜吃遍天”的架势，刘益东不以为然。首先，每个垂直领域都有自己的业务知识和数据，通用大模型的数据基本都来自互联网，对于垂直领域的信息覆盖度不够，针对垂直领域的通用大模型要进行“大”调，才堪“有用”；其次，垂直领域内的不同企业，其沉淀的知识和数据也有自己的特点，大模型进到企业要再次进行微调，才堪“可用”；再次，通用大模型要想真正进到千行百业，必然要与垂直行业服务商密切协作，才有机会形成“好用”的垂直大模型。

创立于2009年、深耕人工智能十五年的蜜度，正在发力打造垂直大模型和垂直应用开发。

蜜巢3.0：政务大模型生力军

作为一家以人工智能技术为核心的语言智能和垂直大模型企业，蜜度专注于多模态、多语言智能科技，通过 Al大模型 、AI算法与AI应用赋能千行百业实现数字化、智能化转型升级。

蜜度基于自主研发的蜜巢、文修大语言模型，利用先进的多语言校对（MLC）、自然语言处理（NLP）、计算机视觉（CV）、跨模态检索（CMR）、内容生成（AIGC）、知识图谱（KG）等人工智能技术，提供智能检索、智能校对、智能生成等三大核心应用，致力于为政府、媒体和企业客户提供智能、安全、高效的“AI+”解决方案。

2023年7月，蜜巢大模型在WAIC2023世界人工智能大会上首次亮相；9月，蜜巢入驻全国首个大模型生态社区“模速空间”，专注于开展生成式人工智能技术研发与大模型创新应用；10月，蜜巢在信创适配等核心能力基础上迭代，完成了2.0升级。2024年初，蜜巢完成生成式人工智能备案；7月，蜜巢政务大模型3.0在WAIC2024世界人工智能大会正式发布。

蜜度CTO、蜜度蜜巢总裁刘益东发布蜜巢政务大模型3.0

据刘益东介绍，蜜巢3.0在研发生态、训练数据、模型架构层面融合改进，新增全流程国产化、高质量数据集、高性能混合架构三大亮点，大幅提升政务场景大模型创新应用效能。

1. 研发生态层面，蜜巢3.0从训练到推理全流程融入国产化软硬件生态，基于昇腾硬件底座、昇腾CANN异构计算架构、昇思MindSpore AI框架、ModelLink训练引擎以及MindIE推理引擎，开展面向政务、企业、公共服务等原生AI大模型应用开发，为客户提供更安全可控的落地解决方案。
2. 训练数据层面，蜜巢3.0在预训练、微调与对齐阶段分别新增200亿、10万+、1万+高质量语料数据，进一步提升模型输出内容的专业性、精准度与安全对齐能力，使其在实际应用场景中有更优异的表现。
3. 模型架构层面，蜜巢3.0采用Llama Pro+MoE架构，在蜜巢2.0基础上采用Llama Pro架构训练，并进一步将其扩展为MoE架构进行训练，提升其处理业务场景复杂任务的能力。

从训练到推理全流程融入国产化软硬件生态的蜜巢3.0的到来，相信将为政务用户解锁更专业、更具性价比、更安全可靠的大模型服务。

不止于大模型，蜜度连发20+垂直应用场景

书接前文，“蜜度不会为了做大模型而做大模型。从‘百模大战’到落地应用，蜜度已实现了模型性能和应用能力的双重跃升。自去年7月以来，蜜度自研大模型的商业化进程加速，打造了20+核心应用场景，并率先在政务热线、政务智能问答、执法文书辅助写作、司法文书校对、智能伴游、宣传稿件辅助撰写等场景中打造了一批落地应用标杆。”刘益东表示。

其中，在政务类场景中，蜜巢实现了对政务热线、政务智能问答等场景的提质增效。

1. 基于大模型所打造的“政务热线综合智能平台”，能够从市民来电中自动解读出多条知识点，5秒即可自动生成回答，帮助话务员快速响应市民诉求，助力政务热线业务效率提升80%以上。
2. 在政务智能问答服务中，蜜巢基于专业政务知识库提供精准的“即问即答”，并可无缝接入政务网站、微博、公众号、App或办事大厅，为市民提供7×24小时的智能服务。

深厚的政务行业服务经验和丰富的大模型落地实践，让蜜巢3.0充分理解行业客户需要，蜜巢大模型将从更专业化、更贴合具体问题的角度为政务行业带来全新的赋能。

“当然，目前的这些项目还是以定制化为主，未来，蜜巢政务大模型将以20+个成熟应用场景以及推进中的40+个大模型创新应用项目为基础，不断探索产品化的应用构建之道，以‘小切口、大纵深’的市场拓展思路，瞄准未来五年实现1万+个项目落地的长远目标稳步前行，树立政务大模型创新应用行业标杆。”对此，刘益东信心满满。

“有模有用”的蜜度，正走在构建政务大模型应用的快车道上；而更多像蜜度一样的垂直大模型企业，正在合力拉升大模型应用的密度。