11月22日,由深圳市科技创新委员会、福田区人民政府指导,粤港澳大湾区数字经济研究院(IDEA研究院)主办的粤港澳大湾区数字经济研究院年度科技盛会(IDEA大会)在深圳召开。
2023 IDEA大会现场
会上熠智科技联合IDEA研究院、是石科技等共同发布了国内首个搭载可控计算技术的企业级大模型产品-----封神榜大模型一体机(后文简称“一体机”)。该一体机产品基于IDEA研究院最新发布的子牙(Ziya)系列模型实现,同时搭载了熠智科技研发的DataVault可控计算框架,有效解决了目前大模型行业中数据、模型隐私泄露的痛点问题。
一体机现场展示
大模型私有化部署与数据安全
目前各类大模型不断涌现,大模型产业也从“百模大战”转向商业落地应用阶段。相比于MaaS(模型即服务),大模型私有化商业部署具有数据安全,算力自主可控,灵活性高以及使用成本低等优势。
对于数据安全层面,大中型客户更注重私有化部署及数据监管的需求:确保数据资产安全,防止用户敏感数据泄露是大模型私有化部署最核心的要求。
同时,对于人工智能公司而言,优秀的行业模型得益于高质量的行业数据以及专业知识,因而私有化部署的大模型亦需要防止模型泄露风险。
封神榜大模型一体机搭载的DataVault可控计算技术,可有效保护用户数据安全,同时防止模型滥用、泄露。此外,DataVault具备零侵入性与性能损耗低的特点。相比原生系统,基于DataVault的解决方案在大部分应用中的整体性能损失低于1‰。
封神榜大模型一体机介绍
封神榜大模型一体机内置IDEA研究院Ziya系列模型及模型微调工具,可应用于自然语言处理、计算机编程、图像处理、文本创作、搜索引擎优化等领域,立足金融、教育、医疗等行业,高效支撑客户业务场景。
目前封神榜大模型一体机包括三个版本,其中两款采用了国产自主研发的GPU架构(燧原云燧系列和太初元碁系列),确保算力自主可控,用户可根据自身需求进行选择。
封神榜大模型一体机(首发版本)
封神榜大模型一体机优势
-
数据安全:
私有化部署,零侵入性保护模型参数与训练数据安全,提供卓越的数据安全保障
-
高性能模型:
内置Ziya通用模型、代码模型、多模态理解模型、文生图模型、写作模型等,满足多种大模型应用场景的需求;模型各大榜单性能成绩优异,数据传输和处理速度更快更高效
-
开箱即用:
内置十万级调优数据和工具,企业无需大量资源投入即可短期快速进行训练,构建AI能力
-
信创支持:
融合国产自主的TEE技术、国密加密卡、可信根芯片和安全容器等,兼容主流国产GPU芯片