暴雨受邀参加第三届中国数据中心服务器与设备峰会

7月2-3日，第三届中国数据中心服务器与设备峰会在上海召开，作为国内最聚焦在服务器领域的专业峰会，吸引了来自全国的行业专家、服务器与机房设备厂家，企业IT用户，数据中心业主共同探讨AIGC时代下智算中心设备的设计之道。暴雨作为中国领先的服务器解决方案供应商受邀出席并发表AI私有化解决方案演讲。

根据可靠数据显示，2023年我国生成式人工智能的企业采用率仅为15%。人工智能应用与实际企业应用脱轨，这是目前人工智能落地的难题之一，相比较于通用大模型的写诗作画，更多的政企用户关注的是大模型如何与专业知识库相结合，使得积累的数据能够充分利用起来。针对行业差异化的应用需求，暴雨推出了AI私有化解决方案以及AI一体机。

人工智能模型训练过程

数据收集：需要海量的数据作为训练的基础，各种方式获取多种类型数据，如文本、图片、音频、视频、表格等；数据预处理：对源数据进行清洗、标注，获取高质量数据集，以文本为例，预处理包括文本清理、标准化、分词等；

模型训练：模型训练是让机器通过数据不断优化模型参数。通过不断优化算法，例如梯度下降算法、随机梯度下降算法等。在训练过程中，将数据划分为训练集和验证集。训练集用于更新模型参数，而验证集用于评估模型的性能。通过反复迭代更新参数和评估性能，模型会逐渐优化，以更好地对未知数据进行预测或决策。

模型微调：在特定任务，如对话系统中，可借助RLHF (基于人类反馈的强化学习) 对模型进行微调以优化性能；

型部署：训练好的模型部署到实际生产环境。

暴雨AI一体机破解落地难题

立足AIGC时代企业用户所需，暴雨联合生态伙伴推出的AI私有化解决方案，助力各行业用户快速实现模型私有化交付。方案整合暴雨自研服务器、自研AI调度平台，适配主流机器学习框架、算法模型、数据集工具，为非行业内用户提供部署简易、操作便捷、简单高效的AI学习平台。助力各行业用户加速AI转型、业务创新，提升业务效率，提高企业竞争力。

基于暴雨深耕服务器行业十数年的硬件研发优势，在AI私有化解决方案上基础上推出了AI一体机，针对细分化的行业应用特点，面向用户建模人员，提供一站式数据处理、模型开发、模型训练、模型推理服务发布的端到端服务。一体机能够提供不同算力配置的版本，‌以适应不同规模的业务需求和预算，‌支持对接各类AI开发平台、‌API服务和第三方工具，‌促进大模型在企业内部的广泛应用和与其他系统的集成，降低人工智能应用门槛，使能客户AI业务快速开发与上线。

暴雨AI一体机具备优势

低门槛：软硬一体整体方案，采用暴雨自研的硬件平台，开箱即用，通过软硬件协同优化提高性能，降低大模型部署、‌业务方案建设和调适的门槛。

一体化：训推一体化，对未来独立人格的专业模型更友好。

可视化：可视化的算力调度，拖曳式多模态融合应用发布。

其中模型一体机的硬件平台之一，4U10卡AI服务器是基IntelEagle Stream 平台开发的具有强大计算能力和超高弹性扩展能力的人工智能计算服务器，支持32个DDR54400/4800/5600MHz ECC内存，带宽提升75%支持CPU-GPU直通或switch扩展模式，最多支持10张600W双宽GPU卡支持12x 3.5" /2.5" SATA/SAS/NVMe或8/16/24x 2.5" SATA/SAS/NVMe多种硬盘配置，满足各种 AI 业务场景下的应用需求。适用于人工智能、科学计算、云计算、虚拟化、大数据分析、数字孪生等应用场景。

暴雨AI一体机应用场景

针对医疗行业，目前医疗行业的医学影像及数据推理需用到CPU、GPU双调度；国家十四五重点推介的医康养项目，深入社康、基层医院及养老机构等等是训推一体机的理想使用场景，通过多模态模型的算力调度（CPU/GPU），建立健全全国养老医保体系。

针对教育行业，根据普教行业对算力的要求，通过打造智慧校园平台，集合管理、教学、安全、服务全方位服务；实行智慧阅卷系统，实施评估、个性化教学；提供精准出题、精准教学功能，共建校本化资源、提升竞争力等等。

人工智能的落地应用需要紧密结合具体场景，深入理解用户需求，才能发挥出应有的价值。暴雨将持续创新产品与解决方案，携手合作伙伴，推动AI技术的广泛应用和普及。