暴雨讲堂|垂直行业模型为何越来越受市场青睐？

在2024年的当下，AIGC深远地影响了新工业革命，并且飞入寻常百姓家，触达生活的方方面面，小到出行路线安排，购物选择、社交软件兴趣热点推送，大到自动驾驶、智能制造等等都能窥见它的身影。

从技术发展到落地应用，AIGC大模型向前一路狂奔。但细分、个性化的需求越来越多，大模型难以与行业进行更深度的融合；应用场景有限，效果参差不齐，高质量训练数据缺少，庞大的前期投入都让越来越多成本敏感的中小企业望而却步。在这样的需求推动下，实现高性能与高性能的小而精的行业垂直模型更受青睐。

那么相较于大模型，行业垂直模型的有哪些优势呢？

首先在于它的规模体量小，相较于动辄投入万卡GPU集群规模的高昂成本的大模型，它所需投入的计算资源更少。与大模型说追求的广而大的功能覆盖，小模型更能深度聚焦一个领域，打通痛点需求环节。同时它体量小，意味着它的硬件资源少，部署轻松，门槛低。无论是云还是边缘应用场景，小模型都能够游刃有余。

第二在于其能够接受定制。小模型最初的目的就在于更好的满足客户个性化的需求。通过特定的行业数据优化以及学习，它能够提供更为精准、个性化的解决方案，解决实际业务中遇到的问题。比如优化供应链中的管理，或提升客户服务质量，减少响应时间，抑或是为商业决策提供个性化的咨询或者收益更高的建议。

第三在于响应迅速。由于小模型的所需参数量少，训练成本低，训练时间短，因此小模型可以快速响应市场需求，进行调整迭代升级，能为企业创造更多的商业机会，这种敏捷的能力远远超过大模型。

目前，垂直行业模型在多个领域都得到了广泛应用，但明显向支付意愿更高、数字化程度高、商业化应用场景潜在价值高的行业靠拢，例如金融、电商、教育和医疗领域，这几个领域也将会是未来垂直行业应用发展更具前景的四大行业领域。未来，像麦当劳、联合利华、沃尔玛等这种大企业，完全可以建立属于自己的专属大模型，为企业发展创造更好收益。

垂直行业模型与大模型并不是一体两面的对立存在，而是各有其优势，可以相互借力。通用大模型通常具备的是强大的文本处理和语言处理功能，具有普适性，而垂直大模型所强调的则是特定的行业需求。专家指出可以利用大模型做数据标注，用较小规模的模型进行训练。这样既可以为企业提供垂直模型的优良效果，又可以降低硬件资源的使用门槛，从而在一定程度上减轻企业的成本负担。

针对模型训练，暴雨推出了4U8卡AI服务器，支持 1 或 2 颗第四代或第五代英特尔®至强®可扩展处理器，最多满足8张600W双宽GPU卡全功率运行。它支持多 CPU-GPU直连以及 CPU-GPU switch连接拓扑，能实现GPU-GPU之间全速通讯，其中直连方案，经llama2 benchmark测试，推理速率≥768Toks（70B@4090*8）。还支持多种 AI 加速卡，满足各行各业模型训练需求。CPU-Switch支持 PCIe5.0x32互联，实现高带宽通信。支持12x3.5"/2.5"SATA/SAS/NVMe或8/16/24x2.5" SATA/SAS/NVMe多种硬盘配置，可以有效满足模型训练数据本地缓存。

除了硬件支撑之外，暴雨还能提供完整的一站式行业解决方案。暴雨 AI私有化解决方案集成了AI开发平台、AI加速软件栈、资源编排和调度等一系列软件与服务，以及计算、网络和存储等AI基础设施。为企业使能AI提供了更高效、更可靠的解决方案，提升大模型的研发效率，同时保障了模型训练过程的可靠性，助力企业实现数字化转型和智能化升级。

面对日益激烈的市场竞争， 暴雨致力于成为合作伙伴商业化道路上值得信赖的伙伴，不惧未知AI，勇敢迈出构建专属小模型的第一步，积极拥抱数字化转型，开创属于自己的智慧增长新篇章。