企商在线做客天极网《π圆桌》，畅谈大模型时代下的机遇与挑战

内容摘自：天极网《大模型时代有哪些机遇和挑战？看看来自企商在线、用友等企业的大咖怎么说》

        2023年的进度条虽然已走过四分之三，但科技圈对大模型的热情却只增不减。自年初以来，科技企业、科研机构纷纷抢抓产业风口，大模型产品如雨后春笋般涌现。但与此同时，我们看到，由于大模型技术上尚且处于摸索阶段，面临着隐私安全、滥用风险、伦理等问题。因此，产业如何在抢抓大模型发展机遇的同时，推动大模型的良性发展，也成为值得思考的问题。

  日前，企商在线AI算力与云服务能力中心副总经理张轶男受邀做客天极网&比特网《π圆桌》视频访谈栏目，围绕“大模型时代下的机遇与挑战”这一主题，进行了深入地交流探讨。

大模型加速落地，确定目标是关键

    ChatGPT的横空出世，迅速在全球范围内掀起一股巨大浪潮，由此拉开了大模型产业蓬勃发展的序幕。在大模型发展如火如荼的背景下，其商业化落地也被越来越多地提及，但“落地”却也是大模型面临的最大挑战。

  在张轶男看来，解决大模型落地难的关键在于要有明确的目标。大模型分为通用大模型和垂直大模型两种，实施方案是不一样的，所以大模型企业首先要确定好发力方向。方向确定之后，要有相关的资源，无论是算力资源池资源，还是算力服务器资源，如果没有这些算力基础设施支撑，就不会实现结果输出，这是一个比较关键的问题。  

企商在线AI算力与云服务能力中心副总经理 张轶男

近年来，在国家加速推进算力建设的背景下，企商在线也在积极融入国家发展大局在算力产业大力布局。例如，在数据中心层面，除了京津冀片区有自己的智算中心以外，现在在西北、华中、华南也有相关布局，以服务千行百业的客户。智算中心要用到大量的GPU算力，我们有不同的方案，为不同行业，针对不同的需求的客户提供相关的服务和能力。

   截至目前，企商在线拥有约15000个自有机架和算力资源，算力规模达2000PFLOPS，数据中心资源遍布全国，运营13个稀缺型算力中心和数据中心，累计已为近100,000家客户提供过服务。

   “技术的迭代推动着人类社会的进步，不管是工业革命还是互联网革命，亦或是现在的大模型技术，都在驱动三大产业的蓬勃发展，”张轶男表示，“业界有一种说法，大模型时代的到来，所有产业都可能会重新做一遍。相信大模型至少在未来三五年，仍然还是一个非常火热的行业。”

大模型不断涌现，算力怎样才能跟上节奏?

    众所周知，大模型的底层逻辑由数据、算力和算法三要素构成，但现阶段，这三要素究竟孰轻孰重，业界看法不一。

    张轶男认为，算力作为底层资源能力，其实是0到1的过程，没有前面的“1”，后面有再多“0”都毫无意义；数据是算力以外的能力，在算法能力恒定的情况下，数据维度越多就越精准；最后才是技术迭代，包括算法的精准度。

    需要注意的是，随着大模型的发展，算力需求也在持续增长。工业和信息化部数据显示，目前我国算力总规模位居全球第二位，近五年保持30%左右的年增长率，新增算力设施中智能算力占比过半，成为算力增长的新引擎。

    然而，智能算力增长过快也带来一定的问题，过去算力增长遵循摩尔定律，每18个月性能会提升一倍，但到了智算时代，算力翻倍的时间已缩短至3-4个月，智能算力成为“稀缺资产”。

    张轶男表示，作为国内最早从事互联网基础设施建设和运营的公司之一，企商在线始终聚焦“AI算力服务”、“云服务”、“数据中心服务”三大核心业务领域。针对底层服务器资源的紧缺问题，企商在线与国内的一些TOP级厂商，保持着良好的上下游合作关系，例如，企商在线打造的石景山智能算力中心项目，将提供610PFlops的算力服务，以更好地满足金融、科技企业及科研机构的算力需求。同时，企商在线专业从事服务器代采二十余年，积累了丰富的经验，在价格、供货周期等方面，都具有强大的竞争力。此外，企商在线还面向行业端的具体需求为客户提供定制化能力，以金融行业为例，需要通过JR/T-0131、0132认证，企商在线数据中心按照国家A级机房标准建设，并满足三级等保2.0标准。并且，相关的配套服务能力，包括算力选型、异构算力平台，能同时纳管英伟达全系列GPU资源。另外，寒武纪、昆仑芯已完成适配，摩尔线程、燧源科技等其他厂商也在适配过程中。

    如果说算力是推进大模型的迅速发展的核心驱动力，那么网络则是影响大模型训练质量和速度的重要因素。

    张轶男认为，大模型训练对网络提出了更高的要求，作为数据中心运营方来说，挑战是必然的，但反过来这也是企商在线的优势。为了给最终客户带来无感延迟体验，企商在线做了很多工作，其中，在普通以太网场景下，采用BGP多线路融合、动态带宽扩容、融合CDN等方式解决相关问题;在高性能计算场景下，采用IB组网和ROCE方案，目前，这两种方案都已具备落地条件，可让客户根据不同的环境和资源池进行适配。

  如何践行绿色发展理念？

    在数字经济蓬勃发展的浪潮下，数据中心作为承载算力、传输、存储的基础平台，扮演着至关重要的角色。然而，随着数字经济建设的持续深入，数据中心的能耗问题也日益凸显。

    张轶男指出，一般来说，数据中心机柜功率通常为4.4千瓦，而随着大模型时代的到来，从算力发展趋势来看，面向大模型训练的服务器，如A800服务器就要消耗6.5千瓦的功率，H800会更高。所以，在新建数据中心时，不会再按照传统的方式来规划，而是采用高密度、高电力的机柜部署方式，以提升性能、减少占地面积，但同时也对电力、冷却等技术造成巨大挑战。

    从数据中心运营角度来看，在数据中心端，传统数据中心通常采用的是风冷或水冷架构，成本较高、维护和管理相对较为复杂。企商在线三里屯数据中心使用的就是行业最新的风冷氟泵技术，并采用科学气流组织、智慧照明、智慧运维等技术，达到了绿色节能的标准。在服务器端，服务器正逐步从机架式发展到液冷式。液冷服务器分为浸没式与冷板式两种不同主流方案，浸没式是指将液体注入服务器，为发热部件进行换热，带走热量。液冷散热可以显著提升服务器的性能，降低运行温度。此外，还有绿电交易、风能、碳交易，都是推动数据中心低碳发展的重要手段，企商在线作为智算中心运营方与技术服务方都会提供满足不同客户需求的定制化方案供客户选择。

    此外，企商在线正与下游合作方针对数据分析、分类管理相关措施进行探讨，具体而言，就是将数据分为热数据、温数据和冷数据，分别采用不同的存储策略，以更好地管理和存储数据，从而节约存储成本。并且，企商在线还与合作方共同制定了相关标准，团体标准已正式发布，下一步会争取参与行业标准，甚至国家标准的制定。

  总的来看，大模型给各行各业带来了巨大的机遇和潜力。若想在竞争中把握市场机遇，不仅需要技术能力的不断提升，更需要深入到产业需求中去，并在相关政策的规范和引导下，推动大模型产业的可持续发展。