当“巴适得板”“食咗饭未”遇上大模型,“理解障碍”进一步被突破:近日,中国电信人工智能研究院(TeleAI)正式对外发布星辰超多方言语音识别大模型,这是业内首个支持30种方言自由混说的语音识别大模型,也是目前国内支持最多方言的语音识别大模型,可以同时识别理解粤语、上海话、四川话、温州话等30多种方言。
可以预见,星辰超多方言语音识别大模型有广泛的应用前景,如语音助手、智能家居、智慧客服等领域,将提高交互的便捷性和自然性,同时,这一技术的应用也将使更多方言群体能够享受到科技带来的便利,具有技术普惠和人文关怀意味。
一直以来,“方言”都是语音大模型领域的重难点板块,此次中国电信率先突破瓶颈,不仅体现了其在语音识别、数据处理、深度学习算法等领域的积累,也再次让行业看到了电信等运营商切入大模型领域的实力,及其独特的视角与应用模式。不止是电信,在当下,移动、联通等国家队也纷纷开卷大模型。
那么,运营商的大模型动作,是仅仅“步大厂后尘”、跟随BAT等互联网巨头的脚步亦步亦趋,还是有自己的亮点和新意?
事实上,从算力、数据等硬件配置上来看,运营商切入大模型有天然优势,这也是为什么其虽然是后起之秀,但实力不算太差。然而,术业有专攻,在对技术护城河颇高的大模型领域,运营商在人工智能、深度学习领域的技术创新和研发能力还是相对薄弱,也难以突破行业天花板,讲出新故事。
同时,不同于BAT“推出大模型全家桶、赋能千行百业”的“自上而下”模式,运营商大模型更有自下而上的“场景原生”意味,往往从具体需求出发,并注重将大模型技术应用于其核心业务领域,如通信、政务、工业等。
这也导致了运营商虽然结合业务场景,在行业大模型的诸多“枝桠”领域进行“修剪”、精调与优化,但这些动作更多旨在提升现有服务的质量和效率,而非在底层技术和通用模型上这一“枝干”进行创新。
不过,尺有所短,寸有所长,在具体落地上,运营商比大厂更具优势。而当“国家队大模型”与“大厂大模型”两种气流汇合,一场围绕落地、应用的华山论剑随之展开,并在“1+1大于2”的会师、碰撞中,不断推动大模型在应用场景上落地。
立足算力、数据、
场景等优势,运营商深入大模型腹地
去年下半年,三大运营商国家队明显加快了大模型布局速度,进入2024年这一“大模型落地元年”,运营商更是深入大模型应用腹地。
作为通信行业的龙头,运营商的核心业务是提供通信服务,因此,在具体布局上,运营商首先关注的即如何将大模型能力灌注于核心业务中,以提升服务质量和效率,如“方言模型”,即脱胎于“客服遇到不同方言用户”这一细分业务场景。
而今年5月,中国移动APP的AI智能助理“灵犀”亮相,并深度嵌入到最新升级的中国移动APP V10版本中。同样,“灵犀”也是从用户使用中国移动APP的“查话费”、“推荐套餐”等需求出发,依托大模型的内容生成能力,以改善用户体验。
值得一提的是,在围绕客服、网络等“老本行”展开布局的同时,运营商同样聚焦政务、工业、电力等领域,采取“1+N”模式,以通用大模型为基础,打造多个纵深、垂直的行业大模型,为行业提供定制化解决方案,国家队色彩鲜明:
2023年10月,中国移动发布“九天•众擎基座大模型”,具备自主技术攻坚、安全可信可控等五大优势,训练数据规模超两万亿Tokens,融合通信、能源、钢铁、建筑、交通等8大行业专业知识。
同年11月,中国电信发布“星辰”千亿参数语义大模型,加强在教育、政务、医疗卫生领域深度应用的同时,在业界首次提出缓解多轮幻觉的解决方案,将AI大模型的幻觉率降低了40%,让大模型更能“听得懂人话”。
今年2月,中国联通发布了元景“1+1+M”大模型体系,即包含1套基础大模型、1个大模型底座、M种行业大模型,在此基础上研发多种内外部业务场景;5月,中国联通进一步发布中国联通元景大模MaaS平台,为企业行业向MaaS服务,目前,中国联通已布局装备制造、仓储物流、电力、钢铁等十大行业大模型。
那么,运营商布局大模型,成效如何?事实上,在网络、算力基础和数据等基建上,运营商具有多重先发优势。
首先,运营商往往积累了大量算力领域的核心技术,能够满足大规模、低时延、多样化算力需求,确保了大模型训练和应用所需的稳定算力支持。
如中国电信是国内最早进入云计算领域的运营商,并陆续投产了京津冀智算中心等多个公共智算中心,中国移动已在京津冀、长三角、粤港澳大湾区等投产首批12个智算中心节点,全网智算规模达到17EFLOPS(FP16),其中,中国移动智算中心(呼和浩特)节点是全球运营商最大单体液冷智算中心,可提供6.7EFLOPS(FP16)的智能算力。
同时,在“巧妇难为无米之炊”的大模型应用场上,数据作为“米”也至关重要。在数据上,运营商除通用数据外,还有自身业务积淀的大量数据,如中国电信积累了超过500TB文本数据、12亿张图文数据和PB级视频数据;中国移动则持续推进运营数智化,培养了一支数据标注队伍,能够根据大模型在各业务场景落地应用所需精调训练需求,快速产出各类训练数据。
最关键的是,在大模型落地领域,“前店后厂”、自身业务链条完善且拥有广泛客户群的运营商同样不缺落地场景。而在当下,以大模型为基础赋能千行百业,同样是互联网大厂的落地重心——在这条路径上,大厂和运营商殊途同归。
自下而上vs自上而下:
落地上殊途同归,运营商讲不出新故事
在当下,“落地”已成大模型领域的共识,对此,运营商和大厂都讲不出什么新故事,只能离着陆“近一点、再近一点”。正如中国工程院院士邬贺铨所言,基础大模型通识能力强,但聊天难成刚需,要体现大模型的价值,还要靠落地行业应用。对此,大模型领域的头部玩家同样深有感触,百度创始人李彦宏曾多次发出灵魂拷问:
“对于互联网产业而言,大模型有没有给你的DAU、用户时长、留存率、变现效率带来正向影响,对于企业来说,大模型有没有让你的成本变低,收入、利润变得更高,增速更快?这才是问题的本质。”
这也是为什么近期,大厂纷纷把大模型“卷出白菜价”——相比短期内盈利,把蛋糕做大、让更多行业乃至企业用起来,并在业务转动中不断为其注入“数据燃油”、升级调优,才是未来的竞争重心。
如果说在1.0阶段,互联网大厂的大模型应用范围主要集中在把互联网服务“重做一遍”上,如阿里曾计划将天猫、淘宝、钉钉、高德地图纷纷接入“通义千问”,以提升用户体验,那么在2.0阶段,范围从互联网业务场景扩展到更为“重工”的行业,即工业、医疗、金融、通信这些难度更大,也更具想象空间的落地领域。
百度文心一言切入金融、医疗健康、旅游等领域,如发布落地医疗行业的产品GBI-Bot,携手海通证券探索打造金融行业专用知识库,阿里通义千问与中国科学院国家天文台共同打造天文大模型“星语3.0”,腾讯发布汽车行业大模型“全域智能方案”,华为的盘古矿山大模型已经在全国8个矿井规模使用……
值得注意的是,对大厂来说,不同于轻车熟路的互联网产品领域,进入具体行业往往存在一定壁垒,并需要多方生态伙伴配合。
而相较自上而下推广大模型、将其由“通才”驯化为“专才”的大厂,对运营商来说,行业落地往往更为容易。
对内,运营商自身既有广泛的落地场景,如星辰语音大模型一经发布即落地应用,目前已在福建、江西、广西、北京、内蒙等地的中国电信万号智能客服系统试点应用,智能客服翼声平台也接入星辰大模型的语音理解和分析能力,每天处理125万通客服电话。
移动“灵犀”同样深度嵌入中国移动APP V10中,用户在使用APP过程中,可以通过“你好,灵犀”唤起大模型这一智能客服,进入查账单、充话费等业务场景。
同时,对工业等“外部领域”,具有广泛客户群体的运营商同样“近水楼台先得月”,正如赛迪顾问人工智能产业研究中心常务副总经理邹德宝所言,运营商积累了大量的垂直行业的客户,通过面向垂直行业的大模型,可以更加精准、定制化地理解与处理不同行业的碎片化信息管理能力。
如据中国联通表示,其在与南京港某公司合作中,基于计算机视觉和大模型等AI技术,针对违章识别、集装箱码头运营等20余个作业场景,研发了超过30项人工智能应用,既解决人员管理覆盖不到位的难题,又实现了风险的实时预警、及时干预,事故率大幅降低。
值得注意的是,虽然具有算力、场景等优势,但在“术业有专攻”的大模型领域,相较互联网大厂,运营商在人工智能、深度学习领域的技术创新和研发能力还是相对薄弱。而这正是大厂的优势——Hugging Face 高级工程师王铁震曾指出,大公司在算力、数据、资金等方面拥有天然的竞争优势, 但是场景理解不足。
在双方都走至瓶颈时,二者“取长补短”往往能带来更为成熟的解决方案。
落地瓶颈期**,**
运营商与互联网大厂“合作会师”
穷则变、变则通。对各自优势明显的大厂和运营商来说,当围绕某一具体场景进行“通专结合”的合作时,往往能产生意想不到的效果,生出“1+1大于2”爆破性的合力。
2023年3月,百度推出新一代知识增强大语言模型——文心一言后,在大模型方面与中国电信启动了全面合作,并在文旅、政务、政法公安等行业进行落地探讨,去年10月,百度智能云即成为中国电信“星辰MaaS生态服务平台”首批签约的大模型生态合作伙伴,助力中国电信提供更全、更优的大模型服务。
同样,中国移动的“灵犀”不仅应用了基于中国移动自研的九天大模型,还进一步以九天众擎为大模型应用基座,引入科大讯飞的“星火”通用大模型,以更加精准、定制化地处理碎片化信息。
如基于科大讯飞语音识别能力,科大讯飞联合中国移动推出了5G新通话创新应用“商务速记”,能够让用户电话会议或商务通话时,实时捕捉语音信息并将其转化为文字纪要和待办事项,节省人工记录时间的同时提升准确性。
值得一提的是,在运营商腹地——通信行业,今年2月,华为发布了通信行业首个大模型,发布会上华为董事杨超斌演示了通信大模型的场景,如在敏捷业务发放案例中,通过放号助手的多模态精准评估,实现了快速用户放号,在辅助排障场景下,跨流程的质差分析和对话辅助处理,改善了故障处理效率,等等。
这意味着在行业应用落地上,大厂和运营商有望进一步会师。当然,随着大模型驶入行业深水区,还存在重重阻碍。
正如腾讯集团高级执行副总裁汤道生所言:“这几年通用大模型技术快速发展,展现出越来越强的智能,但很多传统行业应用推进得其实并不快,因为企业有大量的具体问题解决不好。对企业而言,大模型应用需要综合考虑行业专业性、数据安全、持续迭代和综合成本等多种因素。”
这更需要在行业落地阶段,互联网大厂和行业生态伙伴一起携手共进,通专结合,在实践中,不断调优,打破大模型领域“专业性、泛化性和经济性不可能同时存在”的不可能三角,为生产力提升注入新动能。