大家好,我是煎鱼。
最近 ArchSummit 全球架构师峰会在深圳也开展了,刚好煎鱼本鱼也在深圳。那必须前来学习一下大佬们的经验。
想起以前参加过几次别的大会,满场子都是 Mesh。想着隔了一段时间了,行业也有新的技术增长点了,值得一去看看。
以下是我简单记录的一些笔记,有兴趣的同学可以一起看看学习进步。明天再发剩余的另外一半的笔记。欢迎大家关注!
AI 大模型落地的前景和痛点
演进主题:《AI大模型落地的前景和痛点,兼谈工程师、架构师所面临的机会和挑战》,讲师:李维博士,出门问问
作为务实打工人。我是按上班时间 9 点过去的。会议 8 点多就开始(熬夜大户困难);因此李维博士的内容听了一半左右。
我一进去,座位还没坐暖。就听到来自讲师的灵魂拷问:关于大模型会不会替代人类的问题?
![d008e4990bd2dd299d04677cf37a893a.jpeg](https://img-blog.csdnimg.cn/img_convert/d008e4990bd2dd299d04677cf37a893a.jpeg)
讲师表示做 NLP 的也很焦虑,大家都焦虑。但目前还不会发生,期望 5 年内能看到。
针对大家比较关注的几个 LLM 的 “问题”,做了正式的介绍和回复。例如最被大家嫌弃的幻觉,说胡话。
![123447ea4d5082a0f1f4d20ee3ea0098.jpeg](https://img-blog.csdnimg.cn/img_convert/123447ea4d5082a0f1f4d20ee3ea0098.jpeg)
认为 ”幻觉“ 是 LLM feature,不是 Bug;是想象力的同义词。
认为 “不稳定” 也是 feature,有他的特定适应场景和原因。
“幻觉” 没有办法根治,只是应用的场景不一样,所谓的幻觉,如果你根治了,那在创作类等都会有问题。
如果是要精准的场景,应该去做垂直领域的精准匹配。也就是对于特定领域的问题,人应该去做主驾驶,大模型是副驾驶。
通用大模型只是辅助。提高生产效率。
末尾人均宣传了大模型,出门问是:奇妙文/序列猴子。主要是演示省市区的人口多轮问答的视频。
粗略总结:大家不用焦虑,一些 “幻觉” 问题其实是大模型正常表现;要精准,请右拐做垂直领域的大/小模型或匹配。
AIGC 技术探索与应用创新
演进主题:《AIGC 技术探索与应用创新》,讲师:李鑫博士,科大讯飞
主要是基于讯飞家本来的几个场景进行进一步的介绍和展望分享。因为公司有用到相关的业务,还特意事前关注了。
第一个是语音合成,目前已经超越普通人发音水平,可以模拟任何人。
![ed346aac34481eb0ccd1b5cd05a8cbb9.jpeg](https://img-blog.csdnimg.cn/img_convert/ed346aac34481eb0ccd1b5cd05a8cbb9.jpeg)
2019 年时,MOS 4.9 分,已经很接近原声。
目前最新的是:虚拟声音。绘声绘色,把声音和文字结合起来。文本和音频的预训练和映射。
第二个是音频创作。音频的大模型,在 ChatGPT 出现前。已经存在和研究了一段时间了,不是一个特别新鲜的东西。
目前音频创作的下一步方向:
![2179718011f00caf635c24a840b0c163.jpeg](https://img-blog.csdnimg.cn/img_convert/2179718011f00caf635c24a840b0c163.jpeg)
目前来看,主要还是持续优化,让听起来更加的悦耳自然,类似色香味俱全升级。
第三个是虚拟人,是最近在 AIGC 后又重新再火了一把的话题。会场上前几位博士基本人均演示了虚拟人。
虚拟人,根据文本识别虚拟人的动作,也可以进行调参:
![309dea28d506e4032fed27e133cc8e38.jpeg](https://img-blog.csdnimg.cn/img_convert/309dea28d506e4032fed27e133cc8e38.jpeg)
确保有模有样,言行一致。(图里的评分是 3.75,颇有一番神韵)
![ae4782c6b5282b9253ae9b511d4e5946.jpeg](https://img-blog.csdnimg.cn/img_convert/ae4782c6b5282b9253ae9b511d4e5946.jpeg)
从现场听的来看,其实虚拟人的核心已经基本完善,似乎已经到了一定的瓶颈期。
未来虚拟人的虚拟化,发展方向是全流程:
![5591b28fece65ffc02d66afd57f4177a.jpeg](https://img-blog.csdnimg.cn/img_convert/5591b28fece65ffc02d66afd57f4177a.jpeg)
让整体更智能化,自动化一些。(展望)
末尾人均宣传了下大模型,讯飞星火。在演示中,与其他家比较不一样的一点,做视频中是让做诗,直接输出了虚拟人的视频。
同时讲师认为 Prompt 很重要,GPT 无法抛弃自然语言:
![a53db419af4e1ce4571d1285666dfa24.jpeg](https://img-blog.csdnimg.cn/img_convert/a53db419af4e1ce4571d1285666dfa24.jpeg)
最后讲师很接地气的讲了 AIGC 的商业化的理解。建议应当在原有的产品上升级,要明确让自己和客户知道,技术是有边界的。
要关注投入产出比,让研究院和落地业务结合。建议步骤: 从 0 到 1,开源,工具化。
粗略总结:
讲师透露出来的感觉是,核心技术侧基本已经都完善了,在 ChatGPT 前已经达到了相当的水平了。
AIGC 主要是把整个链条全自动化,提高生产效率和自动化。
对于 AIGC,大家要考虑 ROI,要知道技术边界,抢做时代的前锋和守门员。
大型企业数智化工程体系建设实践
演进主题:《大型企业数智化工程体系建设实践》,讲师:罗小江,用友
做的 2B 业务,讲数字化转型。客户群体房地产低迷,和很多客户交流,他们希望把软件做的更好。
![850558e07e5b3849aba064e9a126a54d.jpeg](https://img-blog.csdnimg.cn/img_convert/850558e07e5b3849aba064e9a126a54d.jpeg)
整体同行和客户的趋势:
都希望东西做的更好。
都在做产业互联。
都在往 PaaS 转。
都在把流程-数据-服务打通。
后续讲了一些数字化的问题,介绍了一些比较大的解决思路和方向。例如,表示用户现在服务化拆得很细。
有 1w6+ 个服务(服务数真多):
![7f9d6438210bf589fb718e3f785f36cc.jpeg](https://img-blog.csdnimg.cn/img_convert/7f9d6438210bf589fb718e3f785f36cc.jpeg)
做了很多基础组件,中间件的改造,确保云上云下保持一致。
![ce1c644f335f5e5d6dab1f9f2250f179.jpeg](https://img-blog.csdnimg.cn/img_convert/ce1c644f335f5e5d6dab1f9f2250f179.jpeg)
做了许多质量门禁相关,达到一定的质量比例才允许上线。
![44c43238c8816d1035ae984982bffcd3.jpeg](https://img-blog.csdnimg.cn/img_convert/44c43238c8816d1035ae984982bffcd3.jpeg)
做了大量自动化测试用例,由 RD 去执行。不会每次都全部进行人工验证。
![aa8144cac49c66fa6ac38dcdf97c52f4.jpeg](https://img-blog.csdnimg.cn/img_convert/aa8144cac49c66fa6ac38dcdf97c52f4.jpeg)
做了运维和根因定位的关联和链路排查,加速了排查和定位问题的效率。
做了低代码平台,把所有开发者需要解决的问题都融入平台的范围内,一键生成解决方案。不需要研发过多的介入。
随后分享了某汽车企业的实践案例:
![ca080763aacdabed0dff9e1b25c281f3.jpeg](https://img-blog.csdnimg.cn/img_convert/ca080763aacdabed0dff9e1b25c281f3.jpeg)
最有意思的一点,根据敏捷流程,重塑了对方的组织架构和体系。感觉给的权限非常大。
![ac3ba376b073874a345db60231004ce2.jpeg](https://img-blog.csdnimg.cn/img_convert/ac3ba376b073874a345db60231004ce2.jpeg)
主要是常规的 Devops 系统,比较完善。有兴趣的也可以在网上找到各类公司的相关技术资料和 PR。
最大的一点感触,用友可以和用户贴近一线,改变了对方的运营、产研的组织和人员体系。像个咨询服务落地的公司业务了。权力非常大的感觉。
![a904e0e4043fc9a00979f7d8dd566ecb.jpeg](https://img-blog.csdnimg.cn/img_convert/a904e0e4043fc9a00979f7d8dd566ecb.jpeg)
总体来讲了比较多的问题大方向和解决思路,且听且自己回去思考。没有具体深入太多的内容物。
特别的一点用词,对于许多同学很痛苦的信创,演讲时用词很有意思,是 "利用" 信创。
粗略总结:
用友做了比较完善的 Devops 和交付体系的建立,投入了不少人力物力。值得一看。
可以深入用户和运营,改变对方的组织架构和体系,感觉这个最牛逼。没有相当的授权做不到。很好奇怎么做到的。
根据举例的多个实际例子来看,企业 2B 经营和人脉经营的看起来不错。因为有 XX 企业的单。
大模型下的企业数据体系思考
演进主题:《大模型趋势下的企业数据体系思考》,讲师:何昌华博士,数巅科技
正常介绍了大模型历程,和行业内相关内容不会太大差别。核心分享了数据主题,类似 ChatBI 场景。
对于常规的聊天,让输出图表、数据等,直接接入大模型,也是有一定的问题。因为这不是大模型最擅长的领域。
解决方案分享的是软件行业的金手指,加一层,不够再加一层的业内的虚拟表的方式(图下面的文字对应图上的各层描述):
![a1b50a5378f780533a368073ce75143a.jpeg](https://img-blog.csdnimg.cn/img_convert/a1b50a5378f780533a368073ce75143a.jpeg)
各层分别是:业务逻辑模型、虚拟表、物化视图、数据连接层、全量数据。细分可以有五层;
大的类别可以分为:业务数据资产、数据虚拟化引擎、物理引擎三类。
![139aff1dfa56421550168f0e537d62d0.jpeg](https://img-blog.csdnimg.cn/img_convert/139aff1dfa56421550168f0e537d62d0.jpeg)
总体来讲,即使加了两三层。但由于大数据的特性,数据量非常大。例如在性能,映射各方面都是需要再投入资源研发和解决的。一些大致的思路如上图。
粗略总结:讲了很多,但没有太具体讲深太多。总之多加几层后自己按技术难点突破即可。主要是参照思路,学习为主。
关注和加煎鱼微信,
一手消息和知识,拉你进技术交流群👇
你好,我是煎鱼,出版过 Go 畅销书《Go 语言编程之旅》,再到获得 GOP(Go 领域最有观点专家)荣誉,点击蓝字查看我的出书之路。
日常分享高质量文章,输出 Go 面试、工作经验、架构设计,加微信拉读者交流群,和大家交流!