揭秘1万家公司AI应用的真相-2-CSDN博客

本文链接：https://blog.csdn.net/zhuzongpeng/article/details/139941189

此外，报告还指出，NLP不仅在应用范围上持续扩大，其年增长率也高达75%，这表明各行业对NLP解决方案的需求在不断增长。伴随NLP的广泛应用，诸如地理空间分析和时间序列分析等其他应用也在显著增长，表明企业正积极利用AI技术应对多样化的业务挑战和市场需求。

客户定制偏爱小的LLM模型

过去一年里，客户迅速采用现成的LLM模型，SaaS型LLM的用户数量年增长率达到了178%，显示出初期对这一技术的热切需求。尽管如此，企业不再满足于直接应用市场上的通用模型，转而倾向于自主掌控并开发符合自身特定需求的工具和模型。

公司倾向于选择较小的开源模型。企业选择较小的模型时，通常是在成本、性能和延迟之间做出考量。较小的模型如Meta Llama 2的7B和13B参数版本相比最大的70B参数版本，能显著降低计算资源的需求和成本，同时减少预测时延，这对于追求效率和即时响应的应用场景至关重要。尤其在需要快速部署和大规模应用的情况下，较低的运行成本和更快的响应时间可以带来更优的总体拥有成本（TCO）。

开源模型提供了灵活性，使得公司可以根据特定业务需求对其进行调整和优化。较小的模型在训练和微调上更为便捷，便于企业结合自己的专有数据进行定制化，比如通过使用检索增强生成（RAG）方法和向量数据库来增强模型能力，这在报告中提及的70%使用生成式AI的企业中得到了体现。

新模型的推出速度加快，如Meta Llama 3在发布后仅四周就占据了所有开源LLM使用量的39%，表明企业乐于尝试最新技术。较小的模型允许企业更快地测试新模型，进行原型验证，并快速迭代到生产环境中，加速创新周期。

金融服务行业突出的LLMs应用
尽管金融服务业是受到严格监管的行业之一，但它并未回避使用生成式人工智能（GenAI），反而在采用GPU方面领先其他行业。金融服务公司的平均GPU使用量最高，且在过去六个月内GPU使用增长率达到了88%。这一趋势表明，即使在面对严格的合规要求下，该行业仍然积极拥抱GenAI技术以提升业务效能。

在金融服务行业中，GPU的高使用率特别体现在处理大规模数据集和执行复杂的数学运算上，如在机器学习和深度学习应用中。特别是对于训练和运行生成式语言模型（LLMs）、市场预测、欺诈检测等应用，GPU能够提供必要的并行处理能力，大幅提高处理速度和效率。88%的GPU增长速度表明，金融服务公司正在加速采用AI技术，以增强其业务处理能力和智能化水平。

尽管CPU在并行处理能力上不如GPU，但其作为通用处理器，适用于各种类型的计算任务，这对于金融服务行业来说至关重要。例如，处理非线性、分支较多的逻辑运算或者进行串行处理时，CPU仍然是首选。金融服务公司可能利用CPU处理诸如交易验证、即时风险评估等需要灵活且多样化计算能力的任务。

金融服务行业对CPU和GPU的高使用率预示着，未来这一行业将继续深化在人工智能、大数据分析等领域的应用。随着技术的不断演进，预计该行业将进一步探索如何更高效地整合和利用这些计算资源，以驱动业务创新和增长。同时，这也可能促使供应商开发更多针对金融行业特定需求的计算解决方案，比如优化的硬件加速器和定制化软件。

如果您看完有所受益，欢迎点击文章底部左下角“关注”并点击“分享”、“在看”，非常感谢！

精彩推荐: