![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
大模型
文章平均质量分 79
探索大模型原理,分享大模型相关的实践和应用方法论
Forbesdytto
程序员 |AI大模型 |产品经理
展开
-
系统理解RAG (Retrieval-Augmented Generation)原理
传统的大语言模型在处理某些任务时,如开放域问答,可能会生成不准确或不相关的内容。这是因为模型依赖于内部训练的知识,而这些知识是有限的且无法动态实时更新,尤其是在面对复杂或特定领域的问题时,模型生成的回复存在“幻觉”问题。原创 2024-07-21 19:01:34 · 529 阅读 · 0 评论 -
算法、算力和数据——人工智能产品的三大关键要素
引言:人工智能产品的成功依赖于多个关键要素,其中算法、算力和数据被认为是三大支柱。以下从定义、作用和重要性三个层面阐释算法、算力和数据原创 2024-07-18 11:04:30 · 365 阅读 · 0 评论 -
Prompt is all you need
从一个产品面试题(如何为宝妈设计一款相册工具app?)的 Prompt 实践出发,一起来思考为什么 Prompt 的设计很重要原创 2024-07-18 10:59:58 · 319 阅读 · 0 评论 -
关于大模型算力的费用
算力产生费用的原因不仅仅是因为硬件损耗,尽管这是其中一个因素。更主要的是运行这些高性能计算设备(如GPU服务器)所需的电力消耗、冷却系统维持适宜温度的开销、以及硬件本身的购置成本。当提及“硬件”时,这里不仅包括GPU服务器本身,还可能涵盖存储设备(如高速SSD或HDD)、网络设备(如交换机、路由器保证数据高效传输)、以及其他辅助设备(如不间断电源UPS确保电力供应稳定)。GPU服务器是核心,它内部包含多个图形处理器单元(GPU),特别适合于并行计算,是运行大型语言模型等计算密集型任务的关键组件。原创 2024-05-27 17:11:36 · 292 阅读 · 0 评论