原视频:https://www.bilibili.com/video/BV18142187g5
大模型成为发展通用人工智能的重要途径:
由专用模型向通用大模型的转变。
发展历程
书生·浦语2.0 概览
核心技术思路
基于数据质量进行迭代优化
可以使用开源的label LLM对数据进行标注
大海捞针实验:检测对于超长上下文,准确定位所需信息的能力
之前需要进行RAG,对问题和文档分块,进行向量化并匹配,在跨文档需求、逻辑推理、超长文档方面存在不足
可能是一个可以替换RAG的方向。
模拟人的解决思路,分析问题,收集并整合信息
MindSearch项目:搜索100+网页
不同规模的InternLM模型
预训练:提高性能,节省硬件成本
大模型性能评价体系:OpenCompass
模型部署:LMDeploy
搭建智能体:
调用外部插件的能力:
python解释器,多模态的Image Descripter+文字转语音插件
MindSearch:基于搜索结果的智能体
RAG工具:茴香豆