大模型入门
文章平均质量分 85
qq_26249811
谷歌开发者。百度Apollo社区布道师。
展开
-
Tiny-universe手戳大模型TinyEval--task4
我们repo也支持自定义评测,如果进行了自定义sft数据,我们命名为custom_zh,或如果是英文的话可以为custom_en"instruction": "假设你是皇帝身边的女人--甄嬛","input": "你是谁?","output": "臣妾是甄嬛,家父是大理寺少卿。即可支持自定义数据集的评测~原创 2024-10-03 02:03:24 · 575 阅读 · 0 评论 -
Tiny-universe手戳大模型TinyRAG--task4
LLM会产生误导性的 “幻觉”,依赖的信息可能过时,处理特定知识时效率不高,缺乏专业领域的深度洞察,同时在推理能力上也有所欠缺。正是在这样的背景下,检索增强生成技术(Retrieval-Augmented Generation,RAG)应时而生,成为 AI 时代的一大趋势。RAG 通过在语言模型生成答案之前,先从广泛的文档数据库中检索相关信息,然后利用这些信息来引导生成过程,极大地提升了内容的准确性和相关性。原创 2024-10-02 22:28:32 · 903 阅读 · 0 评论 -
Tiny-universe手戳大模型 TinyAgent--task3
这里基于React的方式,我们手动制作了一个最小的Agent结构(其实更多的是调用工具),尝试将React结构修改为SOP结构。一步一步手写Agent,可以让我们对Agent的构成和运作更加的了解。原创 2024-09-27 02:23:44 · 689 阅读 · 0 评论 -
Tiny-universe手戳大模型 Qwen2以及llama3介绍--task1
关于qwen2以及llama3的介绍原创 2024-09-18 23:41:08 · 666 阅读 · 0 评论 -
Datawhale AI 夏令营大模型技术微调——task2
总结:数据清洗需要下功夫,还有学习率和迭代次数可以调整一下试试,本次我迭代了30次,学习率改成了0.0007。加数据还没有尝试过。修改了原来的代码,使其有更健壮的提取方式。修改了一下代码,这样过滤效果会更好一些。尝试了更改回答的要求。原创 2024-08-14 22:11:32 · 245 阅读 · 0 评论 -
Datawhale AI 夏令营大模型微调 ----task1
定义的chinese_multiple_choice_questions该函数的主要逻辑是通过正则表达式匹配和提取文本中的问题和选项。对于选择题,它提取了问题的编号、文本和选项,并将它们存储在一个字典中。对于简答题,它只提取了问题的文本,并去除了前后的空白字符。函数当前只返回了选择题列表,如果需要同时处理简答题,可以修改函数以返回两个列表。原创 2024-08-11 23:58:21 · 836 阅读 · 0 评论