![](https://img-blog.csdnimg.cn/20201014180756918.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
大语言模型
文章平均质量分 96
hyang1974
杨洪(Harold Yang),上海交通大学硕士,英特尔与亚利桑那州立大学Thunderbird MBA。目前担任英特尔亚太研发有限公司网络边缘事业部工业团队机器人系统架构师,负责工业机器人与AMR相关软件开发和本地客户产品开发支持。同时担任机器人操作系统(ROS)开源社区技术指导委员会(Techinical Steering Committee)成员和英特尔技术代表,带领团队对ROS 2开源项目的开发做出了巨大的贡献。我的团队深度参与了ROS 2从Ardent Apalone版本到Crystal Clemmys版本的开发。
展开
-
Huggingface的文本生成推理工具包(Text Generation Inference Toolkit)
大型语言模型(LLM)迅速普及,几乎每周都会出现新的模型,这引发了用于容纳这项技术的托管选项的同步增长。在可用于此目的的众多工具中,Hugging Face 的文本生成推理 (Text Generation Inference,TGI) 尤其值得一提,因为它允许我们在本地机器上将 LLM 作为服务运行。原创 2024-05-06 17:22:50 · 1179 阅读 · 2 评论 -
Llama-Factory + Ollama 打造属于自己的中文版 Llama3
Meta Llama3发布已经有一小段时间了。和以往的原始 Llama 模型一样,Llama 3 对中文的支持效果欠佳。本文则探讨如何使用 Llama-Factory 对 Llama3 进行中文微调的具体过程,并通过 Ollama 本地部署中文微调的 Llama3 模型,打造属于自己的个性化的 Llama3 LLM 。原创 2024-05-05 17:36:26 · 6528 阅读 · 2 评论 -
尝鲜 Meta Llama3
Meta于4月18日正式发布了其 Llama 系列开放式生成式 AI 模型的最新成员:Llama 3。新模型 Llama 3 8B(包含 80 亿个参数)和 Llama 3 70B(包含 700 亿个参数)与上一代 Llama 模型 Llama 2 8B 和 Llama 2 70B 相比,在性能方面实现了“重大飞跃”。原创 2024-05-04 18:23:48 · 754 阅读 · 0 评论