如何适应大模型时代的科研节奏

已于 2024-04-26 08:42:20 修改
阅读量92 收藏
点赞数 1
文章标签： 自然语言处理
于 2023-12-07 14:29:11 首次发布
原文链接：https://www.bilibili.com/video/BV1CN4y1e7EA/?p=3&vd_source=20caa098843c66abd9463d023ba31cba
版权

大模型时代，普通人的科研何去何从

【大模型时代，普通人的科研何去何从】 https://www.bilibili.com/video/BV1hM41157ZF/?share_source=copy_web&vd_source=d510211a29926bb617b51dda0cd32185

文字版：https://zhuanlan.zhihu.com/p/623690301
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

举例

在这里插入图片描述

LLM啥做不好？找茬的工作。

长尾数据集的意思是，例如分类数据集每个类别的数量严重不平衡。
在这里插入图片描述
在这里插入图片描述

3更高效地利用大模型


在这里插入图片描述

如何适应大模型时代的科研节奏

在这里插入图片描述
19年：西湖大学
20年：复旦
23年：清华
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

道法自然功到自成
关注
苹果能引领端侧AI大模型时代吗？
m0_64752471的博客
09-11 1114
*●其他技术进展：**联发科NeuroPilot Fusion基于低秩自适应（LoRA）融合技术，基于一个基础大模型，通过云端训练，在端侧完成多个功能的融合，从而赋予基础大模型更全面、更丰富的生成式AI应用能力。发布会中最为惊艳的功能之一，是视觉智能。利用端侧大模型，iphone16 不仅可以生成、润色文字、总结文本、回复邮件等，还可以生成表情符号，搜索照片、视频等，并执行多种任务。●从技术的角度，端侧大模型不是孤立的技术，而是跟AI芯片（GPU/TPU等）、操作系统共同形成一个完整的技术体系。
大型语言模型的10大现实应用
2301_82275412的博客
08-07 856
人类还是人工智能？将越来越难以分辨！‍大型语言模型可以写故事、回答问题，甚至还能讲笑话，几乎就像一个真实的人。正是它们的创造力和数据的结合，让我们正在进入一个新时代。大型语言模型（LLMs）是旨在理解、解释和生成类人文本的先进人工智能系统。确切地说，它们是一种深度学习模型，已经在各种互联网文本上进行了训练。LLM应用程序可以执行许多任务，包括撰写文章、创作诗歌、程序设计，甚至进行一般性对话。以OpenAI的GPT-4为例，它展示了对复杂主题的卓越理解能力，以及以各种风格和语言生成详细、微妙文本的能力。
带你快速了解大模型微调原理
2301_81888214的博客
05-28 633
大模型微调（Fine-tuning）是指在已经预训练好的大型语言模型基础上，使用特定的数据集进行进一步的训练，以使模型适应特定任务或领域。
大模型驱动金融：场景落地与策略实施
2401_84495872的博客
08-07 962
这是最好的时代，也是最坏的时代。尽管大模型技术在金融领域具有巨大的应用潜力，但其应用也面临不容忽视的风险和挑战。本文将深入研究大模型在金融领域的数据隐私和安全风险、模型可解释性和透明度、监管和合 规要求，梳理中国、美国、欧洲等地 AIGC 技术的应用规则，探索对应的风险管理和应对策略。
「他山之石」：大模型时代的“小模型”
DeepAIedu的博客
03-25 792
拿RTX 4060 Ti显卡为例，该系列推出了8GB和16GB不同显存容量的版本，对于参数量较大的模型，特别是20亿参数等级的模型，16GB显存版本无疑提供了更为宽裕的工作空间，这对于入门级和中级人工智能项目，如涉及大规模模型训练、复杂图像渲染或是高性能计算密集型应用，都能够提供必要的显存支持。这些模型都是在2024年发布的。然而，这样的策略也带来了一个悖论：若大幅度削减大模型的参数量以适应有限的计算资源，那么理论上讲，其原有的规模优势和丰富的表达能力将会削弱，从严格定义上可能就不再符合“大模型”的标准。
大模型技术对学校有什么作用？
weixin_45607947的博客
07-16 814
大模型技术对学校有多方面的作用，可以在教学、管理、决策等多个领域带来显著的改进。：大模型技术可以帮助教师分析学生的学习行为和历史成绩，从而定制个性化的教学计划和资源。这样学生可以根据自己的节奏和兴趣进行学习，提高学习效率。：AI教师助手可以回答学生的问题，提供即时反馈和批改作业。这有助于减轻教师的负担，让他们专注于个别学生的需求和更有价值的教学活动。：学校管理者可以利用大模型技术分析学校的各类数据，如学生和教师的表现、学校设施的使用情况等，优化资源分配，提高学校运营的效率和效益。
一文了解什么是大模型？到底大模型有什么用呢？
2401_84208172的博客
06-28 4181
大模型是指具有大规模参数和复杂计算结构的机器学习模型。这些模型通常由深度神经网络构建而成，拥有数十亿甚至数千亿个参数。大模型的设计目的是为了提高模型的表达能力和预测性能，能够处理更加复杂的任务和数据。大模型在各种领域都有广泛的应用，包括自然语言处理、计算机视觉、语音识别和推荐系统等。大模型通过训练海量数据来学习复杂的模式和特征，具有更强大的泛化能力，可以对未见过的数据做出准确的预测。
认识大模型提示词
2401_82469710的博客
05-30 647
最常使用的 prompt，用于优化文本的语法、清晰度和简洁度，提高可读性。
AI大模型需要什么样的硬件？
2401_84205765的博客
06-24 780
大模型能力提升不断解锁新的应用场景过去一年，大模型能力的发展速度超出我们预期。以衡量 LLM 的常用的多语言理解均值评 测标准（MMLU）为例，2021 年底全球最先进大模型的 MMLU 5-shot 得分刚达到 60%， 2022 年底超过 70%，而 2023 年底已提升至超过 85%。在语言能力之外，AI 大模型的多模 态能力也快速提升。2023 年初，主流闭源大模型通常为纯文本的 LLM。2023 年至今，闭 源模型的多模态能力具有大幅度提升，目前主流闭源大模型通常具备图像理解、图像生成 能力。
财通证券：AI算力行业深度-AI模型乘风起-GPU掌舵算力大时代(1).pdf
07-19
- **AI领域**：随着大语言模型的不断推出以及模型参数量的增加，AI领域的GPU需求将迅速增长。 ### 二、GPU的技术壁垒与生态构建 #### 2.1 微架构设计的重要性 - **关键因素**：GPU的微架构设计是决定其性能的关键...
大语言模型应用指南：人工智能的起源
程序员光剑
07-26 330
人工智能，这一曾经只存在于科幻小说中的概念，如今正以惊人的速度走进现实，深刻地改变着我们的世界。从自动驾驶汽车到智能语音助手，从医疗诊断到金融交易，人工智能的应用已经渗透到各个领域，为人类社会带来了前所未有的机遇和挑战。在人工智能发展的漫长历史中，大语言模型（Large Language Model, LLM）的出现无疑是一个重要的里程碑。它们是基于深度学习技术构建的巨型神经网络，能够理解和生成人类语言，并在各种任务中展现出惊人的能力。
【一切皆是映射】AI 大模型 LLM + 推荐系统 RS：个性化的艺术——基于LLM的推荐系统用户行为预测
程序员光剑
07-15 1135
在当今数字化时代，推荐系统已成为互联网服务的核心组成部分，广泛应用于电子商务、社交媒体、新闻资讯等领域。传统的推荐系统主要依赖于协同过滤、内容过滤等技术，虽然取得了一定的成效，但在处理复杂、动态的用户行为和多样化的内容时仍面临诸多挑战。随着人工智能技术的快速发展，特别是大语言模型（Large Language Models，LLMs）的出现，为推荐系统的革新带来了新的机遇。大语言模型凭借其强大的自然语言理解和生成能力，为用户行为预测提供了全新的视角和方法。
关于 NLP 深度学习的核心流程
最新发布
xymspace
09-20 831
关于语言模型：- 作用判断那一句话相对更合理，相对不合理的会得到较底的分值：挑选成句概率分值最高的- 评价指标：PPL（Perplexity） 困惑度- 评估一个语言模型在给定数据集上的预测效果- PPL 值与成句概率成反比（PPL 越小，成句概率越高）
大型语言模型 (LLM) 劫持攻击不断升级，导致每天损失超过 100,000 美元
网络研究观
09-20 1121
这一趋势反映了 LLM 访问黑市的不断增长，攻击者的动机包括个人使用和规避禁令和制裁。LLMjacking 的频率和复杂性不断提高，给云用户带来了巨大的财务和安全风险。
机器翻译之创建Seq2Seq的编码器、解码器
Hiweir的博客
09-18 339
【代码】创建Seq2Seq的编码器、解码器。
计算机人工智能前沿进展-大语言模型方向-2024-09-20
09-20 1206
计算机人工智能前沿进展，大语言模型LLM, 2024-09-20 论文速读
【AI大语言模型应用】使用Ollama搭建本地大语言模型
XuJiaKai的博客
09-17 1378
简单介绍什么是Ollama这玩意儿其实就是一个能够帮你快速启动并运行大语言模型的平台。你可以类比于Java中的Springboot+maven这个ollama是用go语言编写的，我对go语言了解不深，所以更细节的平台实现需要各位自行学习。目前这个ollama支持 windows、linux、macos下载Ollama目前主要是两种安装方式：直接安装和docker安装下面就直接开始了。
【AI小项目5】使用 KerasNLP 对 Gemma 模型进行 LoRA 微调
虾米记的博客
09-16 1619
本项目使用 KerasNLP 对 Gemma 模型进行 LoRA 微调，为了快速验证微调的效果，仅在数据集的一个小子集上进行了一个周期的微调，并使用了较低的 LoRA 秩值。取得了显著的改进效果。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值