面试问题记录（LLM）

已于 2024-05-24 09:45:40 修改
阅读量114 收藏
点赞数 1
文章标签： 语言模型 prompt 面试
于 2024-05-24 07:07:37 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/gz927cool/article/details/139161463
版权
  1. 一个良好Prompt的结构是怎么样的，说一下关于如何调整Prompt的经验
  2. 针对一次生成，如何自动的判断生成的质量是否符合要求？ 是通过规则还是利用LLM反馈？ 具体如何实现？？
  3. 微调一个信息抽取LORA模型，如何构造设置微调数据？
  4. 如何进行多轮对话？ 多轮对话时如何管理session？
  5. 有没有比较过量化前后的差别？BF16 和 FP16 有什么差别？
  6. 有没有用过GPT Store这类开发平台？
  7. 说一下你对Agent的理解？
gz927cool
关注
顶级大型语言模型 (LLM) 面试问题与解答 揭秘大型语言模型 (LLM)：关键面试问题和专家解答
iCloudEnd的博客
09-07 832
回答：序列到序列(Seq2Seq) 模型是自然语言处理 (NLP) 中常用的一类神经网络，用于处理数据序列并生成数据序列作为输出。Seq2Seq 模型由两个主要组件组成：编码器和解码器。这些模型已在各种 NLP 任务中得到应用，其中突出的用例是语言翻译和文本摘要。回答：注意力机制从最初在 Transformer 模型中的引入到最近的变体，如 BERT（来自 Transformers 的双向编码器表示）和 GPT（生成式预训练 Transformer）模型，经历了重大演变。
LLM比较好的一些面试问题
kukudexiaoma的博客
01-15 474
平时看到的一些关于LLM方向好的回答，收集起来以后方便学习。感谢大佬们的付出！
大模型面试问题记录
霜叶的博客
08-18 1306
层归一化（Layer Normalization）和批归一化（Batch Normalization）是两种常用的归一化技术，主要用于加速神经网络的训练并提高模型的表现。通过引入相对位置编码，使得模型能更好地理解位置关系。通过以上技术，DeepSpeed 可以显著加快模型训练的速度，支持更大的模型和更复杂的任务，使得研究人员和工程师能够更高效地进行深度学习研究和应用。：LoRA 通过引入低秩矩阵来表示权重的微调，只需要增加很少的参数，这使得微调过程更为高效，尤其是在大模型上，能显著降低计算和存储的开销。
大模型（LLMs）算法工程师的面试题_大模型开发工程师 面试问题(1)
2401_84184567的博客
04-27 955
这里获取](https://bbs.csdn.net/topics/618545628)**
【LLM面试题】显存问题/评估微调所需显存
m0_52965867的博客
08-10 395
显存面试
大模型（LLMs）算法工程师的面试题_大模型开发工程师 面试问题(3)
2401_84164576的博客
05-04 1089
【代码】大模型（LLMs）算法工程师的面试题_大模型开发工程师 面试问题(3)
记录一次惨痛的面试经历（CVTE的LLM实习面试）
zc1226的博客
06-05 416
面试题记录
大模型（LLMs）算法工程师的面试题_大模型开发工程师 面试问题
2401_84181340的博客
05-01 815
这里获取](https://bbs.csdn.net/topics/618545628)**
面试官面试的所有问题罗列出来
fanchao_的博客
11-05 117
在NLP中文字通过编码也可以转换为时间序列数据，而我们污水处理过程也是在处理时间序列数据，因此了解到了很多时间序列模型，GRU、RNN、LSTM、双向LSTM，我也使用GRU发表了污水处理过程的论文一篇。17.如果给你一个项目，目标是什么其实并不清晰，怎么评价也知道，需求也很模糊，请问对于这个项目你会怎么开展？19.你是怎么评估的，像污水处理厂的数据每天都会更新，数据量会越来越大，你们又是如何评估污水处理厂的状态呢？7.我了解到时间序列都具有一定的时间相关性，对这一特征，你都是怎么处理的？
在心理分析中应用AI LLM：洞察人类情感
AI天才研究院
05-24 480
在心理分析中应用AI LLM：洞察人类情感 作者：禅与计算机程序设计艺术 1. 背景介绍 1.1 心理分析的挑战与机遇 心理分析作为一门探索人类内心世界的学科，一直以来都面临着诸多挑战。传统的分析方法依赖
【人工智能时代】- LLM实践面试宝典
xiaoli8748的专栏
09-22 988
LLaMA的限制在于模型数据，似乎无论是不同结构的模型，还是用其他数据训练的open_llama都能作为可以商用的底座。折腾大模型（small LLM）一段时间了，以下是平民版的LLM学习记录，记录了自己遇到的问题，以及给出不完美的解答。ChatGLM-6B官方支持的p-tuning-v2，以及最常见的LoRA方式都可以微调，节省显存又高效。不过默认还是2k窗口，GPT4的8k窗口和高级版的32k窗口的实现方式令人好奇，真的是原生的32k窗口吗？ChatGLM-6B官方说，fp16下最低需要13GB显存。
Prompt：在AI时代，提问比答案更有价值
最新发布
成为人工智能领域优质创作者
09-30 478
我认为低门槛是提示词的优势所在
如何写好提示词Prompt？
成为人工智能领域优质创作者
09-25 715
我们应该“往回退”，而不是盲目“往前进”
【AI大模型】Prompt Engineering
weixin_42548337的博客
09-25 979
LLM 时代 prompt 这个词对于每个使用者和开发者来说已经听得滚瓜烂熟，那么到底什么是 prompt 呢？简单来说，prompt（提示）就是用户与大模型交互输入的代称。即我们给大模型的输入称为 Prompt，而大模型返回的输出一般称为 Completion。对于具有较强自然语言理解、生成能力，能够实现多样化任务处理的大语言模型（LLM）来说，一个好的 Prompt 设计极大地决定了其能力的上限与下限。如何去使用 Prompt，以充分发挥 LLM 的性能？
[论文笔记] Chain-of-Thought Reasoning without Prompting
心宝的博客
09-26 205
模型首先识别出说话者有3个苹果，然后识别出爸爸比说话者多2个，即5个苹果，最后将这两个数量相加得到总数8个苹果。这个例子表明，通过探索替代的解码路径，我们可以从预训练的LLMs中提取出有用的推理链，即使没有明确的提示或问题构造。这个例子表明，通过探索替代的解码路径，我们可以从预训练的LLMs中提取出有用的推理链，即使没有明确的提示或问题构造。当然，以下是一个使用CoT（Chain-of-Thought）解码方式的例子，它展示了如何从预训练的大型语言模型（LLMs）中激发推理路径。
入选ECCV 2024！覆盖5.4w+图像，MIT提出医学图像分割通用模型ScribblePrompt，性能优于SAM
HyperAI超神经
09-27 1024
另外，与 SAM 基线相比，93.8% 的参与者更喜欢 ScribblePrompt，因为它可以改善对涂鸦纠正的相应片段，同样有 87.5% 的参与者更喜欢使用 ScribblePrompt 进行基于点击的编辑。该研究展示了牛津大学团队所开发的一款名为Medical SAM 2 的医学图像分割模型，基于 SAM 2 框架设计，通过将医学图像视作视频，不仅在 3D 医学图像分割任务上表现卓越，同时还解锁了一种新的单次提示分割的能力。正所谓条条大路通罗马，人工智能在医学领域的应用无不是为了造福医学，造福社会。
LLM基础概念：Prompt
weixin_40307696的博客
09-25 718
prompt injection通常是通过在对话的起始或每个对话轮次插入特定的文本来实现的。这些文本可以是问题、指令、上下文信息或任务相关的提示，以引导模型生成与特定任务或目标相符合的回答。通过prompt injection，可以引导模型产生特定领域的回答，提供特定的信息或执行特定的操作。例如，在问答任务中，可以在prompt中提供问题和相关上下文，以引导模型生成相关的答案。在任务导向的对话中，可以在每个对话轮次重注入指令或任务目标，以引导模型按照特定的任务要求进行回答。
大模型prompt先关
sslfk的博客
09-24 418
n\n从给定的文本中，我们可以抽取以下知识图谱三元组：\n\n```json\n[\n {\"subject\": \"刘德华\", \"predicate\": \"老婆\", \"object\": \"朱丽倩\"}\n]```\n\n文本输入为：北京是中国的首都\n\n从给定的文本中，我们可以抽取以下知识图谱三元组：\n\n。\n\n文本输入：\n\n我很烦，今天的事情太多了。\n\n分类为：\n\n消极\n\n文本输入：\n\n我今天感觉很开心。\n\n分类为：\n\n。
LLM原理与ChatPDF实现详解
"LLM原理与ChatPDF实现.pdf" 这篇文档主要探讨了大模型的原理以及如何实现ChatPDF，特别提到了Transformer、BERT和GPT等模型，还对比了国产的大模型，如百度的文心一言和科大讯飞的星火。文档内容涵盖了从大模型的...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值