- 博客(7)
- 收藏
- 关注
RSS订阅原创 【so-large-lm】第三章学习打卡
研究表明，大型模型在训练过程中可能受到数据偏见的影响，导致在性能和社会偏见方面存在危害。例如，在名字偏见测试中，模型通常会预测与他们所知名人物相关的名称，对于不太知名的人，效果会减弱。在刻板印象测试中，所有模型都显示出对刻板印象数据的系统偏好，较大的模型往往具有较高的刻板印象得分。衡量偏见的设计决策可能会显著改变结果。理解这些伤害对社会造成的影响需要考虑涉及的社会群体及其状况，例如历史上的边缘化和权力的缺乏。因此，需要采取更广泛的社会技术方法来缓解这些伤害，这个生态系统是大型语言模型的情境环境。
2023-12-14 21:46:06
391
1
原创 【so-large-lm】第二章学习打卡
语言模型的困惑度是基于词序列的联合概率计算得出的。在许多任务上，GPT-3的表现优于其他模型，但在某些任务上，它的表现不如训练有素的模型。GPT-3在Penn Tree Bank数据集上的困惑度为1.92，在WebQuestions数据集上的准确率为79.3%，在TriviaQA数据集上的准确率为78.7%，在HellaSwag数据集上的准确率为79.3%。GPT-3在翻译任务上的表现也相当出色，在英语到法语的翻译任务上，BLEU得分为40.4，在英语到德语的翻译任务上，BLEU得分为37.5。
2023-12-12 21:24:55
399
原创 【so-large-lm】第一章学习打卡
自回归语言模型可以根据给定的提示生成后续的补全文本，温度参数可以控制生成文本的多样性。语言模型的目标是通过构建更好的模型来提高对真实分布熵的估计。还提到了大型语言模型的一些问题和挑战，包括虚假信息的生成、安全性问题、法律考虑、成本和环境影响以及获取问题。介绍了语言模型的发展历史和相关概念，包括自回归语言模型和n-gram模型。我认识到语言模型的发展已经取得了巨大的进展，但也面临着一些重要的问题和挑战。在应用语言模型时，我们需要考虑到虚假信息的风险，以及安全性和法律方面的问题。
2023-12-11 22:21:42
369
原创 Ubuntu18.04跑通ORB_SLAM3(实时USB单目摄像头&本地视频.mp4&官方数据集)
本人小白，寒假期间学习了一些ROS知识，试着在虚拟机搭建ORB_SLAM3环境并跑通数据集和摄像头，作本文以记录学习过程。所有用到的资源（软件安装包，镜像文件，库的源码文件都会放在最后百度网盘链接里）目录0.something you should know1.安装VMware Workstation Pro和Ubuntu18.042.安装ROS3.安装ORB_SLAM3所需的各种库和依赖4.编译ORB_SLAM3并在非ROS环境下跑通数据集&跑自己录制的Video5.编
2022-03-06 20:43:28
5711
12
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人