AI相关的整理

整理AI学习，AI小白，业余爱好。持续更新，谨慎参考！

初体验

1. 试了一下本地直接下载安装ollama和open-webui，然后运行指定的模型，跟着文档做，很简单。但16G Mac 运行codellama 7B，响应太慢。整个部署过程倒是加深了一些概念的理解。

2. 使用Google Colab学习Transformers 项目，免费账户也可以体验GPU硬件加速，Google真敞亮。国内魔搭社区也不错,百度BML收费,没去体验。

记不住

一些术语…

• NLP：自然语言处理。 在用户提问和调用推理模型之间，人类语言和模型推理指令之间的转换。比如对用户的自然语言进行分词、词性、句法的处理，可能用到不同的NLP处理模型。
• 模型微调 : 在预训练模型的基础上，使用特定的数据集进行进一步训练，以适应特定任务或领域的需求。

机器学习

模拟人类学习新事物的过程，随着时间推移，不断提高知识储备和技能，让计算机通过算法自行找出(推理)数据之间的关系和模式，而不需要像编程一样明确告知计算机每一行的步骤和指令，这是机器学习和传统编程本质的区别。
人会犯错，但代码不会。在传统编程中，排除设计缺陷和物理故障外，代码的执行逻辑是确定的，输入一个参数，即使代码不运行，通过代码的执行逻辑也可以推导出确定的结果。
但根据前面的叙述，AI在反馈时是通过指定的模型进行推理，既然是推理，就肯定带有不确定性。
查了一下，AI模型在提供反馈时，确实有提供一些指标来评定本次推理结果，比如：

• 置信度（Confidence Score）：表示模型对其推理结果的信心，通常以概率值（0到1之间）呈现；
• 命中率（Hit Rate）：表示模型预测正确的比例，用于评估模型在特定任务上的表现。

如何部署

如何微调