Rnan_prince的博客

LLM训练三部曲：预训练（Pre-training）、有监督微调（Supervised Fine-Tuning, SFT）以及基于人类反馈的强化学习（Reinforcement Learning from Human Feedback, RLHF）。预训练（Pre-training）是预先在大量数据上训练模型以学习通用特征，而微调（Fine-tuning）是在特定任务的小数据集上微调预训练模型以优化性能。

在项目开发过程中加载、启动、下载项目难免会用到进度条，如何使用 Python 实现进度条呢？

python语言用来解析配置文件的模块是ConfigParser，python3中是configparser模块，在使用中经常用到write方法将配置项重新写入文件;结果发现配置文件中的，虽然这个并不影响使用，但配置文件的可读性无疑还是变差了。

缩进是Python中非常重要的一个概念，它用于表示代码块。代码块指的是在控制流语句（如if、while、for等）中被执行的一组语句。Python要求同一个代码块中的所有语句必须使用相同的缩进。在Python中，三引号用于表示多行字符串或文档注释。三引号内的文本可以包含任何字符，包括换行符和引号。在使用三引号表示多行字符串时，Python会将三引号中的所有内容作为一个字符串处理。当使用三引号表示多行字符串时，三引号内的每一行文本的缩进将会被保留。在上面的例子中，每一行文本的缩进都会被保留。

Python提供了float()函数来将字符串转换为浮点型。我们可以使用try-except语句来判断字符串是否可以成功转换为浮点型。如果转换成功，说明字符串为浮点型；如果转换失败，则说明字符串不是浮点型。在上述代码中，我们定义了一个is_float函数，该函数接受一个字符串作为输入，尝试将其转换为浮点型。如果转换成功，即不抛出异常，则返回True；如果转换失败，即抛出ValueError异常，则返回False。

在 Python 众多特性中，有一个特性隐秘而强大，它就是 Python 的 import hook 机制。利用它，我们可以接管 Python 的模块导入流程，实现非常强大的自定义功能，

当我们在运行python程序时，如果希望程序所需要的消耗系统资源不能超过一定的量时，例如CPU利用率不能超过N%。可以使用resource。​​resource 模块用于测量和控制程序使用的系统资源的基本机制​​。：需注意在 win 和 mac环境，该模块可能存在问题，建议linux下使用。

--python setup.py build # 仅编译不安装 --python setup.py install #安装到python安装目录的lib下 --python setup.py sdist #生成压缩包(zip/tar.gz) --python setup.py bdist #生成平台安装包 --python setup.py bdist_wininst #生成NT平台安装包(.exe) --python setup.py bdist_rp

生成对抗样本，即扰动图像，让原本是的信号牌识别为。

Adversarial Robustness Toolbox 是 IBM 研究团队开源的用于检测模型及对抗攻击的工具箱，为开发人员加强 AI模型被误导的防御性，让 AI 系统变得更加安全，ART支持所有流行的机器学习框架 （TensorFlow，Keras，PyTorch，MXNet，scikit-learn，XGBoost，LightGBM，CatBoost，GPy等），所有数据类型 （图像，表格，音频，视频等）和机器学习任务（分类，物体检测，语音识别， 生成模型，认证等）。

在计算机科学中，AST），是源代码的抽象语法结构的树状表现形式，这里特指编程语言的源代码。AST是在处理源代码时所使用的一种中间表示形式，在编译和代码生成过程中起着关键作用。之所以说语法是「抽象」的，是因为这里的语法并不会表示出真实语法中出现的每个细节。AST中的每个节点表示源代码中的一个语法构造，如变量声明、表达式、函数调用、控制结构等。。例如，一个函数声明的AST节点可能包含多个子节点，如函数名、参数列表和函数体等。

在Python中in操作符可以用于判断某个元素是否存在于当前对象中，而对于不同的Python对象，使用in操作符的处理效率是不一样的。针对 4 种常见的Python数据类型进行测试：list、tuple、set、dict。

python中有位置参数、关键字参数、默认参数、非固定参数、Python 中已经使用标记提供了，而使用标记来支持的，还可以提高语言的一致性。对于位置或关键字参数，并不一定要限制将其混合使用。接下来逐一介绍。。。

其实并不相悖，其实左边的赋值也是有顺序的，右边的值计算完成后，为(1, 2)，赋给左边时候，先赋值i=1，然后再执行x[i]=2，即x[1]=2，就出现了如上的结果。Python-再并行赋值时候，会先顺序执行等号右边的表达式，再依次将值赋给左边的变量，上例中，先将右边变量打包成元组，即(2, 1)，然后按照。结果我们发现下被替换的值不是i=0处的值，而是i=1的值，这与我们上面的例子“交换a,b的值”的例子相悖了，为什么呢？，依次将 2 赋值给 a，将 1 赋值给 b。结果是a,b的值交换了顺序。

NumPy使用不当引起的内存泄漏

Numba是一款可以将python函数编译为机器代码的JIT编译器，经过Numba编译的python代码（仅限数组运算），其运行速度可以接近C或FORTRAN语言。普通python语言靠Cython编译的，但是Numba使用Jit编译器可以直接将一个函数转化为机器码。JIT的全称是 Just-in-time，在 numba 里面则特指 Just-in-time compilation（即时编译动态编译（dynamic compilation）：指的是“在运行时进行编译”；

tracemalloc 模块是一个用于对 python 已申请的内存块进行debug的工具。它能提供以下信息:定位对象分配内存的位置按统计python的内存块分配情况: 总大小、块的数量以及块平均大小。对比两个内存快照的差异，以便排查内存泄漏。

返回自纪元以来的秒数作为浮点数，但是时期的具体日期和闰秒的处理取决于使用的平台。比如：在Windows和大多数Unix系统上，纪元是1970年1月1日00:00:00（UTC），并且闰秒不计入自纪元以来的秒数，这也通常被称为Unix时间。我们要可以通过gmtime(0)查看自己平台上的纪元。。虽然此函数通常返回非递减值，但如果在两次调用之间设置了系统时钟，则它可以返回比先前调用更低的值。通常用time()来做时间的格式输出，也会用在一些测试代码时间上面。在我们测试代码的时候需要调用两次，做差值，

强化学习（Reinforcement Learning, RL）是一种机器学习方法，旨在让智能体（agent）通过与环境的交互学习如何做出最优的行动选择以获得最大的累积奖励。