massive_jiang的博客

大模型API调用初尝试二科大讯飞—星火认知大模型单轮会话调用多轮会话调用百度—千帆大模型获取access_token单轮会话多轮会话科大讯飞—星火认知大模型星火认知大模型是科大讯飞开发的，直接使用可以点击星火认知大模型，要调用API的话在讯飞开发平台注册，之后点击进入控制台。注册后完成实名认证，可以领取各种新人礼包，白嫖一些tokens！ 之后就去找官方API调用文档，星火大模型的API是通过websocket建立连接然后实现调用的，和通义千问通过HTTP协议调用、智谱AI直接用封装好的pytho

大模型的参数非常庞大，功能非常强大，但是训练成本高昂，因此个人或者小企业自己去训练一个大模型是不可能的。大模型的API就是一个接口，类似MaaS，用户通过调用API访问大模型，获得大模型针对用户prompt（问题）的输出，一般输出是json格式的，然后我们利用这个输出进行后续的操作。上面例子传入大模型的message列表里面，有user的信息，也有assistant的信息，大模型实际响应的只有user对应的content，但是assistant的内容可以为大模型提供一些上下文或者提示。

但是后面的输出是什么？时又会去解析匹配命令行的参数，但是main_train.py的argparse解析器只有两个参数——model和gpu-index，命令行输入的却是——unlearn和seed，自然时无法匹配的，因此就会出现解析错误。另外，Python文件中顶格的代码，即顶层的代码是会被直接执行的，但是定义的class、function等只有在调用的时候才执行。的内容没有执行——即p1.py中的main()函数没有执行，没有输出那一行，因此p2.py中importp1.py，p1.py中的；

也就是即便我的测试数据集没有经过归一化，由于模型还是在model.train()模式下，因此模型的BN层会自己调整，使得模型性能不受影响，因此在测试数据集上的accuracy达到了0.86，我就没有多想。后来我用模型的时候，设置了model.eval()后，依旧是直接用的dataset.data（也就是没有归一化），不管是在测试数据集上还是在训练数据集上，accuracy都只有0.10+，我表示非常的迷茫疑惑啊。由此可见，在model.eval()模式下，数据归一化对最终的测试结果有很大影响。

通过上述torchvision.dataset.MNIST加载数据集之后，因为transform=transforms.ToTensor()，所以最终图像数据是tensor类型；[这里关于pytorch里面如何直接继承Dataset类自定义加载自己本地数据的方法，以及dataset类和dataloder类的关系需要再学习😔]其中细节感觉太过复杂（/(ㄒoㄒ)/~~），在网上看到这篇知乎文章，代码很详细，之后学习！，直接从ubyte文件读取并可视化的，用到了skimage这个库的。MNIST数据集是一个。