A-Itfuture的博客

原创 No supported authentication methods available,Linux-SSH连接错误解决方案

执行命令 vi /etc/ssh/sshd_config，按下 i 编辑SSH服务配置文件，将参数 PasswordAuthentication 设置为 yes，或者在 PasswordAuthentication 参数前添加井号（#），按下 Esc 退出编辑模式，并输入 :wq 保存退出。（说明：如果您使用CentOS 6的镜像，则执行service ssh restart命令，重启SSH服务。ssh工具连接时，登陆类型选择“秘钥文件”，输入用户名，并使用ssh秘钥。如果是云服务器，可以尝试提交工单。

原创 VirtualBox不显示虚拟机列表,且vagrant已成功创建虚拟机Bringing machine ‘default‘ up with ‘hyperv‘ provider

使用vagrant创建三个虚拟机，并且命令行显示创建启动成功，没任何问题。然后，使用VirtualBox可视化界面，并不显示创建的这几个虚拟机。

原创 Spring AI之后，阿里推出Spring Cloud Alibaba AI，接入体验篇——Java也能方便用 AI

通义接入是基于阿里云 灵积模型服务，灵积模型服务建立在“模型即服务”（Model-as-a-Service，MaaS）的理念基础之上，围绕 AI 各领域模型，通过标准化的API提供包括模型推理、模型微调训练在内的多种模型服务。Spring AI 的灵感来自著名的 Python 项目，如 LangChain 和 LlamaIndex，但 Spring AI 并不是这些项目的直接移植复制。，包括业界大多数主流大模型服务等，如OpenAI，Microsoft，Amazon，Google和Huggingface；

原创 Ai框架Spring Cloud Alibaba Ai引入maven依赖报错Unresolved dependency: ‘org.springframework.ai:spring-ai-core:

原始的Spring AI并没有国内相关大模型的接入，对国内开发者不太友好。总的来说，Spring Cloud Alibaba AI 目前基于Spring AI 0.8.1版本 API 完成通义系列大模型的接入。于是，根据官方文档进行一次尝鲜体验！

原创 spring AI来啦

原创 【数据库备份完整版】物理备份、逻辑备份，mysqldump、mysqlbinlog的备份方法

注意：–dump-slave命令如果当前服务器是从服务器那么使用该命令会执行stop slave来获取master binlog的文件和位置，等备份完后会自动执行start slave启动从服务器。但是如果是大的数据量备份会给从和主的延时变的更大，使用–dump-slave获取到的只是当前的从服务器的数据执行到的主的binglog的位置是（relay_mater_log_file,exec_master_log_pos),而不是主服务器当前的binlog执行的位置，主要是取决于主从的数据延时。

原创 【idea-jdk1.8】使用Spring Initializr 创建 Spring Boot项目没有JDK8

2022年，Spring Framework 6.0和 SpringBoot 3.0都会推出，在此之前，Java社区很坚挺，一直是"新版任你发，我用Java 8"，不管新版本怎么出，很少有人愿意升级。其实，早在2021年9月份，关于 Spring Framework 6.0的消息出来的时候，Spring 官方就已经明确了不会向下兼容，最低的 JDK 版本是 JDK 17。这一次，Spring 直接来了个大招，跨过 JDK 8-16，直接升级到 JDK 17。去官网看了下，原来是因为。

原创 git commit -am 竟然第一次知道

git本地仓库文件路径发生变化！！远程仓库如何同步！

原创 npm需要管理员权限才能执行npm i的问题(解决无法执行npm install的问题)npm ERR! syscall open npm ERR! path D:\nodejs\node_cache

1.找到nodeJs的安装目录，如我的位置为D:\Node\nodejs，单击nodejs目录，右键，选择属性。每次安装都要用管理员身份运行，主要因为安装nodejs时没有授予写的权限，找到nodejs文件夹更改权限即可。最后，再次使用vscode执行npm install…根据提示，缓存文件ERR！，那么应该就是写文件的错误！今天，在使用vscode安装依赖的时候，突然提示如下错误！又可以，所以npm肯定是安装好的，那么问题会在哪！果然，我使用cmd管理员进入该文件目录下，执行。可以看到确实没用写权限！

原创 【MySQL】窗口函数原理，与where、group by关系

首先，你需要定义一个窗口，它决定了窗口函数将作用的数据范围。窗口可以基于行号、分区键或排序键来定义。

原创 Linux中每当执行‘mount’命令(或其他命令)时，自动激活执行脚本：输入密码，才可以执行mount

这个包装器脚本会首先提示用户输入密码，如果密码正确，则执行实际的。此外，如果你的系统有多个用户，你可能需要为每个用户设置不同的密码，或者使用集中式认证系统。）需要管理员权限，并且可能会影响系统的稳定性和安全性。务必谨慎操作，并确保你完全理解每一步的后果。另外，出于安全考虑，不建议将明文密码存储在脚本中。可以考虑使用更安全的方法来验证密码，如使用。脚本的路径添加到系统的PATH环境变量中，或者创建一个符号链接，使得。在这个脚本中，首先提示用户输入密码，并进行验证。的脚本文件，这个文件将作为。

原创 linux设置挂载指定的usb，自动挂载

使用udev规则可以提供更灵活的控制，例如，您可以在脚本中添加额外的挂载选项或条件。在Linux系统中，如果您只想让系统挂载特定的USB设备，而忽略其他的USB设备，可以通过创建自定义的。另外，如果您想要挂载特定的USB设备，您需要在udev规则中添加挂载命令，或者在。创建一个udev规则文件，当指定的USB设备连接时，自动执行挂载脚本。首先，您需要确定您想要挂载的USB设备的属性，如供应商ID（命令列出所有已连接的USB设备，并找到您想要指定的设备。找到您的USB设备的条目，并复制其UUID。

原创 Linux提示：mount: 未知的文件系统类型“ntfs”

时，确保您使用的是最新版本，因为它对NTFS文件系统的支持最为完整。此外，NTFS文件系统在Linux下的写入权限可能需要额外的配置，特别是如果您需要以非root用户身份写入该文件系统。在Linux系统中，如果遇到“mount: 未知的文件系统类型‘ntfs’”的错误，这通常意味着您的系统没有安装支持NTFS文件系统的软件。首先，确定您的NTFS设备名称，通常是。条目，您可能需要重新挂载所有配置的文件系统或重启系统以使更改生效。找到您的NTFS设备的UUID，然后将其添加到。替换为您的设备名称，

原创 在Linux/Ubuntu/Debian中加密磁盘（U盘）

如果你正在考虑加密 Linux 系统上的根分区或主分区，则可能需要执行其他步骤，建议你查阅你的发行版文档，以获取有关在安装过程中设置加密分区的指导。● 格式化后，映射设备（/dev/mapper/crypto_disk）的行为与任何其他块设备一样。● 此命令打开 LUKS 加密设备 (/dev/sdX) 并将其映射到名为“crypto_disk”的新设备。● 映射设备（/dev/mapper/crypto_disk）将用作加密数据的解密视图。● 完成此步骤后，你将拥有一个格式化、加密且随时可用的设备。

原创 Yarn vs npm的大同小异&Yarn是什么？

目前看来 Yarn 要比 npm 更好用：默认就有锁定文件、更快速地安装依赖以及依赖的更新会自动同步到 package.json 文件中。从 npm 迁移到 Yarn 成本几乎为零，以上优点都让 Yarn 成为了目前 npm 最好的替代品。

原创 关于openai和chatgpt、gpt-4、PyTorch、TensorFlow 两者和Transformers的关系

所以说，PyTorch和TensorFlow是深度学习框架，而Transformers是一个基于这两个框架之一的库，专注于提供预训练的Transformer模型和相关工具。近两年，随着人工智能的火爆，不论通过哪个渠道，相信我们都听说过openai、gpt等这类名词，那么它们到底是什么意思，请看下文。开发的深度学习框架，它提供了丰富的工具和API，使得构建和训练神经网络变得更加简单和高效。Transformers库为自然语言处理任务提供了方便的API和工具，使得使用和微调预训练模型变得更加简单和高效。

原创 【Docker】Docker资源(创建容器)CPU/内存/磁盘IO/GPU限制与分配教程

docker资源（创建容器）对CPU、内存、磁盘IO以及GPU的限制和自定义分配管理等方法总结......

原创 【Anaconda】Linux下Anaconda安装和虚拟环境配置

注：.yaml文件移植过来的环境只是原来环境里用conda install命令安装的包，pip安装的库可能不会移植过来，需要重新安装。接下来提示安装位置，默认是/root/anaconda3，如果需要改位置，则输入路径即可！接下来是协议之类的阅读文章，按↓下键或者S键，直到出现yes/no，输入yes。：安装Miniconda，占用空间要比Anaconda3小很多，大概有3GB。conda导出已有的环境，保存在myenv.yaml文件中。查看已经存在的环境，前方带有*的为正在使用的虚拟环境。

原创 【AI模型-机器学习工具部署】远程服务器配置Jupyter notebook或jupyter lab服务

随着AI人工智能的崛起，机器学习、深度学习、模型训练等技术也慢慢泛化，java开发有idea，web开发有vscode，那么AI开发神器肯定离不开jupyter lab（基础版jupyter notebook））,这里可以用vim或者用相关ftp工具下载下来修改再覆盖，或者vscode ssh远程连接直接修改.这里你输入的密码，也是后面登入你服务器jupyter的密码，需牢记！python3进入交互模式 ，见图输入以下内容，设置好密码过后。会自动生成一个Verify password复制保存下来！

原创 【Linux】Linux查看物理CPU个数、核数、逻辑CPU个数，以及内存情况

总核数 = 物理CPU个数 X 每颗物理CPU的核数总逻辑CPU数 = 物理CPU个数 X 每颗物理CPU的核数 X 超线程数。

原创 jupyter notebook或jupyterlab运行于/切换指定的conda虚拟环境或显示所有环境方法

Jupyter 在一个名为 kernel 的单独进程中运行用户的代码。kernel 可以是不同的 Python 安装在不同的 conda 环境或虚拟环境，甚至可以是不同语言（例如 Julia 或 R）的解释器。

原创 【K8S】docker和K8S(kubernetes)理解？docker是什么？K8S架构、Master节点 Node节点 K8S架构图

docker爆火的原因——轻！，K8S，就是基于容器的集群管理平台，Build、Ship and Run”（构建、运输(发送)、运行）、“Build Once, Run anywhere”（一次构建，多处运行）

原创 Linxu系统docker版本升级或安装

当要以非root用户可以直接运行docker时，需要执行 sudo usermod -aG docker runoob 命令，然后重新登陆，否则会报错。确定已经安装curl命令，没有安装，则运行。（推荐镜像导出，但后面得重新部署），以免升级后丢失或者无法使用。如有正在运行的容器，先停止。查看已经安装的docker。安装docker最新版本。关闭docker服务。

原创 【PostgreSQL】Postgresql数据库密码忘记的解决方法

（这里修改成功后会直接跳过输密码的过程）（注意，命令最后的分号不能省）

原创 docker启动失败：failed to create task for container:... not a directory: unknown: Are you trying to mount

docker启动失败： failed to create task for container: ...not a directory: unknown: Are you trying to mount a directory onto a file (or vice-versa)

原创 【MySQL】lower_case_table_names作用及使用

在使用dataease时，连接外部数据库，启动报错！后查看官方文档，特别要求改数据库配置文件：lower_case_table_names = 1，之后，果然启动使用正常。知识点： lower_case_table_names 是mysql设置大小写是否敏感的一个参数。在mysqld下 添加或修改 lower_case_table_names = 1 之后重启数据库。根据自己需求，更改配置文件即可！更改数据库参数文件my.cnf。

原创 sql判断NULL值：IF()、IFNULL()、NULLIF()、ISNULL()函数的区别使用

如果expr1的值为true，则返回expr2的值，如果expr1的值为false，则返回expr3的值。，如果expr1的值为NULL，则返回expr2的值，如果expr1的值不为NULL，则返回expr1的值。，如果expr1=expr2成立，那么返回值为NULL，否则返回值为expr1的值。，如果expr的值为NULL，则返回1，如果expr1的值不为NULL，则返回0。关于MySQL中对于NULL值的判断以及替换等问题中，我们可以使用。

原创 开放Gemma而非“开源”，谷歌为何转变大模型竞争策略?

很明显，Gemma代表谷歌大模型策略的转变：兼顾开源和闭源，开源主打性能最强大的小规模模型，希望脚踢Meta和Mistral；关于大模型的开源和闭源，我认为如果想发展大模型还是得比模型规模，这方面开源模型相对闭源模型出于明显劣势，短期内难以追上GPT 4或GPT 4v，且这种类型的大模型，即使是开源也只能仰仗谷歌或者Meta这种财大气粗的大公司，主要是太消耗资源了，一般人玩不起，国内这方面阿里千问系列做得比较好，肯把比较大规模的模型开源出来，更提供了modelscope这样的平台促进技术交流，属实难得。

原创 cannot import name ‘xxxx‘ from partially initialized module ‘xxxx‘ (most likely due to a circula

查看导入包的依赖逻辑，排查问题，可能依赖先后顺序问题，也可能有重名问题，具体得根据依赖关系来排除！就我的问题来说是因为我的代码文件名为openai，重名，所以出错！

原创 【SQLite】快速使用sqlite实现数据库操作_python版

总的来说，SQLite适用于那些需要轻量级数据库解决方案的场景，比如移动应用、嵌入式设备或者当需要一个简单且易于部署的数据库时。由于其轻量和易于集成的特点，SQLite在开发者中非常受欢迎。，它遵守ACID的关系型数据库管理系统。

原创 apt-get install 报错：E: Error, pkgProblemResolver::Resolve generated breaks, this may

mentohust:i386 : 依赖: libpcap0.8:i386 但是它将不会被安装 或。wps-office : 依赖: libc6:i386 (>= 2.12) 但是它将不会被安装。依赖: libfreetype6:i386 (>= 2.4) 但是它将不会被安装。依赖: libglu1-mesa:i386 但是它将不会被安装。依赖: libxrender1:i386 但是它将不会被安装。依赖: libcups2:i386 但是它将不会被安装。依赖: libsm6:i386 但是它将不会被安装。

原创 autodl运行ollama报错Failed to connect to bus: Host i&Error, pkgProblemResolver::Resolve generated breaks

发生故障，这可能是有软件包被要求保持现状的缘故。E: 无法更正依赖关系。如果显示没有"aptitude"这个命令，安装它。其实是未安装systemctl；再次安装，问题解决！

原创 【根据loss曲线看模型微调效果】如何使用loss曲线诊断机器学习模型性能

如下图所示，overffit时候training loss一直在不断地下降，而validation loss在某个点开始不再下降反而开始上升了，这就说明overfit，我们应该在这个拐点处停止训练。下图也是Underfit情况，这种情况的特点是在训练结束时候training loss还在继续下降，这说明还有学习空间，模型还没来得及学就结束了。然后我们就得到了一个Underfitting模型，如下图所示，在训练结束的时候training loss还在下降，这说明模型还未学习充分。

原创 大模型基础：PT预训练，SFT有监督微调 基础知识

记住进入transfomer前后数据的维度不会发生变化，把transfomer当作一个黑盒，也就是transformer(X)的维度还是（1，10，768），接下来就是基于它来进行预测了，因为要预测哪个词，词的可能情况就是词表的大小，所以做的就是一个分类任务，预测下一个token是词表中的哪一个（词表中的每一个词当作一个类别）。现在模型的输入的维度为(1,10)，第一维为batch_size，然后经过embedding层后变为(1,10,768)，这里假设embedding的维度为768。

原创 【大模型评测】常见的大模型评测数据集

同时评测分为两部分，自动化评测的客观题部分和依赖于专家打分的主观题部分，这两部分结果构成了最终的分数，您可以通过构建示例中的脚本快速对一个已部署的大模型进行评测，或者向我们提交您需要评测的模型的主观题预测结果，进行我们人工评分的流水线操作。表述为带有二元选项的填空任务，目标是为需要常识推理的给定句子选择正确的选项。MMLU 是一个包含了 57 个子任务的英文评测数据集，涵盖了初等数学、美国历史、计算机科学、法律等，难度覆盖高中水平到专家水平，有效地衡量了人文、社科和理工等多个大类的综合知识能力。

原创 【git】git更新远程分支到本地

【代码】【git】git更新远程分支到本地。

原创 GitHub访问慢：分享两个镜像加速网站

GitHub网站，不知道是不是因为我的网络问题，最近一直断断续续，不稳定。非常难受。找到两个镜像网站，使用体验很不错，作以分享！

原创 Qwen-7B-Chat-lnt4微调报错：Found modules on cpu/disk. Using Exllama or Exllamav2 backend requir...解决方法

需要修改一下模型下的文件：config.json。

原创 使用ModelScope运行或者微调模型&ModelScope国内一个“模型即服务”(MaaS)平台

针对不同任务、不同模型抽象了统一简洁的用户接口，3行代码完成推理，10行代码完成模型训练，方便用户使用ModelScope社区中多个领域的不同模型，开箱即用，便于AI入门和教学。构造以模型为中心的开发应用体验，支持模型训练、推理、导出部署，方便用户基于ModelScope Library构建自己的MLOps.针对模型推理、训练流程，进行了模块化的设计，并提供了丰富的功能模块实现，方便用户定制化开发来自定义自己的推理、训练等过程。

原创 【Hugggingface.co】关于huggingface.co无法访问&大模型下载运行报错解决We couldn‘t connect to ‘https://huggingface.co‘ to.

如果你忘了打开tmux窗口也没关系，可以按ctrl-z暂停任务，再打开tmux，重新运行python model_download.py --repo_id 模型id 这行下载代码，可继续下载。如图所示，会给出相应的下载代码：python model_download.py --repo_id baichuan-inc/Baichuan2-7B-Chat。请添加–token hf_***参数，其中hf_***是 access token，请在huggingface官网这里获取。速度大约是2M/s.