Python: 离线批下载安装模块包

写在前面

实验室有一台不联网的大型机,因此只能利用离线安装包来装python. 但这着实令人有点犯难,几百个安装模块如果一个个的手动下载那滋味简直不要太爽。事实上,第一次还真的是这么干的…然而模块更新了…它竟然又又又更新了,鉴于目前模块更新的比重较大,且确实有用,我决心对大型机上的模块包做一次全面的升级。但这次是绝不能再采用手点的办法了(哭笑脸).2019.09.07对程序做了一些修正。

导出需下载的模块包清单

那问题来了,第一步就挺犯难的,该怎样获取需要安装的模块及其版本呢?
我的想法是这样的,需要离线安装python的人,一般而言都有至少一台可以联网的电脑,此外常用python的人可能会在这台联网的电脑上安装python,用于调试或解决不明错误。这样,直接把这台电脑上已安装的所有模块极其版本号导出就可以了。当然了,最好要确保该电脑上已安装的模块是最新版本。批量更新模块的程序如下:

  1. 更换镜像源
# 将pip下载路径更改为清华镜像源(相比于国外网站网速更快)
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple pip -U
pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
  1. 导出模块清单
# 第一种 导出所有第三方模块清单
pip freeze > requirements.txt

# 第二种 仅导出当前依赖项目的模块清单
python -m pip install pipreqs
pipreqs ./ --encoding=utf-8 --force
  1. 对清单中的模块进行批量更新
from pip._internal.utils.misc import get_installed_distributions
from subprocess import call
for dist in get_installed_distributions():
    call("pip install --upgrade --default-timeout=10000 --force " + dist.project_name, shell=True)
  1. 重新导出更新后的模块清单(步骤2)

Python模块批下载方法

# wheel下载与download下载相结合
python -m pip --default-timeout=100 download  -d dirpath -r requirements.txt
python -m pip --default-timeout=100 wheel -r requirements.txt

注:其中dirpath为自定义的模块保存路径。default-timeout是为了防止网速不稳定所引起的断点不续传问题。

Python模块批安装方法

将所需的模块包都下载完成后,即可利用以下代码进行自动安装。

# 自动安装模块包
python -m pip install --no-index --find-links=dirpath -r requirements.txt            

2019-09-05

常用模块 python除了关键字(keywords)和内置的类型和函数(builtins),更多的功能是通过libraries(即modules)来提供的。 常用的libraries(modules)如下: 1)python运行时服务 * copy: copy模块提供了对复合(compound)对象(list,tuple,dict,custom class)进行浅拷贝和深拷贝的功能。 * pickle: pickle模块被用来序列化python的对象到bytes流,从而适合存储到文件,网络传输,或数据库存储。(pickle的过程也被称serializing,marshalling或者flattening,pickle同时可以用来将bytes流反序列化为python的对象)。 * sys:sys模块含了跟python解析器和环境相关的变量和函数。 * 其他: atexit,gc,inspect,marshal,traceback,types,warnings,weakref。 2)数学 * decimal:python中的float使用双精度的二进制浮点编码来表示的,这种编码导致了小数不能被精确的表示,例如0.1实际上内存中为0.100000000000000001,还有3*0.1 == 0.3 为False. decimal就是为了解决类似的问题的,拥有更高的精确度,能表示更大范围的数字,更精确地四舍五入。 * math:math模块定义了标准的数学方法,例如cos(x),sin(x)等。 * random:random模块提供了各种方法用来产生随机数。 * 其他:fractions,numbers。 3)数据结构,算法和代码简化 * array: array代表数组,类似与list,与list不同的是只能存储相同类型的对象。 * bisect: bisect是一个有序的list,其中内部使用二分法(bitsection)来实现大部分操作。 * collections:collections模块含了一些有用的容器的高性能实现,各种容器的抽象基类,和创建name-tuple对象的函数。例如含了容器deque,defaultdict,namedtuple等。 * heapq:heapq是一个使用heap实现的带有优先级的queue。 * itertools:itertools含了函数用来创建有效的iterators。所有的函数都返回iterators或者函数含iterators(例如generators 和generators expression)。 * operator: operator提供了访问python内置的操作和解析器提供的特殊方法,例如 x+y 为 add(x,y),x+=y为iadd(x,y),a % b 为mod(a,b)等等。 * 其他:abc,contextlib,functools。 4) string 和 text 处理 *codecs:codecs模块被用来处理不同的字符编码与unicode text io的转化。 * re:re模块用来对字符串进行正则表达式的匹配和替换。 * string:string模块含大量有用的常量和函数用来处理字符串。也含了新字符串格式的类。 * struct:struct模块被用来在python和二进制结构间实现转化。 * unicodedata:unicodedata模块提供访问unicode字符数据库 5) python数据库访问 * 关系型数据库拥有共同的规范Python Database API Specification V2.0,MySQL,Oracle等都实现了此规范,然后增加自己的扩展。 * sqlite3: sqlite3 模块提供了SQLite数据库访问的接口。SQLite数据库是以一个文件或内存的形式存在的自含的关系型数据库。 * DBM-style 数据库模块python提供了打了的modules来支持UNIX DBM-style数据库文件。dbm模块用来读取标准的UNIX-dbm数据库文件,gdbm用来读取GNU dbm数据库文件,dbhash用来读取Berkeley DB数据库文件。所有的这些模块提供了一个对象实现了基于字符串的持久化的字典,他与字典dict非常相似,但是他的keys和values都必须是字符串。 * shelve:shelve模块使用特殊的“shelf”对象来支持持久化对象。这个对象的行为与dict相似,但是所有的他存储的对象都使用基于hashtable的数据库(dbhash,dbm,gdbm)存储在硬盘。与dbm模块的区别是所存储的对象不仅是字符串,而且可以是任意的与pickle兼容的对象。 6)文件和目录处理 * bz2:bz2模块用来处理以bzip2压缩算法压缩的文件。
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值