Aspera:基因组数据高速下载利器,以NCBI和EBI数据下载为例

我们通常用wgetcurl下载文件,然而由于 NCBI 和 EBI 网站都在国外,有时候下载速度非常慢,如果文件特别大,就可能非常难受甚至是不可能完全的任务了,这时可用 aspera 进行高速下载。

安装 Aspera

首先进入aspera 官方网站,找到「IBM Aspera Connect」,进入下载页面,找到对应的版本与平台,这里以 Linux 平台最新的 3.10.0 版本为例进行介绍。

# 下载
wget https://ak-delivery04-mul.dhe.ibm.com/sar/CMA/OSA/092u0/0/ibm-aspera-connect-3.10.0.180973-linux-g2.12-64.tar.gz

# 解压
tar xvf ibm-aspera-connect-3.10.0.180973-linux-g2.12-64.tar.gz

# 解压后得到一个脚本文件,运行该脚本,即可完成自动安装
sh ibm-aspera-connect-3.10.0.180973-linux-g2.12-64.sh

# 所有安装文件都在~/.aspera/connect目录下,添加环境变量
echo 'export PATH=~/.aspera/connect/bin/:$PATH' >> ~/.bashrc

# 使环境变量生效
source ~/.bashrc

# 查看ascp可执行文件所在的路径,应该是:~/.aspera/connect/bin/ascp
which ascp

# 看程序是否能正常运行
ascp -h

高速下载

1. NCBI 数据下载

NCBI 中数据的下载链接通常为

https://ftp.ncbi.nlm.nih.gov/refseq/release/viral/viral.2.1.genomic.fna.gz

需要去除前面的域名,用如下命令下载,注意最后有一个点.,表示文件下载到当前目录并且保持原文件名

ascp -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh -l 100M -k 1 -T anonftp@ftp.ncbi.nlm.nih.gov:/refseq/release/viral/viral.2.1.genomic.fna.gz .
2.EBI 数据下载

同理,从 EBI 网站下载千人基因组数据

ascp -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh -l 100M -T -P33001 fasp-g1k@fasp.1000genomes.ebi.ac.uk:vol1/ftp/release/20100804/ALL.2of4interp.20100804.genotypes.vcf.gz .
3.批量下载

先将要下载的文件的路径放入一个文件file.lst中,比如

/refseq/release/viral/viral.1.1.genomic.fna.gz
/refseq/release/viral/viral.2.1.genomic.fna.gz

然后使用命令

ascp -i ~/.aspera/connect/etc/asperaweb_id_dsa.openssh -l 100M -T -k1 --mode recv --host ftp.ncbi.nlm.nih.gov --user anonftp --file-list file.lst .

「主要参数」

-i 免密从 NCBI 或 EBI 下载的私钥,安装完成就有,位于~/.aspera/connect/etc/asperaweb_id_dsa.openssh

-l 最大下载速度,如 100M

-k 断点续传,通常设为 1

-T 无需加密传输

--host 服务器域名,NCBI 为 ftp.ncbi.nlm.nih.gov,EBI 下载千人基因组为 fasp.1000genomes.ebi.ac.uk

-P 用于 SSH 认证的 TCP 商品,一般是 33001

--user 用户名,NCBI 为 anonftp,EBI 下载千人基因组为 g1k

--mode 传输模式,上传为 send,下载为 recv

「参考」

Aspera 官网:https://www.ibm.com/products/aspera/downloads?list

Aspera 使用说明 1:https://www.ibm.com/support/pages/downloading-data-ncbi-command-line#usage

Aspera 使用说明 2:https://www.internationalgenome.org/faq/how-download-files-using-aspera

「如果你是初学者,可以看看我之前写的生信分析环境搭建教程」

最佳生物信息工作环境

强烈推荐 Windows 平台下生信环境搭配:Windows Terminal + WSL

生物信息基础(一):SSH 应用,如何优雅地登录远程服务器?


如果你喜欢这篇文章,请点个“赞”吧!或者点击“在看”让更多朋友看到,点击“阅读原文”可以在知乎专栏上给我留言

  • 2
    点赞
  • 35
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值