根据GEO的GSE数据集编号自动下载和处理GEO数据教程

11 篇文章 1 订阅
11 篇文章 0 订阅

根据GEO的GSE数据集编号自动下载和处理GEO数据教程

NCBI GEO网站介绍

NCBI GEO数据库(Gene Expression Omnibus)是一个全球最大的生物医学领域的公共数据库平台,用于存储基因组学数据,包括基因表达数据、染色质状态和基因组变异等。研究人员可以在该平台上查找、下载和分析各种基因表达数据集,以便进行生物信息学和生物医学研究。NCBI GEO数据库提供了丰富的数据资源和分析工具,是生命科学领域的重要研究工具之一。大量生物医学领域发表的论文使用的公共数据集也一般是来自GEO数据库的数据集。

GEO数据库中的数据集按照一系列预定义的格式和标准进行提交和组织,主要包括以下几种格式:

  1. GSE(Gene Series):表示一个或多个实验的数据集,通常包含多个样本。
  2. GSM(Sample Series):表示单个实验中的一个样本。
  3. GPL(Platform):描述用于实验的数据采集平台的详细信息,包括探针序列、实验条件等。
  4. GDS(Series Matrix File):包含一个GSE或GSM数据集的详细矩阵表格,其中行表示基因,列表示样本,单元格中的值表示基因在样本中的表达水平。

3c9474acc1de856982b12c4fa1c77256.jpeg

配置aria2c高效下载支持断点续传的下载神器来加速GEO的数据下载

该部分的教学视频链接

使用支持断点续传更好用下载神器aria2c在国内也能稳定快速下载GEO数据 : 使用支持断点续传更好用下载神器在国内也能稳定快速下载GEO数据_哔哩哔哩_bilibili使用支持断点续传更好用的下载神器在国内也能稳定快速下载GEO的数据, 视频播放量 44、弹幕量 0、点赞数 1、投硬币枚数 0、收藏人数 2、转发人数 1, 视频作者 邢博士谈科教, 作者简介 OmicsTools 生信电脑软件作者,每晚11点在线直播论文复现教学,提供生信个性化分析科研作图服务,淘宝店:生信研究,相关视频:芬兰数据库的数据查找下载和读取并进行孟德尔随机化分析教程,经典单基因思路:换个基因,照做就行!(含机器学习与小实验),【教程】4907血浆蛋白孟德尔随机化分析,正反双向本地芬兰数据,骨肉瘤为例,当你得知导师即将晋升为院长时…,中药学速记口诀,十五分钟背完中药所有功效 医学生都需要的高效记忆法,帮你解决中医背书难题!中药最强记忆法,常用中药功效的速记歌诀,简直太好背了!,Cell顶刊思路!文章数据代码全公开!空间组学整不明白的抱紧大腿,nature发表的文章润色指令,非常好用!,医学沾边就收!后悔没早点发现这本“神刊”!速来复现这篇文章,本人医学博士已发15篇sci,最近有空想带几个徒弟,学习生信分析!,思路告急的速看!王炸热点重磅组合,19+思路千万不要错过!icon-default.png?t=N7T8https://www.bilibili.com/video/BV1eZ421u7g9

Aria2c软件下载

676bde984aedc63533d1d12e36baced6.jpeg

在D:/omics_tools目录下创建一个aria2的目录,从我的生信q群931846486里下载aria2c.exe软件包到D:/omics_tools/aria2目录下就可,不需要安装,只需要把这个aria2c.exe放到该目录就行了。

654d9b80e53660c1a5f4aa60ce7b9c42.jpeg

配置aria2c的环境变量

环境变量的配置示意图

d62f7d373ead81da453aaa58c944955c.jpeg

检测aria2c的环境变量是否配置成功

新打开一个cmd命令提示符,输入which aria2c, 看看是否会返回aria2c的路径

1f750abb86446155e45595e75d209be3.jpeg

如果成功返回了aria2c的路径,至此,aria2c下载工具就配置完成了。

根据GSE id自动下载处理GEO数据(必须要运行的模块)

该模块的教学视频链接

分析参数详细解释

func_gse__id:要下载的GSE数据集

nested_function:是否嵌套函数

run_file_path: 数据要下载到的目录

run_read_file:是否要读取文件

run_add_save_file_prefix:是否要添加结果保存文件的前缀

提交

参数指定的默认值

func_gse__id: GSE61763 ;

nested_function: TRUE ;

run_file_path: D:/omics_tools/demo_data/res_dir/renal_cancer ;

run_read_file: FALSE ;

run_add_save_file_prefix: FALSE

窗口截图

733b375309c42cccd68bb36800d32b09.jpeg

窗口截图

运行中的显示信息

分析正在执行中,请稍后, 运行结果保存的目录位置为: D:/omics_tools/demo_data/res_dir\res_dir; 运行结果日志保存的路径为: D:/omics_tools/demo_data/res_dir\res_dir\renal_cancer_last_final_run_res_log.csv

运行完成的显示信息

执行已完成,运行结果保存的目录位置为: D:/omics_tools/demo_data/res_dir/renal_cancer; 分析结果日志保存的路径为: D:/omics_tools/demo_data/res_dir/renal_cancer\renal_cancer_last_final_run_res_log.csv

下载整理到的结果文件展示

结果文件列表

08797c7a7c6f3aeea3e3f2cf2a22f698.jpeg

结果文件列表

样本注释文件信息

48174a07e492c65b77188ee221a0e261.jpeg

样本的注释信息文件

基因表达矩阵

1a184cc539960676e55cc2412ba5a72f.jpeg

基因表达矩阵文件

该根据GSE id自动下载处理GEO数据的GEO下载模块的常见问题答疑详解

GEO的数据集格式多种多样,使用该模块下载GEO数据集最好的情况下得到的结果是什么样的?

最好的结果就是下图这样,直接通过该模块点击下载后,会得到下面这些下载提取整理好的文件:

  1. 一次性得到注释好基因名称的表达矩阵文件,如GSE61763_exp_matrix.csv,GSE61763_exp_matrix.rds
  2. 得到样本的注释信息文件: 如GSE61763_sample_info.csv,
  3. 得到从GPL soft注释文件中提取到的基因探针跟基因名称的对应关系的两列数据文件,如GPL191197.soft.gz.gene_anno_sub.tsv文件
  4. 得到了使用表达矩阵,基因注释信息,样本注释信息等数据构建的ExpressionSet对象格式文件,如GSE61763_eset.rds 文件

结果文件列表

ef2fa68601bb7ce5a59357ff2ef8b174.jpeg

GEO的数据集格式多种多样,使用该模块下载GEO数据集第二好的情况下得到的结果是什么样的?遇到这种情况该怎么处理?

下载的结果文件列表

e7686a3b97d8fc6cdc53aa3d239a1668.jpeg

  1. 提取到了GEO数据集的表达矩阵文件,如GSE20842_exp_matrix0.csv,GSE20842_exp_matrix0.rds
  2. 得到样本的注释信息文件: 如GSE20842_sample_info.csv,
  3. 得到了使用表达矩阵,探针信息,样本注释信息等数据构建的ExpressionSet对象格式文件,如GSE20842_eset.rds 文件‘
  4. 但是这个表达矩阵有个问题就是,行名不是基因名称,而是探针名称,所以我对这个文件名称做了一些修饰,如果文件名后缀是exp_matrix0.csv,那么这样的表达矩阵里面基本上是没有注释好基因名称,需要在手动下载一下GEO的GPL文件从GPL文件中提取出基因的注释信息再跟表达矩阵合并,这样的处理作为我也有详细的处理教程来教大家怎么做,如果文件后缀就是exp_matrix.csv,那么就是已经成功把基因名称提取出来并整合到表达矩阵中了。对于没有基因名称只有基因探针的表达矩阵,可以用下面这两个模块进行处理:
  • 739a1943815daabac6f3e742dae4fd3b.jpeg
  • f84ee36000ac3ab3b5c49b63ed105ceb.jpeg
GEO的数据集格式多种多样,使用该模块下载GEO数据集得到的文件比较差的情况是什么样的?遇到这种情况该怎么处理?

比如像这个例子中,只下载到了GSE158055_sample_info.csv这样的样本分组注释信息文件,这种GEO的GSE数据集一般都是没有提供有效的series_matrix文件,导致没法使用GEO下载工具下载,只能进入该GSE数据集的GEO网页下进行手动下载表达数据文件或一个GSEXXX_RAW.tar的压缩包文件。

5481bbdf68b53bc7cde6b9256f6830f2.jpeg

我这里有四个模块可以对转录组或各种平台的基因芯片的RAW.tar压缩包内的多样本表达数据进行整合和处理。

2.根据多个GSE id自动批量下载处理GEO数据

如果大家一次要下载很多个GSE数据集的数据的话,可以使用这个模块进行批量下载多个GSE数据集中的数据。

该模块的教学视频链接

根据多个GSE id自动批量下载处理GEO数据:根据GSE id自动批量下载处理GEO数据_哔哩哔哩_bilibili

根据GSE id自动批量下载处理GEO数据

分析参数详细解释

func_write_download_status:将下载和数据处理是否成功的信息写入到file_path中,默认是TRUE

nested_function:是否嵌套函数

run_file_path:要自动批量下载和处理的带有gse_id列表的文件路径,例如:D:/omics_tools/demo_data/gse_list_info.csv

run_read_file:是否要读取文件

run_add__res__dir:是否要新建结果目录

run_add_save_file_prefix:是否要添加结果保存文件的前缀

run_add__parent__dir:是否在上一级目录下创建目录或保存结果

提交

参数给定的默认值

func_write_download_status: TRUE ;

nested_function: TRUE ;

run_file_path: D:/omics_tools/demo_data/gse_list_info.csv ;

run_read_file: FALSE ;

run_add__res__dir: FALSE ;

run_add_save_file_prefix: FALSE ;

run_add__parent__dir: FALSE

ceed7b879a8a45633a8c37b5861c72e2.jpeg

输入文件信息

窗口截图

96049610f018abb4f23836cbe3ec837a.jpeg

窗口截图

运行中的显示信息

执行中,请稍后, 运行结果保存的目录位置为: D:/omics_tools/demo_data; 分析结果日志保存的路径为: D:/omics_tools/demo_data\gse_list_info_last_final_run_res_log.csv

运行已完成的显示信息

执行已完成,运行结果保存的目录位置为: D:/omics_tools/demo_data; 分析结果日志保存的路径为: D:/omics_tools/demo_data\gse_list_info_last_final_run_res_log.csv

下载结果展示

结果文件列表

c9bc0881fe8a4d22243136a26e24699e.jpegb85a0bc5a9a461a13c14f58239739dbc.jpega4897a14b8e142e7c329ca6be411473e.jpeg

  • 12
    点赞
  • 12
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

邢博士谈科教

你的支持是我创作最大动力谢谢!

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值