http://zhaohuanan.cc/2020/04/15/11.bioinfo/bioinfo-SRA%E6%95%B0%E6%8D%AE%E4%B8%8B%E8%BD%BD/
应用场景：
如果自己没有测序数据，比如Pacbio数据，nanopore数据等，想要测试一些软件，或者想重复文章的内容，就需要从SRA数据库下载数据。
SRA数据库介绍
https://www.ncbi.nlm.nih.gov/sra/
SRA（Sequence ReadArchive）数据库是NCBI用于存储二代测序的原始数据，包括 454，Illumina，SOLiD，IonTorrent等。
我们经常会看到文献中给出数据名字为SRA然后后面接一些数字。
我们根据这个SRA的ID就可以进行下载了，然后进行数据的分析，重复文献的分析内容 。
根据SRA数据产生的特点，将SRA数据分为四类：
- Studies -- 研究课题
- Experiments -- 实验设计
- Samples -- 样品信息
- Runs -- 测序结果集
这四种分类有一个层次关系。
首先是Studies -> Experiments -> Samples -> Runs。
这也是一个研究项目正常的逻辑关系。
了解这个层级关系，否则找sra数据就会感觉比较混乱。
一个study可能包含多个Experiment，Experiments包含了Sample、DNA source、测序平台、数据处理等信息。
SRA数据库用不同的前缀加以区分：
-
ERP或SRP表示Studies；
-
SRS 表示 Samples；
-
SRX 表示 Experiments；
-
SRR 表示 Runs。
SRA数据下载
sra数据的下载可以通过网页端下载，但是比较不方便。
-
NCBI官方提供了SRA Toolkit软件包来进行下载。https://trace.ncbi.nlm.nih.gov/Traces/sra/sra.cgi?view=software 软件的下载比较容易，都是编译好的版本，选择对应的体统，下载之后解压缩就可以使用了。
-
也可以使用bioconda直接进行安装，需要注意的是软件的名字在bioconda中是sra-tools。
conda install sra-tools
软件的用法也比较简单，根据命名我们就可以看出来，它是一个处理sra格式文件的工具包。可以用来管理和操作sra数据库的资源，里面包含了很多工具。可以处理多种测序平台的数据，这些工具大部分根据命名就知道功能。
- fastq-dump: 最常用的，将SRA数据转换为fastq格；
- prefetch: 下载sra数据
- sam-dump: 将 SRA 转换为sam格式，如果原始数据是sam或bam，就需要使用这个工具；
- sra-pileup: 生成 pileup统计结果，pileup是堆叠的意思，类似于samtools的pileup；
一些不太常用的工具：
-- abi-dump: 处理abi格式数据；
-- sff-dump: 处理454测序数据；
由于abi和454测序数据越来越少，相应的工具也不是特别重要了。
-- illumina-dump: 将sra转换为illumina原始的qseq文件；
-- sra-stat: 统计sra文件
-- vdb-config，vdb-decrypt，vdb-dump，vdb-encrypt，vdb-validate处理vdb格式数据。
这里我们要下载PRJNA553240的数据。
如果想知道数据的具体信息，比如数据是什么样品，采用哪种平台测序的，测序长度是多少，测序深度是多少，都可以到SRA网站上去查。
- 首先可以使用esearch 搜索sra数据库。看这个项目下都有哪些数据。esearch默认的结果是xml格式，需要使用efetch进行解析。efetch来自NCBI另一款工具edirect。
https://blog.csdn.net/zhanyongjia_cnu/article/details/50717717
# 安装
conda install entrez-direct
# 解析路径到文件
esearch -db sra -query PRJNA553240 | efetch -format runinfo >info.csv
image.png
-
这里面有很多数据，选择其中一个作为演示。直接使用prefetch进行下载。如果系统中安装了Asprea，prefetch会调用aspera进行下载，还是很方便的。如果不在默认路径下，可以通过-a选项指定。
-
我们下载一个SRA数据，SRR1972917，直接输入SRA ID即可。
prefetch SRR1972917
检查当前地址，如果没有就在~/ncbi下
image.png
我试了一下应该是prefetch版本问题，mac上的prefetch会直接下载到~/ncbi下，而服务器centos则会下载到当前文件夹
- 若要批量下载csv中的文件，提供一个思路：
首先输入上面得到的info.csv，使用pandas解析表格并且获得Run名称和原文件名，使用prefetch下载文件并命名为原文件名
print ok说明下载正常
print not found说明没找到
print Error 说明遇到了其他问题
zhn写了个小脚本prefetch_download_from_efetch.py
下载地址
image.png
image.png
可以配合screen命令扔后台跑着，这要手动下载不得累死。。
5.注意事项
i. 默认下载的是sra格式数据，可以使用fastq-dump将sra转换为fastq了。
fastq-dump --gzip --split-3 SRR1972917.sra
ii. 其实，也可以直接使用fastq-dump下载数据，下载之后直接即使fastq格式，不过还是选择prefetch比较好，因为sra数据格式比fastq格式占用空间较小，下载速度快；另一方面，sra也方便断点续传。
#直接利用fastq-dump下载数据
fastq-dump --split-files SRR1972917
下载和合并hg19
-
可以去ucsu官网下载
-
这里图方便直接使用它给的tar包
wget ftp://hgdownload.cse.ucsc.edu/goldenPath/hg19/bigZips/chromFa.tar.gz
tar zxvf chromFa.tar.gz
然后只留下我们需要的chr1~22XY，其他都删掉;
image.png
于是。。。。
import os
ls = list(range(1,23))
ls.extend(["X","Y"])
para = ""
for i in ls:
para += "chr%s.fa " % str(i)
print(para)
os.system('cat %s > hg_19.fa' % para)
print('success!')
image.png
然后全删光只留下hg_19.fa即可，less查看一下,
image.png
image.png
网友评论