分页: 1 / 1

帮忙写个wget列表下载的脚本

发表于 : 2012-02-09 11:14
baby
我手上有一分5万条记录的文件,每一行一个地址
例如:

代码: 全选

http://aaa.com/1.jpg
http://aaa.com/2.jpg
http://aafdf.cn.df.rar
想用一个脚本自动读取该文件,调用wget, 每成功下载一行,就删除改行
或者当一行下载不了或者不成功的时候,把下载不了的行写入到一个记录文件里面,然后接着下载列表后面的行
在windows下面用迅雷的导入下载列表功能,导入这样大的记录一下子就死机了。。。。。。。

Re: 帮忙写个wget列表下载的脚本

发表于 : 2012-02-09 12:16
wjchen

代码: 全选

wget -o log.txt -nv -nc -i input_file.txt
日志记录在log.txt里面,可以通过grep手段查看未下载成功的文件。-nc表示不会重复下载同样的文件,所以就不必下载一行删除一行了。

Re: 帮忙写个wget列表下载的脚本

发表于 : 2012-02-09 13:41
baby
谢谢,原来wget还有这些个参数,一直以为wget只是一个单线程的简单下载工具,就像ftp里面的get一样

Re: 帮忙写个wget列表下载的脚本

发表于 : 2012-02-09 13:45
qiang_liu8183
ftp里的get也不简单

Re: 帮忙写个wget列表下载的脚本

发表于 : 2012-02-09 13:57
baby
qiang_liu8183 写了:ftp里的get也不简单
ftp里面的get有什么特殊用法阿