Назад | Перейти на главную страницу

CURL - сохранение нескольких HTTP-ответов

Я узнал, что мы можем отправлять несколько HTTP-запросов с помощью CURL, выполнив следующие действия:

curl -I http://linuxbyexample.co.nr http://lne.blogdns.com/lbe

или это:

xargs curl -I < url-list.txt

Как мы можем сохранить все полученные ответы - каждый из них в отдельный файл?

Вы можете использовать -o параметр командной строки для записи вывода в файл вместо стандартного вывода. Вы можете использовать несколько -os например

curl -I http://linuxbyexample.co.nr lbe.co.nr.txt http://lne.blogdns.com/lbe -o lne.txt

Если вы отформатируете urls-list.txt вот так

http://serverfault.com -o serverfault.com.txt
http://example.com -o example.com.txt

он должен работать так, как вы хотите.

$ cat urls-list.txt 
http://linuxbyexample.co.nr 
http://lne.blogdns.com/lbe

$ while read u; do \
    curl -I $u -o $(echo $u | sed 's/http:\/\///' | tr '/' '_').header; \
done < urls-list.txt

$ cat linuxbyexample.co.nr.header 
HTTP/1.1 200 OK
Date: Thu, 24 Nov 2011 03:15:19 GMT
Server: LiteSpeed
Connection: close
X-Powered-By: PHP/5.2.10
Content-Type: text/html
X-Powered-By: PleskLin