CentOS環境の python3.6(pyenv環境)で Scrapy を利用してみる(Scrapy その1)

Scrapy を使ってWebページのデータの取得を行なっています。

環境としてはCentOSのpython3.6(pyenv環境)となります。
[crayon-5dfbfdc244950989730220/]  

ただ、sqlite-develを入れないと後ほど、以下のエラーが出たのでsqliteをインストールして再度python3.6をインストールしておきます。
[crayon-5dfbfdc244963049263485/]  
[crayon-5dfbfdc244968948727681/]  

Scrapyのインストール

さて、それでは Scrapy のインストールを行います。
[crayon-5dfbfdc24496c396056420/]  

Twisted 13.1.0以上が必要のためインストールに失敗しました。

非同期処理のためのフレームワークであるTwistedをインストールしてみます。
[crayon-5dfbfdc244972883985681/]  

pipで入らないようなのでソースからのインストールを行います。
[crayon-5dfbfdc244976106845345/]  

こちらでTwistedのインストールが完了しました。

再度、Scrapyのインストールを行います。
[crayon-5dfbfdc24497a544252549/] 無事インストールが完了しました。

 

プロジェクトの作成

次にプロジェクトの作成を行います。

ここでは「sample_crawler」というプロジェクトを作成しています。
[crayon-5dfbfdc24497f559034890/]  

無事作成されました。

プロジェクトの初期ファイルは以下のようになっています。
[crayon-5dfbfdc244983819078081/]  

ここで大事になるのは以下の3つです。

spidersフォルダ スクレイピング対象の定義など記載したファイルを置く
items.py スクレイピンした後に取得するデータを定義するクラスファイル
settings.py 動作の設定を決める設定ファイル

 

まず、スクレイピング対象の定義ファイルを以下のコマンドで作成します。

「devcolla」という定義ファイルを作り、「developer-collaboration.com」のサイトを対象にしています。
[crayon-5dfbfdc244988306418132/] 「sample_crawler/spiders/devcolla.py」というファイルができます。

ファイルを確認してみます。
[crayon-5dfbfdc24498d615683141/] 「start_urls = [‘http://developer-collaboration.com/’]」の行からクロールが始まっており、こちらは複数のサイトを指定することができます。

こちらの取得したHTMLソースがparse()メソッドの第二引数responseに渡されています。

 

また、「items.py」を見てみます。
[crayon-5dfbfdc244991857535357/] SampleCrawlerItemという定義が空でなされています。

それではまず、「items.py」を以下のように編集してみます。

「title」と「url」を受け取ります。
[crayon-5dfbfdc244995681769495/]  

また、「devcolla.py」は以下のように修正します。
[crayon-5dfbfdc244999907295901/]  

「from sample_crawler.items import SampleCrawlerItem」の行で定義クラスを読み込みます。

「for quote in response.css(‘article.post-list’):」の行で「article.post-list」のCSSのタグのデータを取得しています。

「item = SampleCrawlerItem()」の行で定義ファイルのオブジェクトを生成します。

その下の2行で取得する要素を設定しています。

ここでは記事のタイトルとURLをトップページから取得しています。

 

それでは実際に動かしてみます。

以下のコマンドでスクレイピングすることができます。
[crayon-5dfbfdc24499e297708402/]  

無事、サイトからデータを取得し、クラス定義されたオブジェクトにデータが格納されました。

最初の確認としての使い方は以上になります。

 

★関連記事
Scrapyでデータ取得でクローリングで取得したURLから検索する(Scrapy その2)
CentOS7でscrapy-splashを使ってJavaScriptの解析(Scrapy その3)
Scrapyでデータの保存をmongodbにして見る(Scrapy その4)
CentOS7でscrapy-splashを使ってJavaScriptの解析 その2(Scrapy その5)