Allied ArchitectsAllied ArchitectsEngineer Blog

BigQuery × Perfume × tweet分析(Advent Calendar 19日目)

2014/12/19 Google BigQuery

この記事は Google Cloud Platform Advent Calendar 2014 – Qiita
の19日目の記事も兼ねています。

こんにちは。Perfumeエンジニアの@massa142です。
今回の記事は、Google BigQueryに関して前々から気になっていたんで、このAdvent Calendarをきっかけに遊んでみたよっていうのが趣旨です。

やることは、タイトル通り『Perfumeに関するtweet分析』です(`・ω・´)ゞ
7年連続7回目の出場となるNHK紅白歌合戦を間近に控えた、この年の瀬の1週間分のTwitterデータを取得して分析していこうと思います。

Google BigQueryってなに?

BigQueryとは、Google Cloud Platformの大規模クエリサービスです。
詳しくは@naoya_itoさんの以下のスライドをご覧になって下さい。BigQueryの特徴と内部の仕組みがわかりやすくまとめられてます。
Google BigQuery の話 #gcpja // Speaker Deck

公式ドキュメントはこちらです。

本当にざっくりまとめると、こんな感じです。
・Googleが社内でビッグデータを処理するために使用していたDremelをサービス化したもの
・SQLっぽいクエリで分散処理
・処理めっちゃ速い

参考にした書籍 / 記事

今回BigQueryを扱っていくうえで、以下の書籍と記事を参考にしました。

Google BigQueryではじめる自前ビッグデータ処理入門
清野 克行
秀和システム
売り上げランキング: 116,223

 

GoogleCloudPlatform – データインポートとDATASETとTABLEと。 – Qiita
Google Compute Engine を使うための準備(Google Cloud SDK インストール – Linux & OS X 編) – Qiita

Twitterデータ収集

今回Perfumeに関するTwitterデータを集めるために、上記で紹介した書籍でも取り上げられていたmentionというサービスを利用しました。
mentionでは管理画面で設定したキーワードで、SNSからお手軽にデータを引っ張ってきてくれます。
ここで取得したデータをcsvで吐き出して、BigQueryにアップロードします。

今回はこんな感じの設定でデータ取得しました。
Mention

検索キーワード:Perfume || prfm || perfume_um
(prfmとperfume_umはPerfumeに関する投稿で用いるハッシュタグです)

除外キーワード:RT

対象SNS:Twitter 言語:日本語

期間:12/12(金)〜12/18(木)

取得tweet総数:14,728件

サインアップ&設定

あらかじめBigQueryを使えるように、以下からサインアップと設定をぽちぽち行って下さい。
https://cloud.google.com/bigquery/sign-up

ここの「Sign Up for BigQuery」の手順1〜5を辿っていけばOKです。

table作成&データアップロード

1.先ほど作成したプロジェクトのDashboard画面からBigQueryの画面に遷移
(「BigQueryを試す」ボタンをクリックすればOK)
2.適当なDatasetを作成
3.Tableを作成
・ⅰ.Table IDを新規作成
・ⅱ.mentionからエクスポートしたcsvファイルをアップロード
・ⅲ.Schemaは以下を指定

※Schemaで指定できるData typeの種類はPreparing Data for BigQueryで列挙されてます。

・ⅳ.設定オプションは以下の通り

・ⅴ.Submit!!

これで無事、BigQueryにデータをアップロードできましたm(_ _)m
こんな感じの画面が表示されます。

Google BigQuery

tweet分析

データのアップロードが完了してTableができたので、実際にクエリを投げてみようと思います。
今回やることは、
『Pefumeのメンバー3人の名前が、各々どれくらいtweetされているを集計してみよう!』
というものです。

(´-`).。oO(データ分析と銘打っておきながら、大したことやってなくてすみません…)

各クエリの結果と実行時間は以下のようになりました。

Name   Query Count Time
あ〜ちゃん SELECT COUNT(*) FROM [myDataset.Perfume] where title CONTAINS “あ〜ちゃん” or description CONTAINS “あーちゃん”; 270 2.0s
かしゆか SELECT COUNT(*) FROM [myDataset.Perfume] where title CONTAINS “かしゆか”; 582 1.6s
のっち SELECT COUNT(*) FROM [myDataset.Perfume] where title CONTAINS “のっち”; 3432 1.9s

1週間しか集計していないのでデータに偏りがあるかもしれませんが、のっちの人気が圧倒的(ФωФ)

コマンドラインでもできるよ

これまではwebブラウザからBigQueryをいじってきましたが、コンソールからできたほうが楽だと思うんで、bq commandについても触れておきます。

コンソールで扱うためには、まずGoogle Cloud SDKをインストールする必要があります。
このインストール方法に関しては、以下の記事が詳しいので参照して頂ければと思います。
Google Compute Engine を使うための準備(Google Cloud SDK インストール – Linux & OS X 編) – Qiita

※ちなみにbashではない方は、別途pathを通す必要があります。僕はzshを使っているので、zshrcに以下を記述しました。

インストールが完了したら、google cloudにauthログインします。

これを叩くと自動でブラウザが表示されると思うので、それに従って認証を通していって下さい。

ここでようやく、bq commandの登場です。
まずはbigqueryrcファイル初期化のために、おもむろに

と叩いて下さい。

こんな感じで歓迎してくれます。

初期化が完了して、作業を行っていくPROJECTを指定すればOKです。
さっきブラウザでやっていたことは、以下のようなコマンドになります。

最後に

以上、Google BigQueryに関して色々見てきました。
うちの会社ではまだ業務でBigQueryを利用していませんが、Google Analyticsのログ解析としてGoogle BigQueryと連携できるプレミアムプランを導入しようという声もあるので、はやくそうなってくれるといいですね…|ω・)チラッ

この記事は以下の2つのAdvent Calendar 19日目の記事を兼ねています。
Google Cloud Platform Advent Calendar 2014 – Qiita
Allied ArchitectsEngineer Blog Advent Calendar 2014

弊社で行っているAdvent Calendarの明日は@cobonasの番です!

新井 正貴
  • 新井 正貴
  • Software Developer
  • こんにちは。アライドには2013年に新卒で入社しました。 Perfume × ラクロス × エンジニア といった感じです。お手柔らかにお願いしますm(_ _)m

RELATION ENTRY

Instagram開発者に送る、注意すべきAPI規約/ブランド規約まとめ

Instagram開発者に送る、注意すべ...

2015/07/8 Instagram

お久しぶりです。Perfumeエンジニアの@massa142です。 今年のPerfumeはメジャーデビュー10周年、結成15周年というAnniversary Yearを迎えて、大いに盛り上がっています。Perfume Anniversary Website 9月に行われるAnniversary 1...

続きを読む

Ansible入門〜LAMP環境構築〜 (Advent Calendar 6日目)

Ansible入門〜LAMP環境構築〜 ...

2014/12/6 Ansible

この記事は Ansible Advent Calendar 2014 - Qiita の6日目の記事です。 お久しぶりです。Perfumeエンジニアの@massa142です。 (明日はWOWOWでのPerfume Nightです。このために今日WOWOWに加入しました(`・ω・´)キリッ) 仕事...

続きを読む

新井 正貴の記事一覧へ

ページTOPへ