金箱 遼

2013.01.30

科学的手法によるCROについて パート①-デザイン最適化-

こんにちは。金箱です。

いま自分が取り組んでいる課題に、ウェブサイトのコンバージョンを最適化する(Conversion Rate Optimization、CRO)ための、科学的手法(Scientific Method)の導入があります。

科学的手法の導入は、客観的に定性的、定量的なデータがサイト改善にどれだけ影響したかが分かるメリットがあります。

今後、この分野について2回に分けて記事を書きます。
今回はそのパート①です。

科学的手法について

科学的手法とは、観測から法則性を導き出す手法のことです。

ウェブの世界では、さまざまな面で人間の感覚に頼らなければいけないため、
どちらが正解か分からないことがたくさんあります。

これはクリエイティブの絡む分野にとって、どうしても避けられない問題です。

しかし、このような複雑性の中から、少しでも確かな正解を導き出すために、科学的手法を用いる理由があります。

日本はウェブで科学的手法の導入が諸外国に比べて遅れていることで有名です。
例として良くamazon.comと楽天のデザイン比較が挙げられます。
(比較しているサイトは多いと思うので、ここでは詳細は省きます)

一方で日本人がこの分野を歴史的に苦手としているかというと、そうでもありません。

日本は長く工業国として、トヨタ生産方式やQC活動などの優れた発明をしてきましたが、
工業的な手法は、まったく同じようにウェブの世界にも活用できるためです。

ウェブの科学的手法について海外の文献を参照すると、良く「Taguchi Method」という単語が登場します。
日本名は品質工学と呼ばれている技法で、製造業で開発設計や生産に用いられることの多い技法です。
ウェブの世界では主に、多変量テスト(後述)の試行回数を減らす目的で使われています。
Google Analyticsのウェブテスト(英語名:Content Experiments)でもタグチメソッドが用いられています。

日本がこの分野で遅れている理由は、優秀な人材がウェブに集まっていないためと言われています。

科学的手法によるCROの代表的なアプローチは、デザイン最適化とサイトパフォーマンスの向上の2つがあります。
この記事(パート①)では、デザイン最適化について触れます。

デザイン最適化について

デザイン最適化の代表的手法は、A/Bテストと多変量テスト(Multivariate Testing、MVT)になります。

A/Bテストとは、その名の通りAとBを比較してどちらが優れているか比較するテストです。
A/Bテストについては、これ以上の説明は不要ですね。

多変量テストとは、複数の変数をたすき掛けしたバリエーションを比較するテストです。
例として次の変数を作ると仮定します。
・見出し:見出し1、見出し2
・テキスト:テキスト1、テキスト2
・画像:画像1、画像2

これを多変量テストするとすると、全部で8(2×2×2)パターンのテストが必要になります。
・見出し1、テキスト1、画像1
・見出し1、テキスト1、画像2
・見出し1、テキスト2、画像1
・見出し1、テキスト2、画像2
・見出し2、テキスト1、画像1
・見出し2、テキスト1、画像2
・見出し2、テキスト2、画像1
・見出し2、テキスト2、画像2

この8パターンから、優秀な組み合わせを見つけるのが多変量テストです。

A/Bテストと多変量テストの違い

A/Bテストと多変量テストは概念的に似ています。
実際に、Google Analyticsのウェブテストでは、同じ機能でA/Bテストも多変量テストも実施できます。

しかし、この2つには決定的な違いがあります。

まず第一に、テスト試行回数の違いがあります。
A/Bテストでは2つのバリエーションをテストするのに対し、多変量テストでは変数を増やすごとに指数関数的にバリエーションが増加します。
多変量テストは、結果に到達するために多くの時間が必要になります。

第二の違いは、A/Bテストは2つのまったく異なるバリエーションに使われます。
一方、多変量テストは既存のデザインを改善して最適化するために使われます。
つまり、A/Bテストは大局的最適化を、多変量テストは局所的最適化を行うために使われます。

以上の違いを理解したうえで、議論の初めにどちらを導入するかを決める必要があります。

次回はサイトパフォーマンスの向上について触れます。