クラウドソーシングを使ったオンライン調査・実験:手軽さと質のバランス

博士の日常
この記事は約9分で読めます。
cv-btn

【自分では気づけなかった修士・博士・ポスドクの強み】が分かる!

就活をする多くの院生・ポスドクが共感

  • 研究が忙しいけど就活も妥協したくない
  • 研究を活かした就職をしたい
  • 院生ならではの事例・ノウハウが知りたい

そんな院生・ポスドクのための就活サイト『アカリク』の強み

  • 修士・博士・ポスドク専用の好待遇求人多数
  • あなたの研究を評価してくれる求人企業多数
  • 累計15万人の院生・ポスドクが利用

スタッフの多くが院卒で、10年以上院生・ポスドクの就活支援を行っているアカリクなら【自分では気づけなかった修士・博士・ポスドクの強み】が分かります。【研究】も【就活】も妥協せず成果を出したい方は是非ご活用ください。

アカリクを始める

爆増したオンライン調査

最近の人文社会系の学会発表や論文を見ると、オンライン調査やオンライン実験でデータ収集した研究の数が急速に増えていることがわかります。2020年以前からその傾向は見られていましたが、新型コロナウイルス感染症の流行の影響で、これまで対面で実施されていた実験、調査、インタビューが非常に困難になったことが拍車をかけ、人間を対象とした社会調査・心理尺度測定・意思決定・マーケティングなどの分野の研究ではオンラインによる研究参加者募集とデータ回収が全盛期を迎えました。

 本編では筆者の経験をもとに、クラウドソーシングサービスを使用したオンライン研究参加者募集の基本知識と注意点を紹介します。

クラウドソーシングとは

最近認知度が高くなってきたクラウドソーシングですが、単語自身の意味はオンラインで不特定多数に業務を外注(アウトソーシング)することです。スキャンされたPDFファイルにあるデータをエクセルに入力し整理するような単純作業から、プログラムやWEBサイトの作成、ロゴやポスターのデザインなど、さまざまな形の作業が対象になります。

発注・納品・支払いの一連の作業が全てオンラインで完結することが特徴です。

クラウドソーシング・サービスは発注側と受注側が自分の要求や能力を提示する場を提供しますが、発注に関するやりとりには基本は介入しません。ユーザー数の規模が大きくなるにつれ、従来の直接雇用方式よりも迅速かつ安価にマッチングができます。

また、少なくとも現在の状態では、発注側にとっては直接雇用よりも低いコストで発注が可能であることが多いです。

 本来は企業などが主な発注者ですが、迅速に多数の研究参加者募集を可能にしたことがマーケティングや実験経済学などの分野の研究者を惹きつけ、その後心理学や社会学などの分野でも広く使われるようになりました。

研究者が使う国内外の代表的なクラウドソーシングサービス

英語圏:

 Amazon Mechanical Turk(略してMTurk):アメリカ国内を中心としたサービスです。クラウドソーシングサービスの萌芽期から展開されている事業で、いまでも主要な地位を占めています。当初では支払いや税金関連の法的問題からアメリカ国内にサービスが限定されていましたが、その後はAmazonがサービス展開しているいくつかの国や地域でもサービスを開放しました。

MTurkの日本語版FAQページはこちら:
https://aws.amazon.com/jp/mturk/faqs/

 Prolific:イギリスをはじめヨーロッパ圏をメインに展開されているサービスです。ほかのクラウドソーシングとは違い、アカデミックの件キュ参加者募集に特化しています。そのため、オンライン調査などを行う際に必要な設定機能が充実しており、研究者にとっては痒いところに手が届くありがたい存在です。

 英語になりますが、Prolificの本家のページはこちらです。Blogやユーザー同士が交流するフォーラムでは使い方や経験についての情報が多く見つかります。

https://www.prolific.co

日本国内:

 ランサーズクラウドワークス:日本の一般向けクラウドソーシングサービスの2大巨頭ともいえる立場にあり、どちらも活発なユーザー数を多く保有しています。筆者の経験では登録者の構成・使い勝手・機能・手数料などいずれの点でも根本的な違いを感じませんでした。好みによって使い分けると良いでしょう。

ランサーズ:
https://www.lancers.jp/

クラウドワークス:
https://crowdworks.jp/

 ヤフークラウド:ヤフーが展開するクラウドソーシングサービスです。上の両者に比べると規模が少し小さくなりますが、いくつかの点で独特な機能・設定があります。一つは、ユーザーに対して直接金銭で報酬を提供するのではなく、一旦ポイントという形に換算した上で付与する点です。もう一つは細かい点ですが、ホワイトリスト・ブラックリスト機能が上の2サービスよりも充実しているため、変動報酬型のオンライン実験や同じ回答者を対象とした追跡調査などでは利便性が高いと考えられます。

https://crowdsourcing.yahoo.co.jp/

クラウドソーシングサービスの選択

 まずは、対象とする国・地域・言語・文化圏によって使うサービスが違ってきます。特に多国間比較研究を計画する場合には、それぞれの対象国で主要な地位にあるサービスを特定する必要があります。

 次に、該当サービスが保有している回答者の総数とアクティブな人数、人口統計上の構成(年齢、性別、居住地域、社会階層など)をチェックして、十分に代表性のあるサンプルを提供できるかを確認しましょう。

 第三にはサービス側の料金に関する規定を確認しましょう。回答者へのタスクの報酬基準を規定しているか(例:最低時間単価)や徴収する手数料の割合などについて確認する必要があります。特に手数料は20%〜30%程度取られてしまうことが多いため、研究設計段階からその点を念頭に置いておかないと、実施段階で大変なことになる可能性があります。

 最後に、研究者界隈での評判も収集してみると良いかもしれません。特にオンライン研究では回答者がどのような環境の中で回答するかをコントロールすることができないため、デタラメや不真面目な回答が出る確率は対面実験よりも多いです。そのため、対象のサービスから収集したデータの質の情報について、他の研究者に確認してみるのは必要かもしれません。

クラウドソーシングでデータ収集する流れ

 ここでは最も一般的なオンライン調査の回答者募集を例に、流れを説明します。実施サイトはクラウドワークス、調査所要時間は10分程度、全ての回答者は一律の報酬を獲得するとします。

なお募集するタスクの所要時間、作業内容、支払い方法(固定報酬か変動報酬か)、その他細かい要求によって、流れは多少違いますので、柔軟に対応してください。

下準備

まずはオンライン調査を準備します。クラウドソーシングサイトでは簡単なアンケート項目設置も可能ですが、学術調査の多くにとって力不足です。そのため、通常は別のオンライン調査サイト(Qualtrics, Survey Monkey, Google formなど)で調査を構築したあと、クラウドソーシングサービスで調査URLを提示し、回答者を調査サイトに誘導する方式をとります。

ここで注意すべき点は、クラウドソーシングサービスの回答者が実際に調査に回答したかを照合するための工夫が必要です。SONAシステムとProlificのように、互いの間を自動リダイレクトし、回答者を追跡できるのであればもちろん楽ですが、残念ながら多くのサイトにおいて半手動でチェックを行なう必要があります。具体的に必要なのは、調査画面において回答者のクラウドワークスID(一例)を尋ねることと、最後まで回答を終えた人だけが見える照合コードを発行し、そのコードをクラウドワークス上に納品してもらうことです。これら2つの情報が合わされば、誰がきちんと最後まで回答したかを確認することができます。

*SONAシステムとは限定された範囲を対象とした研究参加者募集システムです。国内外の多くの大学や研究機関で採用されています。
https://www.sona-systems.jp/

次に募集人数、報酬金額、募集対象(年齢や性別比などを制限する必要があるか)などの内容を決め、必要に応じて研究倫理申請手続きを行います。

募集内容の構築

下準備が出来た所で、クラウドソーシングサービス上で募集するタスクを設立します。タスク説明として調査の概要、必要な参加者と参加環境の条件、所要時間、報酬金額などの基本情報を提示する方が望ましいです。

タスクの設定画面で、調査へのURLを組み込みます。筆者の経験からして、誤操作によるトラブルを回避するため、URLは回答者がタスクへの参加意思表示をした(タスクを引き受けた)後に見えるように設定した方が良いです。

募集開始

 設定が全て終わりましたら、タスクを公開します。公開するためにはまずはクラウドソーシングサービス上で仮払い(人数分の報酬+手数料)を行い、その後サービス提供側による確認を待ちます。募集内容に不備や問題がなければ、そのまま募集が開始されます。通常では数時間で許可されますが、深夜や土日では少し時間がかかるかもしれません。

終了後、データ確認と支払い

 所定人数までデータ収集ができた場合、もしくはあらかじめ設定された時間(通常は2週間)の中で回収目標に達成できなかった場合には、募集が終了します。

 その後、調査サイトのデータをダウンロードし、回答者のIDと照合コードを取得し、クラウドソーシング・サービス上で納品されたものと一致するかどうかを確認します。この際、回答に不備(デタラメ回答など)があるかどうかも一緒に確認します。

 問題なく正しいコードを納品した人に対して、「承認」を押してタスク完了を承認します。承認が済むと、相手は報酬を受け取ることができます。万が一不備なデータを提供している人がいれば、非承認としましょう。その場合回答者枠が一つ空きますので、新たに1名の回答者が募集されます。

 全ての承認作業が終わりましたら、最後に領収書などの書類をダウンロードします。一斉配信のタスク型では、全員分まとめて一枚の領収書に示されます。

クラウドソーシングサービスによるデータ回収のメリットとデメリット

メリット:

 最大のメリットはデータ収集の速さと手軽さです。

莫大な登録ユーザー数に支えられているため、通常の大学生を使った実験とは比べものにならないほどの速さでデータが集まります。例えば筆者がクラウドワークス上で募集した15分程度のアンケート調査は、400名のデータが数時間で集まりました。

また、アンケート調査のような個別のやりとりを必要としない一斉配信型タスクは、募集からデータ回収・支払いと領収書発行まで非常にスムーズに進行することが出来、時間の節約につながります。

次に、比較的に安価でデータが入手可能です。現時点では、クラウドソーシング上のアンケート調査などは10分あたり100円またはそれ以下に設定されることが多いですが、通常の対面調査では最低時給賃金以上の金額が必要になります。

デメリット:

 回答者の人口構成の歪みの可能性は否定できません。クラウドソーシングに登録するような人は、一定のIT知識や一般知識を持ち、ある程度の時間的自由を持っている人たちです。それらの人を対象に集めたデータはどこまで代表性があるか、注意して議論する必要があります。

 また、不真面目な回答のスクリーニングと対応が必要です。上にも述べたように、回答者がどのような環境下で行ったか、どれくらい真面目に回答したかは保証がありません。そのため注意度チェック問題などを用いて回答を確認したり、不真面目な回答者を除外したりブラックリストに入れたりなどを行う必要があります。しかし、ブラックリストなどで不真面目な回答をするような人を排除した後に収集されるデータは、「真面目な人」という特異的な人々が提供するものに限定されるので、その妥当性も議論の対象になります。 オンラインデータ収集自体の限界点も注意が必要です。一般的な心理尺度によって構成される質問紙なら、オンラインと紙の質問紙の間の違いは大きくないかもしれません。しかし現在では認知実験や意思決定実験などの、従来では厳密にコントロールされた実験環境下で行われる実験もオンラインで実施されるようになりました。自宅のPCなどから参加した実験データと実験室実験で収集されたデータとの間の一貫性については、これまで多くの議論が交わされてきたましたが、オンライン実験に対する疑念はまだ残っています。実験研究に関しては、できればオンラインのみではなく、実験室での実施も行い、両者の結論の一貫性を確認したほうが良いのではないかと思われます。

[文責・LY / 博士(文学)]

***

新卒大学院生・ポスドクの皆さんの民間就職を、経験豊富なアカリクの就活支援コンサルタントが個別にサポート! まずはご相談ください。

タイトルとURLをコピーしました