本文へ移動
試験

  1. 高校情報
  2. 読んで分かる ITパスポート・基本情報
  3. 企業活動
  4. 第4章 データ利活用

企業活動 第4章 ストラテジ系・大分類:企業と法務

データ利活用

データを集めて整え、分析の流れに乗せ、統計で偏りを確かめ、図や表で正しく伝える方法。

4-1データの種類と集め方

10月の終わり、閉店後のこむぎ堂の作業台に、紙とデータの束が四つ並びました。通販の購入履歴を書き出したファイル、店頭で配ったアンケートの用紙、店長が3年間つけてきた天気と売上のノート、そしてタブレットに映したSNSの口コミです。店長が知りたいことは二つでした。「雨の日に何が売れるのか」と「新作のかぼちゃパンは、だれに受けているのか」。ミナトが購入履歴を開くと、同じ常連のお客さんが漢字とカタカナとローマ字の3通りの名前で登録されていました。試しに作った棒グラフを見せると、店長は身を乗り出します。「かぼちゃパン、クロワッサンの倍は売れてるじゃないか」。ところが相棒の返事は「縦軸の目盛りがどこから始まっているか見て」でした。材料はそろっているのに、どこから手を付ければいいのか、ミナトにはまだ見えていません。

閉店後のパン屋の作業台に、アンケート用紙の束、レシートの束、天気と売上を書いたノート、SNSの口コミを映したタブレットが散らばり、アルバイトの高校生がノートPCの前で頭を抱えている
図:作業台に集まった四つのデータ。形式も書き方も、ばらばら

四つの束は、どれも「データ」と呼べます。ただ、集め方がそれぞれ違います。集め方が違えば、そのデータで言えることも違ってきます。まずは集め方で分けてみます。

店頭のアンケートのように、質問を用意して答えてもらい、調べることで得たデータを調査データといいます。これに対し、条件を自分で決めて変えながら試し、その結果として得たデータは実験データです。かぼちゃパンを試作したとき、焼き時間だけを18分・20分・22分と変えて焼き色と食感を比べた記録は、実験データにあたります。ほかの条件をそろえているので、違いが焼き時間から来たと言いやすくなります。

人が動いた跡が、そのまま記録として残るデータもあります。通販サイトでの購入の履歴、どのページを何秒見たかという閲覧の記録、スマートフォンの位置の移動のように、人の行動を記録してためたものを人の行動ログデータといいます。機械にも同じような記録があります。オーブンが何時から何時まで動き、庫内が何度だったか、いつエラーで止まったか。こうした機械や設備の稼働の状況を記録したものが機械の稼働ログデータで、温度などを測るセンサをつないだ IoT の仕組みで集めることが多くなっています。

場所と結びついたデータもあります。通販の配達先の住所を地図上の点にすると、どの地区からの注文が多いかが見えてきます。地図の上の位置(緯度と経度、区域の形など)と結びつけて管理し、分析するデータをGISデータといいます。GIS は Geographic Information System(地理情報システム)の略です。

ここから基本情報!SNS から集まるデータ

タブレットに映した口コミのように、SNS やブログなどに利用者が書き込んだ投稿、コメント、「いいね」などの反応から得られるデータをソーシャルメディアデータといいます。お客さんが店に頼まれずに書いた感想なので、アンケートでは出てこない本音が見つかることがあります。その一方で、書き込むのは一部の人だけで、文章の形もそろっていません。

基本情報の範囲ここまで

同じデータを、中身の性質で分けることもできます。売れた個数、金額、気温のように、数で大小や量を測れるデータを量的データといいます。アンケートの「買った理由(味・値段・見た目)」や「住んでいる地区」のように、数ではなく種類や性質で分けて表すデータは質的データです。質的データに「味=1、値段=2」と番号を振っても、番号の平均を出すことに意味はありません。番号はただの名札だからです。

だれが、何のために集めたかでも分けられます。こむぎ堂が自分の目的のために自分で集めたアンケートや試作の記録は1次データです。気象庁が公開している過去の天気の記録のように、ほかの人や組織が別の目的ですでに集めて公開しているデータを、自分の目的のために使うとき、それを2次データと呼びます。2次データは手間をかけずに手に入りますが、自分の知りたいことに合わせて集めたものではないので、項目や細かさが合わないことがあります。

時間との関係で分けることもあります。バゲットの毎日の売上を、3年分、日付の順に並べたものは時系列データです。時間の流れに沿って記録されているので、増えているのか、季節で波があるのかが分かります。これに対し、10月のある1日について、商品ごとの売上を横に並べたデータはクロスセクションデータ(横断データ)です。ある一つの時点で、複数の対象を比べるためのデータです。

四つの束には、もう一つ大きな違いがありました。通販の購入履歴は、日付・商品・個数・金額が決まった列に並んだ表です。このように、行と列の形が決まっていて、そのまま表計算やデータベースで扱えるデータを構造化データといいます。口コミの文章や、お客さんが投稿したパンの写真は、決まった形を持ちません。こちらは非構造化データです。そして、ファイルごとに「いつ・だれが・どうやって集めたか」「この列の単位は何か」を書き添えた、データについてのデータをメタデータといいます。店長のノートには「売上」とだけあって、それが個数なのか金額なのかが書かれていませんでした。メタデータが無かったのです。

ここから基本情報!Web から集める、ばらばらに置かれる

近くの店のパンの値段を調べたいとき、Webページを一枚ずつ開いて書き写すのは大変です。そこで、プログラムにWebページのリンクを次々とたどらせ、多くのページを自動で巡回して集めることをWebクローリング(クローリング)といいます。検索エンジンが世界中のページを集めるのも、この仕組みです。集めたページの HTML を解析し、商品名と値段のように要る情報だけを抜き出すことをスクレイピング(Webスクレイピング)といいます。どちらも、相手のサイトの利用規約で禁じられていないか、短い間に大量にアクセスしてサーバに負担をかけないか、集めた文章や画像の著作権に触れないかを確かめてから行います。

こむぎ堂では、通販の購入履歴は通販の担当者のパソコンに、天気と売上は店長のノートに、アンケートは段ボール箱にしまわれていました。部門やシステムごとにデータが別々に持たれ、組織の中で共有も連携もされずに孤立している状態をデータのサイロ化といいます。サイロは穀物を貯めておく塔のことで、塔どうしの中身が混ざらないことにたとえた名前です。サイロ化を解くために、形式をそろえる前の生のデータを、構造化・非構造化を問わずそのまま1か所にためておく置き場をデータレイクと呼びます。

基本情報の範囲ここまで

自分で集めたデータだけで足りないときは、公開されたデータを使う手があります。国や自治体、企業が、だれでも使えるように公開しているデータをオープンデータといいます。日本政府の「オープンデータ基本指針」(2017年決定、最新は2024年(令和6年)の改正)は、国・地方公共団体・事業者が持つデータのうち、営利・非営利を問わず加工や再配布などの二次利用ができるルールで公開されていること、コンピュータのプログラムで読み取って処理しやすい(機械判読に適した)形式であること、無償で使えること、の三つを満たすデータをオープンデータとしています。町が公開している地区ごとの人口や世帯数は、配達先の多い地区と比べるのに使えます。

一方、通販の購入履歴には、会員の名前や住所と、何をいつ買ったかが結びついています。個人に関わる情報をまとめてパーソナルデータと呼びます。氏名や住所のように特定の個人を見分けられる「個人情報」のほか、それだけではだれか分からなくても個人に関わる購買の履歴や位置の情報なども含む、広い言葉です。パーソナルデータは役に立つ分、扱いを誤ればお客さんの信用を失います。何に使うかを伝え、使う範囲を守ることが前提になります。

大量で、種類もさまざまで、次々と生まれ続けるデータをまとめてビッグデータと呼ぶことがあります。総務省の情報通信白書(平成29年版)は、ビッグデータをデータを持つ主体で4種類に分けており、オープンデータとパーソナルデータはそのうちの二つです。残りの二つは、企業が持つ産業のデータです。こむぎ堂の四つの束は、ビッグと呼ぶには小さいものの、種類の多さとばらばらな形という点では、同じ悩みを抱えていました。

4-2データの前処理

ミナトは、購入履歴とアンケートと天気のノートを一つの表にまとめようとしました。ところが、同じお客さんが「佐藤 みのり」「サトウミノリ」「Sato Minori」の3人に分かれています。ノートには、臨時休業した日の欄が空いたままの所があり、バゲットが「300個」売れた日や「−5個」の日まで混じっていました。相棒は「分析の前に、表をきれいにする時間をとろう。だいたい、そこがいちばん長い」と言いました。

集めたままのデータは、たいてい分析にそのままは使えません。分析の前に形と中身を整える作業を、前処理と呼びます。こむぎ堂の表で起きていたことは、前処理で扱う典型的な問題のいくつかを含んでいました。

一つめは、同じ人が何人にも分かれている問題です。表記の揺れや入力のしかたの違いで別々に登録された、同じ人や同じ会社のデータを見つけ出し、一つにまとめることを名寄せといいます。名前だけで判断すると、同姓同名の別人をまとめてしまうおそれがあるので、電話番号やメールアドレスのように、人ごとに違う項目も手がかりにします。佐藤さんの3件は、電話番号が同じだったので1人にまとめられました。名寄せをしないと、常連のお客さんが「1回だけ来た3人」に見えてしまいます。

ここから基本情報!表をつなぐ、ものさしをそろえる

購入履歴には日付があり、天気のノートにも日付があります。このように、別々のデータの集まりを、共通する項目(キー)をもとに1つにまとめる処理をデータ結合といいます。日付をキーに結合すると、1件ごとの購入に「その日は雨だったか」「最高気温は何度だったか」を並べられます。キーの書き方がそろっていない(一方が「10/3」、もう一方が「2026-10-03」)と結合できないので、結合の前に書き方をそろえておきます。

気温(度)と売上(個)のように単位も大きさも違う項目を並べて比べるときは、平均が0、ばらつき(標準偏差)が1になるように値を変換して、ものさしをそろえることがあります。この変換を標準化といいます。また、手元のデータから「雨かどうか」「週末かどうか」「給料日の後かどうか」といった、分析に役立つ新しい項目を作り出す工夫を特徴量エンジニアリングと呼びます。

基本情報の範囲ここまで

二つめは、ふつうでない値の問題です。ほかの値から大きく離れた値を外れ値といいます。バゲットの300個は、確かめると、近くの小学校の行事でまとめて予約が入った日でした。本当に起きたことですが、「ふつうの雨の日に何が売れるか」を調べるなら、平均を大きく引き上げてしまいます。「−5個」は、返品を打ち込むときの入力ミスでした。測り間違いや記録の誤りで生じた、ありえない値を異常値と呼びます。そして空欄のまま記録されていない値が欠損値です。

こうした値を見つけ出し、除く、正しい値に直す、ほかの値から推測して埋める、といった対応を決めることを外れ値・異常値・欠損値の処理といいます。どれを選ぶかは、分析の目的によります。大口の予約の日は、ふだんの売れ方を見たいなら除き、行事の予約がどれくらい入るかを見たいなら残します。臨時休業の日の空欄を、前後の日の平均で埋めるのは誤りです。店が開いていなかったのですから、その日は「売上0」でも「平均くらい」でもなく、分析の対象から外すのが筋です。

三つめは、データに意味の札が付いていない問題です。口コミの写真がどのパンを写したものか、文章がほめているのか不満を言っているのかは、コンピュータには分かりません。そこで、データの一つ一つに「かぼちゃパン」「ほめている」のような正解の札(ラベル)や情報を付けていく作業をアノテーションといいます。札の付いたデータを大量に用意すると、それを手本にして機械学習のモデルを作れます。写った物を見分ける画像処理や、文章の意味をコンピュータで扱う自然言語処理の多くは、こうした手本から学んでいます。

最後は、時系列データに特有の問題です。3年分のノートを見ると、売上は毎年12月に大きく増え、2月に落ち込みます。クリスマスのシュトーレンと、寒さで客足が鈍る時期のせいです。この季節の波が大きいと、「11月から12月に売上が伸びた」ことが、新しい工夫の効果なのか、毎年のことなのかが分かりません。そこで、毎年同じ時期にくり返される季節による変動を取り除き、その下にある本当の動きを見やすくする処理を季節調整といいます。国が発表する経済の統計にも、季節調整をした値がよく使われます。

もっと短い波を均す方法もあります。一定の期間の平均を、1日ずつずらしながら計算していく方法を移動平均といいます。ある週のバゲットの売上で、3日分の移動平均を計算してみます。

曜日月火水木金土日
売上(個)40423844467072
3日移動平均――40.041.342.753.362.7

水曜の欄は月・火・水の平均((40+42+38)÷3=40.0)、木曜の欄は火・水・木の平均((42+38+44)÷3≒41.3)です。日ごとの上がり下がりが均され、平日は40個前後でゆっくり増えていることが読み取りやすくなります。ただし、土日の増え方は3日の平均でもまだ残ります。曜日による波そのものを消したいなら、7日分の平均をとります。

ここから基本情報!くり返す波

土日に売上が増える7日ごとの波や、12月に増える1年ごとの波のように、時系列データの中で、同じような変動が一定の間隔でくり返される性質を周期性といいます。7日の移動平均で曜日の波が消えるのは、平均をとる期間をちょうど1周期にそろえているからです。季節調整は、1年という周期の波を取り除く処理だと言えます。周期の長さを先に見つけておくと、どの処理で何を均せばよいかが決まります。

基本情報の範囲ここまで

4-3データから知見を掘り出す

表がようやく一つにまとまった晩、店長がのぞき込んで言いました。「これだけあれば、何か分かるだろう。雨の日に売れるものとか」。ミナトは表をスクロールしながら、行が4万を超えていることに気づきます。目で追って何かを見つけられる量ではありませんでした。

店長の「何か分かるだろう」は、二つの仕事に分けられます。いま何が起きているかを見やすく示す仕事と、まだだれも気づいていない決まりを探し出す仕事です。

前者を支えるのがBI(Business Intelligence)です。会社にたまったデータを集めて分析し、その結果を経営の判断に生かすための仕組みや、それを支えるツールを指します。BI のツールを使うと、「今週の商品別の売上」「天気別の客数」のような集計を、表計算の知識が無くても、画面の操作だけで切り替えて見られます。

BI のもとになるデータは、どこかにまとまっていなければなりません。通販のシステム、レジのシステム、予約のシステムには、それぞれ日々の取引のデータが入っています。複数の業務システムからデータを集め、分析しやすいように整理して、時系列に積み上げていくデータベースをデータウェアハウスといいます。名前のとおり、データの倉庫です。日々の業務のデータベースは最新の状態に書き換えていくのに対し、データウェアハウスは分析のために過去の記録を消さずに残していきます。去年の12月と今年の12月を比べられるのは、そのためです。

後者の、まだ気づいていない決まりを探す仕事がデータマイニングです。大量に蓄積したデータに統計の手法などを当てはめ、隠れた規則性や傾向を見つけ出します。マイニングは「採掘」の意味で、データの山から役に立つものを掘り出すことにたとえています。データマイニングの一連の処理のうち、データに潜む規則性や傾向を実際に見つけ出していく工程をパターン発見と呼びます。前処理でデータを整え、パターン発見で決まりを見つけ、見つけた決まりが本当に使えるかを確かめる、という順に進みます。

ここから基本情報!一緒に買われるもの

店長の問いを「雨の日に、何と何が一緒に買われているか」と言い直すと、決まった分析の形に乗ります。「商品Aを買った人は商品Bも買うことが多い」のような、出来事どうしの関係(ルール)を大量のデータから見つけ出す手法をアソシエーション分析といいます。買い物かごの中身を調べることから、バスケット分析とも呼ばれます。

見つけたルールがどれくらい強いかを測る指標の一つがリフト値(リフト)です。雨の日のレシート400枚で計算してみます。バゲットを含むレシートが100枚、スープに添える丸パンを含むレシートが80枚、両方を含むレシートが40枚でした。

  • 両方を含むレシートの、全体に占める割合(支持度):40÷400=0.1
  • バゲットを買った人のうち、丸パンも買った割合(信頼度):40÷100=0.4
  • レシート全体のうち、丸パンを含む割合:80÷400=0.2
  • リフト値:0.4÷0.2=2.0

バゲットを買った人は、雨の日のお客さん全体と比べて、丸パンを2倍の割合で買っていたことになります。リフト値が1なら、バゲットを買うかどうかと丸パンを買うかどうかは関係がなく、1より大きいほど一緒に買われやすい関係にあります。ただし、両方を含むレシートがごく少ないと、偶然でもリフト値が大きく出るので、支持度や件数も合わせて見ます。

基本情報の範囲ここまで

数字の表だけでなく、文章の山からも決まりは掘り出せます。SNS の口コミやアンケートの自由記述のような大量の文章を、単語に区切って出てくる回数や、どの単語どうしが一緒に使われているかを統計的に調べ、役に立つ情報や傾向を取り出す手法をテキストマイニングといいます。かぼちゃパンの口コミ230件を調べると、「甘い」「子ども」「朝ごはん」という語が目立ちました。どの年代に受けているのかを確かめる手がかりが、ここで一つ見つかります。

4-4データサイエンスのサイクル

ミナトはさっそく、思いつくかぎりのグラフを作り始めました。曜日別、天気別、年代別。20枚目のグラフを作ったところで、相棒が尋ねます。「そのグラフで、店長は何を決めるの?」。ミナトは手を止めました。答えられなかったのです。

データを集めて眺めれば、いつか答えが浮かんでくる、と考えたくなります。実際には、何を決めたいのかが定まっていないと、どのデータを集め、どう整え、何を比べればよいかも定まりません。データから価値を引き出す仕事は、決まった段階を順に踏み、最後にまた最初へ戻ってくる輪として進めます。この輪をデータサイエンスのサイクルといいます。六つの段階からなります。

課題抽出と定式化、データの取得・管理・加工、探索的データ解析、データ解析と推論、結果の共有・伝達、課題解決に向けた提案の六つの段階が矢印でつながって輪になり、提案から最初の課題へ戻っている図
図:データサイエンスのサイクル。提案の後は、新しい課題へ戻る

最初の段階は課題抽出と定式化です。ビジネスの課題を洗い出し、データの分析で答えを出せる問いの形に直します。「かぼちゃパンをもっと売りたい」は課題ですが、そのままでは分析できません。「かぼちゃパンを2回以上買ったお客さんの割合は、年代によって違うか」と言い直すと、どのデータで何を比べればよいかが決まります。相棒が尋ねたのは、この段階のことでした。

次のデータの取得・管理・加工は、分析に要るデータを集め、保管し、前処理をする段階です。購入履歴を書き出し、名寄せをし、欠けた値を処理した作業は、ここにあたります。

三つめの探索的データ解析(EDA:Exploratory Data Analysis)では、グラフを描いたり、平均やばらつきなどの基本的な値を求めたりして、データの特徴や傾向、おかしな値をつかみます。ミナトの20枚のグラフも、問いが決まった後に作れば、この段階の仕事になります。答えを出す前に、データがどんな姿をしているかを知っておく段階です。

四つめのデータ解析と推論では、統計の手法やモデルを使ってデータを分析し、結論や予測を導きます。「30代・40代のお客さんでは、かぼちゃパンをまた買う割合がほかの年代より高い」のように、手元のデータから、まだ見ていないお客さん全体についても言えることを推し量ります。

五つめが結果の共有・伝達です。分析で分かったことを、判断する人に分かる形で説明します。店長に見せるのは、計算の途中の式ではなく、結論と、それを支える1枚のグラフです。どんなグラフを選ぶかは、この章の後半の話題になります。

最後の課題解決に向けた提案では、分析の結果をもとに、課題への具体的な打ち手を示します。「子ども連れの多い平日の朝に、かぼちゃパンを焼き上がりで出す」のような提案です。提案を実行すると、その結果がまた新しいデータになり、「朝に出したら本当に売れたか」という次の課題が生まれます。輪が一周して、最初の段階に戻るわけです。

実際に試すのが難しいこと、試すと費用や危険が大きいことを、現実をまねたモデルの上で再現し、結果を予測したり調べたりする手法をシミュレーションといいます。「クリスマスの予約を1日100件までに絞ったら、当日の行列はどれくらいになるか」を、去年の来店の記録から作ったモデルで試すのがその例です。

モデルの予測は、時間がたつほど現実からずれていきます。そこで、シミュレーションの途中で実際に観測したデータを取り込み、モデルの状態を現実に近づけ直して、予測の精度を高める手法をデータ同化(シミュレーションのデータ同化)といいます。身近な例は天気予報で、大気の動きを計算するモデルに、各地の観測のデータを取り込みながら予報を出しています。

シミュレーションが「こうしたらどうなるか」を調べるのに対し、「どうするのがいちばんよいか」を求めるのが最適化です。与えられた条件(制約)のもとで、利益や費用のような目的の値を最大または最小にする答えを求めます。オーブンが1日に焼ける枚数とバターの在庫が限られている中で、バゲットとかぼちゃパンを何個ずつ焼けば利益がいちばん大きくなるか、という問題がこれにあたります。

こうした仕事を専門にするのがデータサイエンティストです。統計の知識、情報技術、ビジネスの知見を組み合わせて、データから価値のある知見を引き出します。三つめのビジネスの知見には、扱うデータの分野についての知識も含まれます。業界や専門分野に特有の知識をドメイン知識といいます。「バゲットが300個売れた日は学校の行事だった」と気づけたのは、町の事情を知る店長がいたからでした。データは、それが生まれた現場を知る人と一緒に読むと、読み違いが減ります。

4-5母集団と標本抽出

かぼちゃパンの感想をもっと聞きたい、と店長が言いました。通販の会員は1,200人います。「全員にアンケートを送ろうか」と言いかけた店長に、ミナトは返事をためらいました。1,200通の返事を読んで集計するのは、二人だけでは何日もかかります。

知りたいのは「通販の会員全体が、かぼちゃパンをどう思っているか」です。このように、調査や分析で知りたい対象の全体を母集団といいます。ここでは会員1,200人が母集団です。

母集団のすべてを調べる方法を全数調査といいます。取りこぼしがない代わりに、費用と時間がかかります。国が行う全数調査の代表が国勢調査で、5年ごとに、日本に住んでいるすべての人と世帯を対象に、人口や世帯の様子を調べています。国の政策のもとになる数なので、手間をかけてでも全員を数えます。

多くの調査では、母集団から一部を選び出して調べ、その結果から全体を推し量ります。母集団から、実際に調べる一部(標本)を取り出すことを標本抽出(サンプリング)といいます。質問を示して回答を集めるアンケート調査は、全数調査にも標本を選んで行う調査にも使える方法で、こむぎ堂の場合は、選んだ100人に送るのが現実的です。

問題は、100人をどう選ぶかです。すぐに返事をくれそうな常連から100人を選ぶと、かぼちゃパンを気に入っている人ばかりが集まるかもしれません。選び方には、決まった型がいくつかあります。

いちばん基本になるのが単純無作為抽出(単純ランダム抽出)です。母集団のだれもが同じ確率で選ばれるように、くじ引きのように選びます。会員番号1〜1,200から、表計算ソフトの乱数で100個の番号を選べば、選ぶ人の好みが入り込みません。

ただ、偶然で選ぶと、ある年代が少なく選ばれてしまうことがあります。そこで、母集団を年代のような性質の近いグループ(層)に分け、それぞれの層から標本を選ぶ方法を層別抽出(層化抽出)といいます。会員のうち30代・40代が半分を占めるなら、100人のうち50人をその層から、残りをほかの層から、構成の割合に合わせて無作為に選びます。どの年代も、全体に占める割合のとおりに標本に入ります。

母集団が大きく、名簿を一度に扱えないときは、段階を分けて選びます。たとえば町の全世帯に配るなら、まず町内の地区からいくつかを選び、選んだ地区の中から通りを選び、その通りの中から世帯を選ぶ、という順です。このように、大きな単位から小さな単位へ段階的に抽出をくり返して標本を得る方法を多段抽出といいます。全国の調査のように、母集団の名簿をそろえるだけで大変な調査で使われます。

4-6精度と偏り、仮説検定

先週、店頭で配ったかぼちゃパンのアンケートが戻ってきました。「おいしい」が95%です。店長は喜びましたが、ミナトは配り方を思い出して首をかしげます。用紙は、かぼちゃパンを買ったお客さんにだけ渡していました。しかも、レジの前で、焼いた本人の店長が見ている所で書いてもらっていたのです。

この95%が、どこかずれていそうなことは分かります。どうずれているのかを言い表すには、二つの考え方を区別しておく必要があります。

店の計量器を例にとります。同じ生地を何回量っても、毎回ぴったり同じ重さが出る計量器があるとします。ところが、その値は毎回、本当の重さより50グラム重く出ていました。測った値のばらつきが小さいことを精度が高いといい、本当の値から一定の方向にずれていることを偏りがあるといいます。この計量器は、精度は高いのに偏りが大きいわけです。逆に、平均すれば本当の重さに近いのに、量るたびに値が大きく上下する計量器は、偏りは小さいけれど精度が低い、ということになります。この二つを分けて考えることを精度と偏りといいます。

精度は、調べる数を増やせば高められます。偏りは、数を増やしても消えません。50グラム重く出る計量器で100回量っても、平均はやはり50グラム重いままです。データの集め方や分析のしかたが原因で、結果が本当の値から一定の方向にずれてしまうことを統計的バイアスといいます。

かぼちゃパンのアンケートには、二種類のバイアスが重なっていました。一つは、用紙をかぼちゃパンを買った人にだけ渡したことです。買った人は、そもそもかぼちゃパンに興味のある人です。標本の選び方が母集団を正しく代表していないために生じる偏りを選択バイアスといいます。母集団は「店のお客さん全体」のはずだったのに、標本は「かぼちゃパンを選んだ人」に限られていました。

もう一つは、焼いた本人が見ている前で書いてもらったことです。目の前の人に「おいしくない」とは書きにくいものです。測り方や答え方のしかたに原因があって、集めたデータそのものが偏ってしまうことを情報バイアスといいます。「おいしかったですよね?」のように答えを誘う質問文も、情報バイアスを生みます。

偏りは、データを読む人の頭の中でも生じます。ミナトは、自分も好きなかぼちゃパンが売れていると信じたくて、売れた日の数字ばかりを見ていました。経験や思い込み、そうであってほしいという気持ちのせいで、判断が合理的な筋道から外れてしまう傾向を認知バイアスといいます。自分の考えに合う情報ばかりを集めてしまう確証バイアスは、その代表です。

思い込みを避けるには、結論を数字の手続きで確かめる方法があります。雨の日に丸パンの売れ方が本当に変わるのかを確かめるとき、まず「雨の日も晴れの日も、丸パンの売れ方は変わらない」という仮説(帰無仮説)を立てます。そして、集めたデータが、その仮説の下ではめったに起きないほど偏っているなら、仮説を捨てて(棄却して)「変わる」と判断します。この手順を仮説検定といいます。

どれくらい「めったに起きない」なら棄却するかの基準を、あらかじめ決めておきます。この基準となる確率を有意水準といい、5%や1%がよく使われます。有意水準を5%と決めたなら、「仮説が正しいとしたら、こんなに偏ったデータが出る確率は5%未満だ」というときに仮説を棄却します。

確率で判断する以上、判断を誤ることがあります。本当は売れ方が変わらない(帰無仮説が正しい)のに、たまたま偏ったデータが出たせいで「変わる」と判断してしまう誤りを第1種の誤りといいます。有意水準は、この誤りが起きる確率をどこまで許すかを決めた値でもあります。反対に、本当は売れ方が変わる(帰無仮説が誤り)のに、データからは差が読み取れず「変わるとは言えない」としてしまう誤りを第2種の誤りといいます。こむぎ堂で言えば、第1種の誤りは空振りのセット商品を作ること、第2種の誤りは売れるはずのセット商品を見逃すことです。

4-7グラフの選び方

ミナトは、最初の晩に作った棒グラフを開き直しました。かぼちゃパンは96個、クロワッサンは88個。数字にすれば1割ほどの差なのに、グラフではかぼちゃパンの棒がクロワッサンの倍に伸びています。縦軸の目盛りが、0ではなく80から始まっていたのです。

グラフは、数字の表では見えにくい違いを一目で見せてくれます。そのぶん、作り方しだいで見る人の印象を大きく動かします。目的に合ったグラフを選び、正しく描くことが、結果の共有・伝達の段階の仕事です。

項目ごとの量の大小を比べたいときは棒グラフを使います。棒の長さで量を表すグラフなので、縦軸は0から始めます。80から始めると、棒の長さは「80を超えた分」しか表さなくなり、16と8の比、つまり2倍の差に見えてしまいます。最初の晩に店長が身を乗り出したのは、このためでした。

かぼちゃパン96個とクロワッサン88個を、縦軸が0から始まる棒グラフと80から始まる棒グラフで左右に並べ、左では棒の長さがほぼ同じ、右ではかぼちゃパンの棒が倍に見える比較図
図:同じ数字でも、縦軸の始まりを変えると差の見え方がまるで変わる

時間とともにどう変わったかを見せたいときは折れ線グラフです。データの点を時間の順に線でつなぐので、増えているのか、減っているのか、波があるのかが分かります。バゲットの3年分の売上や、移動平均の線を描くのに向いています。

種類の違うグラフを1枚にまとめることもあります。棒グラフと折れ線グラフのように、異なる種類のグラフを1つの図に組み合わせたものを複合グラフといいます。月ごとの丸パンの売上を棒で、月ごとの雨の日数を折れ線で重ねると、二つの動きを見比べられます。このとき、売上(個)と雨の日数(日)は単位が違うので、左の縦軸に売上の目盛りを、右の縦軸に日数の目盛りを付けます。単位の違う2種類のデータを、左右2本の縦軸を使って1つのグラフに表したものを2軸グラフといいます。

一つのものを、いくつもの観点で評価したいときはレーダーチャートが使えます。中心から放射状に伸ばした軸に「甘さ」「食感」「香り」「見た目」「値段の手ごろさ」を割り当て、それぞれの評価の値を点にして線で結びます。でき上がった形を見れば、かぼちゃパンがどの点で強く、どこが弱いかのバランスが分かります。

平均だけでは分からない、ばらつきの様子を見せたいときは箱ひげ図です。データを小さい順に並べ、最小値、第1四分位数(下から4分の1の位置の値)、中央値、第3四分位数(下から4分の3の位置の値)、最大値の五つの値で分布を表します。第1四分位数から第3四分位数までを箱で、そこから最小値と最大値までをひげで描きます。晴れの日と雨の日の毎日の丸パンの売上を箱ひげ図で並べると、平均の差だけでなく、日によるばらつきの違いも比べられます。

表の中の数字の大小を、色の濃さに置き換えて見せる図がヒートマップです。縦に曜日、横に時間帯をとって、それぞれのマスの来店客数を色の濃淡で表すと、土曜の朝10時台にお客さんが集中していることが、数字を一つずつ読まなくても分かります。色の違いが見分けにくい人もいるので、濃淡の差をはっきりつけ、必要なら数字も添えます。

グラフを派手にしたくなる気持ちには、気を付ける必要があります。立体的な棒、影、背景の写真、棒の代わりに並べたパンのイラストのような、データを読み取る助けにならず、かえって邪魔をする飾りをチャートジャンクといいます。ジャンクは「がらくた」の意味です。特に立体にしたグラフは、手前の部分が大きく見えるので、値の大小を読み誤らせます。飾りを取り去っても伝わる内容が変わらないなら、その飾りは要りません。

4-8表と関係を見る図

100人に送ったアンケートが戻ってきました。ミナトは「年代」と「かぼちゃパンをまた買いたいか」の二つの答えを組み合わせて見たいと考えます。年代ごとの「はい」の数を数えるだけなら簡単ですが、年代によって回答した人数が違うので、数を並べただけでは比べられません。

二つの質問の答えを掛け合わせて集計し、項目どうしの関係を見るための表をクロス集計表といいます。とくに、年代や「はい・いいえ」のような質的なデータの組み合わせごとに、当てはまる件数(度数)をまとめた表を分割表と呼びます。ほぼ同じものを指す言葉です。

年代はいいいえ合計「はい」の割合
10代・20代1282060%
30代・40代4285084%
50代以上12183040%
合計663410066%

「はい」の数だけを見ると、10代・20代と50代以上はどちらも12人で同じです。ところが、行ごとの合計で割って割合にすると、60%と40%で差があります。30代・40代は84%で、口コミに「子ども」「朝ごはん」が多かったこととも話が合います。

クロス集計表を図にしたものがモザイク図です。正方形を、まず年代ごとの人数の割合に応じて縦に区切り、次にそれぞれの帯を「はい・いいえ」の割合で横に区切ります。長方形の面積が、その組み合わせの度数に比例します。30代・40代の帯がいちばん幅広く、その中の「はい」の部分が大きく占めている様子が、一目で分かります。

量的なデータどうしの関係を見るときは、相関の考え方を使います。一方が増えるともう一方も増える(または減る)関係の強さを、−1から1までの数で表したものを相関係数といいます。1に近いほど一緒に増える関係が強く、−1に近いほど一方が増えると他方が減る関係が強く、0に近ければ直線的な関係はほとんど見られません。

調べたい項目が三つ以上あるときは、組み合わせの数だけ相関係数を求めることになります。気温、降水量、来店客数、丸パンの売上の四つなら、組み合わせは6通りです。すべての組み合わせの相関係数を、行と列に項目を並べた表(行列)の形で一覧にしたものを相関係数行列といいます。対角線の上は「同じ項目どうし」なので、値はいつも1になります。

相関係数は一つの数なので、関係の形までは分かりません。曲がった関係や、一部の外れ値に引っぱられた関係も、同じ数になることがあります。そこで、すべての組み合わせについて、一方を横軸、もう一方を縦軸にとった散布図を作り、表と同じ形に並べたものを散布図行列といいます。相関係数行列で目星を付け、散布図行列で形を確かめる、という使い分けができます。

ここから基本情報!似たもの同士をまとめていく図

会員の買い方が似ているもの同士をグループにまとめる分析を、クラスタ分析といいます。中でも、いちばん似ている2人(2グループ)を一つにまとめ、次に似ているものをまとめ、という手順をくり返していく方法の結果は、木の枝のような図で表せます。この図をデンドログラム(樹形図)といいます。枝が合流する高さは、まとめられたときの似ていなさを表し、低い位置で合流するほどよく似ています。図をどの高さで横に切るかで、会員をいくつのグループに分けるかを決められます。

基本情報の範囲ここまで

4-9考えや言葉を図にする・データの形式

分析の結果はそろいました。あとは店長に提案するだけですが、ミナトの頭の中では、雨の日のこと、丸パンのこと、かぼちゃパンのことが絡まったままです。相棒は「話す前に、考えを紙に描いてみよう」と言いました。

数字ではなく、考えそのものを図にする方法もあります。課題や問題を、それを形作る要素へ、木の枝のように階層を下りながら分けていく手法をロジックツリーといいます。「雨の日の売上を増やす」をいちばん上に置くと、その下は「客数を増やす」と「1人あたりの買う額を増やす」に分かれます。後者の下に「一緒に買われる品をセットにする」が来ます。分けるときは、漏れも重なりもないようにするのが原則です。

ロジックツリーが上から下への分解なのに対し、言葉どうしの関係を網の目のように描くのがコンセプトマップです。「雨」「客数」「スープ」「丸パン」「バゲット」のような概念を置き、それらを線で結び、線の上に「減らす」「増やす」「一緒に買われる」のような関係を書き込みます。「雨は客数を減らすが、スープの需要を増やす」という、ミナトの頭の中で絡まっていた二つの関係が、ここで並んで見えます。

言葉の関係は、文章のデータからも取り出せます。口コミやアンケートの文章の中で、ある語と一緒に出てくることの多い語を共起キーワードといいます。かぼちゃパンの口コミでは、「かぼちゃ」の共起キーワードが「甘い」「子ども」「朝ごはん」でした。テキストマイニングでは、よく一緒に出る語どうしを線で結んだ図を作り、話題のまとまりを見ます。

最後に、データそのものの形式も見ておきます。分析の結果をほかの人やほかのソフトウェアに渡すときは、だれでも開ける形式で保存すると扱いやすくなります。表の各項目をカンマ(,)で区切り、1行に1件ずつ並べたテキスト形式をCSV(Comma Separated Values)といいます。ただの文字なので、表計算ソフトでもデータベースでもプログラムでも読み込めます。よく使われる書き方は、RFC 4180 という文書(2005年、標準ではなく情報提供のための RFC)にまとめられています。項目の中にカンマや改行が含まれる場合は、その項目を引用符(")で囲み、項目の中の引用符は2つ重ねて書く、という約束です。オープンデータの多くも、この形式で公開されています。

地図の上のデータには、専用の形式があります。地理情報システム(GIS)で、点(店や配達先の位置)、線(道路や配達の道順)、面(町の地区の範囲)といった地理空間のデータを、属性の情報と一緒に保存するために広く使われているファイル形式をシェープファイルといいます。拡張子が .shp のファイルを中心に、いくつかのファイルを組にして使います。自治体が公開する地区の境界のデータに、こむぎ堂の配達先の点を重ねれば、注文の多い地区が地図の上で見えてきます。

土曜の閉店後、ミナトは1枚のグラフを店長に見せました。名寄せをした購入データでは、雨の日にバゲットを買ったお客さんは、ふだんの2倍の割合で丸パンも一緒に買っていました。縦軸を0から始めた棒グラフで、その差を示します。「雨の日だけ、バゲットと丸パンとスープの素をセットにしませんか」。店長はグラフの目盛りを指でなぞってから、うなずきました。「最初のグラフより、差は小さく見えるね。でも、こっちのほうが信じられる」

作業台に散らばっていた四つの束は、それぞれ別の役目を果たしました。購入履歴は名寄せを経て「だれが何と何を買ったか」を示し、天気のノートは日付で結びついて「雨の日」という区切りを与え、口コミは「子ども」「朝ごはん」という言葉でかぼちゃパンの客層を教え、アンケートは偏りのない配り方に直したことで、ようやく信じられる数字になりました。店長の二つの問いには、どちらも答えが出ました。

残っているのは、セットが本当に売れるかどうかです。データから分かったのは「雨の日に一緒に買われている」ことまでで、「セットにすれば売上が増える」ことではありません。次の雨の日のレシートが、新しいデータとして輪の最初に戻ってきます。

この章のふりかえり

この章で太字にした用語は、暗記カードで覚えられます。

ITパスポートの範囲(68語)を暗記カードで覚える 基本情報まで(77語)を暗記カードで覚える

カードの「カテゴリ」は、この章の節の名前です。同じボタンでもう一度取り込んでも、復習の進み具合は消えません。