統計学とは ― データから規則性を発見し、不確実な世界を理解する

統計学(Statistics)は、観察や測定によって得られたデータを整理し、その中に存在する規則性や関係を調べ、そこから判断や予測に役立つ知識を得るための学問です。平均値や標準偏差を計算すること、統計的検定を行うこと、回帰分析によって予測式を作ることなどは、いずれも統計学の一部ですが、それ自体が統計学の目的ではありません。

私たちが理解しようとする現実の世界には、さまざまな変動や不確実性があります。同じ条件で製造した製品でも品質にばらつきが生じ、同じ広告を見ても消費者の反応は異なり、同じ治療を受けても患者の経過は一致しません。このような現象について、どのような規則性が存在するのか、観察された違いは偶然の変動で説明できるのか、どの条件が結果に関係しているのかを調べるために、統計学が利用されます。

統計学の重要な特徴は、限られた観察から知識を得ようとする一方で、その知識にどのような不確実性が伴うかも考慮することです。統計学は、数値によって物事を断定する技術ではありません。データから何がわかり、何がまだわからないのかを明らかにするための方法でもあるのです。

カール・ピアソンの『The Grammar of Science』― 科学は世界をどのように記述するのか

統計学の意義を理解するうえで、英国の数学者・統計学者カール・ピアソン(Karl Pearson, 1857–1936)の著書『The Grammar of Science』(1892年)は、興味深い出発点になります。

この本は統計手法を解説した教科書ではなく、科学的な知識とは何か、科学法則とはどのようなものか、観察された事実から何を主張できるのかを論じた科学哲学の著作です。

ピアソンは、科学法則を、自然界を支配する命令のようなものとしてではなく、観察された現象の規則性を簡潔に記述するものとして捉えました。現象の一定の連なりを繰り返し観察できたとしても、その関係が未来において必ず成立すると、絶対的な確実性をもって証明できるわけではありません。

例えば、温度と材料の膨張の関係について多くの観察結果を得れば、その関係を数式で表せる場合があります。しかし、その数式は、観測範囲や前提条件のもとで現象を記述するモデルです。極端に異なる条件でも、同じ式が成立するとは限りません。

ピアソンの科学観は実証主義的であり、科学は現象が「どのように」生じるかを記述できても、現象が究極的に「なぜ」そうなるのかを説明するものではない、という立場を強く打ち出しました。この哲学的立場が、そのまま現代の科学哲学全体の合意になっているわけではありません。因果関係、科学的実在、理論による説明などをめぐっては、さまざまな考え方があります。

それでも、観察された事実と、それを説明するために作られた概念やモデルを区別する姿勢は、統計学を理解するうえで重要です。

ピアソンはその後、相関、回帰、カイ二乗検定などを含む近代統計学の発展にも大きく貢献しました。『The Grammar of Science』が扱った科学的知識の問題と、彼の統計学上の業績を関連づけて考えると、統計学は単なる計算法の集合ではなく、観察された世界をどのように記述し、そこからどこまで推論できるのかを考える学問として理解できます。

統計学は何のために使うのか

統計学の用途は多岐にわたりますが、主な目的は次のように整理できます。

目的知りたいこと代表的な方法
記述データはどのような分布や特徴を持つか平均、標準偏差、ヒストグラム
比較二つ以上の集団や条件に違いがあるか平均の比較、分散分析、統計的検定
関係の発見二つ以上の変数はどのように関係するか相関分析、回帰分析
予測既知の情報から未知の結果を予測できるか回帰モデル、時系列分析
分類対象をどのグループに分けられるか判別分析、クラスター分析
構造の発見多数の変数の背後にどのような特徴があるか主成分分析、因子分析
因果的な検証条件を変えると結果も変化するか実験計画法、因果推論
意思決定不確実な状況でどの選択が望ましいか統計的決定理論、予測モデル

これらは学習のための分類であり、それぞれが独立した領域というわけではありません。例えば回帰分析は、変数間の関係の記述にも予測にも利用できます。実験計画法によって得られたデータを回帰分析で解析することもできます。

大切なのは、最初に分析手法を選ぶのではなく、何を明らかにしたいのかを考えることです。

記述統計と推測統計 ― データを整理することと、データを超えて推論すること

統計学は、入門的には記述統計(Descriptive Statistics)と推測統計(Inferential Statistics)に大別されます。

記述統計は、実際に集めたデータの特徴を整理するための方法です。

例えば、工場で製造した100個の製品について重量を測定した場合、平均重量、標準偏差、最大値、最小値などを計算できます。ヒストグラムを描けば、重量がどの範囲に集中しているか、左右対称の分布になっているか、一部に極端な値が存在するかなどを把握できます。

平均値が同じでも、ばらつきが大きい製造工程と小さい製造工程では、品質管理上の意味が異なります。そのため、データの中心だけでなく、分布の形やばらつきを理解することが重要です。

推測統計は、観察したデータから、直接には観察していない対象や過程について推論するための方法です。

例えば、工場で生産されるすべての製品を破壊試験にかけることはできません。そこで一部の製品を抽出し、その強度を測定して、製造工程全体の品質を推定します。

このとき、知りたい対象全体を母集団(Population)、実際に調べる一部の対象を標本(Sample)と呼びます。

標本から母集団の特徴を推定するには、どのように標本を選んだかが重要です。無作為に抽出した標本と、都合のよい対象だけを集めた標本では、得られた結果を母集団へ一般化できる程度が異なります。

例えば、特定の装置で製造した製品だけを調べた結果を、工場全体の品質として扱うことは適切でないかもしれません。標本数を増やしても、抽出方法に偏りがあれば、その問題が自動的に解消するわけではありません。

このように、推測統計では、計算方法だけでなく、データがどのように得られたかが重要になります。

統計的検定と信頼区間 ― 観察結果をどこまで信じてよいか

例えば、二つの製造方法AとBで生産した製品の強度を比較したところ、Aの平均強度が50 MPa、Bの平均強度が53 MPaだったとします。

この数値だけを見れば、Bの方が強度に優れているように見えます。

しかし、個々の製品の強度にはばらつきがあります。測定した製品の数が少なければ、今回観察された3 MPaの差は、たまたま選んだ製品の違いによって生じた可能性もあります。

そこで統計的な方法を用いて、その差を評価します。

統計的検定は、例えば「二つの製造方法の母平均に差がない」といった仮説を設定し、観察されたデータがその仮説のもとでどの程度意外なものであるかを検討する方法です。

検定結果としてよく使われるのがp値(p-value)です。ただし、p値は仮説が正しい確率を示すものではありません。また、p値が一定の基準より小さいことだけで、差が実務上重要であると判断することもできません。

一方、**信頼区間(Confidence Interval)**は、平均値や平均値の差など、推定したい数量について、その不確実性を範囲として表す方法です。

例えば、二つの製造方法の平均強度の差について、推定値が3 MPaで、95%信頼区間が1~5 MPaであれば、差の大きさについて一定の幅を持った推定が得られていることになります。これは説明用の仮想例です。

この場合、統計的な評価とは別に、3 MPa程度の強度向上が製品の用途にとって重要なのか、製造コストの増加に見合うのか、といった実務的な判断が必要です。

統計学は判断に必要な情報を提供しますが、何を重要と考えるかまで自動的に決定するものではありません。

相関・回帰分析から多変量解析へ

記述統計や検定の基本的な考え方を理解したら、次に変数同士の関係を考えると、統計学の用途が広がります。

例えば、加工温度と製品強度の関係を調べるために、横軸に温度、縦軸に強度をとった散布図を描きます。

温度が高いほど強度が大きいという傾向が見られれば、二つの変数の間に正の相関がある可能性があります。

相関分析では、変数間の関係を数値で表します。回帰分析では、その関係を数式で表して予測などに利用できます。

最も簡単な線形回帰モデルは、次のような形です。

Y = a + bX + 誤差

Yは結果、Xは説明に用いる変数、aとbはデータから推定する係数です。

しかし、現実の現象は一つの変数だけで決まるとは限りません。製品強度には、温度だけでなく加工時間、材料組成、圧力などが関係する可能性があります。

このような場合には、複数の説明変数を用いる重回帰分析が利用できます。

Y = a + b₁X₁ + b₂X₂ + b₃X₃ + … + 誤差

さらに、分析の目的が数値の予測ではなく、製品の良否判定、多数の測定値の集約、アンケート回答に共通する因子の発見などであれば、判別分析、主成分分析、因子分析などが利用できます。

こうした方法は、日本語では一般に多変量解析という名称でまとめられています。

ただし、記述統計、検定、回帰分析、多変量解析が常にこの順番で実施されるわけではありません。この流れは、統計学によって何ができるかを理解するための一つの道筋です。

統計モデルとは何か

統計モデル(Statistical Model)とは、観察されたデータの関係や、そのデータを生み出す過程を、数式や確率分布などによって表現したものです。

例えば、気温と電力需要の関係を表す回帰モデルを作れば、ある気温のもとで電力需要がどの程度になるかを予測できます。

しかし、モデルは現実世界そのものではありません。

例えば、気温だけで電力需要を予測するモデルでは、曜日、時間帯、産業活動、電力価格などの影響が考慮されていないかもしれません。過去のデータにはよく適合していても、社会の状況が大きく変化すれば、予測性能が低下することがあります。

統計モデルを利用する際には、どのような変数を使用しているか、どの範囲のデータに基づいているか、どのような仮定を置いているかを理解する必要があります。

この点は、ピアソンが『The Grammar of Science』で論じた科学法則の性格ともつながっています。

観察された規則性を数式で表現することには大きな価値があります。しかし、数式が得られたからといって、それが現実世界のあらゆる条件に対して成立する絶対的な法則であるとは限りません。

また、統計モデルは観察された関係を記述・予測するだけでなく、適切な研究設計と組み合わせることで因果的な仮説を検証するためにも利用できます。

モデルによって何を主張できるかは、数式の形だけでなく、データを得るための研究設計にも左右されます。

データに関係があることと、原因がわかることは違う

統計学を利用するうえで、特に重要なのが相関関係と因果関係の区別です。

例えば、ある地域でアイスクリームの売上が増える時期には、熱中症の発生件数も増えるかもしれません。

しかし、この関係だけから、アイスクリームの売上増加が熱中症を引き起こしていると考えるのは適切ではありません。

両方に影響している気温という別の要因があるためです。

このような問題は、複数の変数を同時に分析することで、ある程度検討できます。しかし、関連する変数を統計モデルへ追加しただけで、因果関係が自動的に証明されるわけではありません。

原因を調べたい場合には、どのような条件で結果が変化するかを実験によって確認することが重要になる場合があります。

実験計画法(Design of Experiments:DOE)は、複数の条件を計画的に変更し、それぞれの効果や交互作用を調べるための方法です。

一方、実験を実施できない問題については、観察データを用いた因果推論の方法も研究されています。

統計的な分析では、何らかの関係を発見することと、その関係が生じた原因を説明することを区別する必要があります。

統計学はデータを集める前から始まっている

統計学というと、集めたデータをソフトウェアで分析する作業を思い浮かべるかもしれません。

しかし、分析結果の信頼性は、データを集める前の段階で大きく左右されます。

例えば、顧客満足度を調べる場合、そもそも「満足度」とは何を意味するのでしょうか。価格に対する評価でしょうか。製品の性能、使いやすさ、信頼性、サポート対応などを含むのでしょうか。

これらを明確にしないままアンケートを作成すると、回答を統計的に分析しても、その結果が何を表しているのかわからなくなる可能性があります。

また、調査対象者の選び方、質問の表現、回答方法、測定器の精度などによっても、得られるデータは変化します。

統計学では、測定方法、標本抽出、実験計画、データの品質なども重要な研究対象です。

さらに、データを集めた後には、いきなり高度なモデルを当てはめるのではなく、グラフなどによってデータの特徴を調べる探索的データ解析(Exploratory Data Analysis:EDA)が有効です。

EDAでは、異常値、予想外の分布、変数間の関係などを調べ、どのようなモデルや追加調査が適切かを考えます。

この考え方は、最初から特定の統計モデルを前提としてデータを処理するのではなく、観察されたデータから問題の構造を理解しようとする姿勢を重視するものです。

定性的な観察と統計学の関係

統計学では数値データを扱うことが多いため、定性的な観察や考察とは別の活動であると思われがちです。

しかし、実際の研究や問題解決では、両者が連続している場合があります。

例えば、製品に対する顧客の不満を調べる場合、最初にインタビューや自由記述の回答を集め、KJ法などによって問題を整理することができます。

そこで見えてきた問題について、発生頻度や重要性を測定するための質問を作成し、アンケート調査を実施します。

得られたデータを記述統計によって整理し、必要に応じて因子分析や回帰分析を行えば、顧客の評価構造や購買行動との関係を調べられます。

逆に、統計解析によって予想外の関係が見つかった場合、現場観察やインタビューに戻り、その理由を調べることもできます。

このように、定性的な分析と統計的な分析は、別々のものとして対立させる必要はありません。

統計学は、何を調べたいのかを考える活動、データを集める活動、結果を解釈する活動と結びついて、初めて意味を持ちます。

AI時代の統計学

現在では、多くの統計解析をソフトウェアによって実行できます。LLMの発展によって、統計分析を専門としない人でも、自然言語で分析の目的を説明し、適切な方法を選択する支援を受けられるようになりつつあります。

例えば、「二つの製造方法で不良率に違いがあるか調べたい」と質問すれば、AIは必要なデータや検討すべき統計的方法を説明できます。

「温度、加工時間、材料配合のうち、どれが製品強度に影響しているか知りたい」という質問に対しては、重回帰分析や実験計画法などの選択肢を提示できます。

また、統計解析の結果として出力された係数、グラフ、検定結果などについて、自然言語で説明することも可能です。

ただし、AIが統計的な推論の正しさを保証するわけではありません。LLMは、実際には計算していない結果をもっともらしく説明したり、相関関係を因果関係として解釈したりする可能性があります。

したがって、数値計算は信頼できる統計解析プログラムで行い、LLMは分析目的の明確化、手法の選択、結果の説明、解釈上の問題点の指摘などを支援する構成が望ましいでしょう。

さらに重要なのは、得られた分析結果を批判的に検討することです。

適切な統計手法を使っていても、データが偏っていれば結果は偏ります。数学的に正しい計算であっても、分析する問題の設定が不適切であれば、役に立たない答えが得られることがあります。

AIによって統計計算へのアクセスが容易になるほど、何を知ろうとしているのか、どのような根拠で結論を出せるのかを考える能力が重要になります。

ThinkNaviでの位置づけ

ThinkNaviでは、統計学を数式や計算手順から学ぶ専門分野としてだけでなく、問題の発見、仮説の形成、関係の探索、仮説の検証、予測、意思決定を支援する方法として位置づけます。

例えば、KJ法や特性要因図によって問題や原因候補を整理した後、適切な測定方法を検討し、実験計画法によって仮説を検証できます。多変量解析によって複数の変数間の関係を調べ、その結果を新たな仮説の形成につなげることもできます。

ThinkNaviでは、記述統計、相関分析、回帰分析、実験計画法、多変量解析などを、利用者が実際に何を知りたいのかという目的に沿って紹介していきます。

個々の統計手法について数学的な導出を詳しく理解していなくても、入力データ、分析の目的、得られる結果、適用上の限界を把握できることが重要です。

一方で、統計学は、単に計算を自動化すれば済むものでもありません。

カール・ピアソンが『The Grammar of Science』で問いかけた、観察された事実と科学的な知識の関係は、現代でも重要な問題です。

統計学の目的は、データを計算によって加工することではなく、観察された世界から規則性や関係を見いだし、その知識がどのような条件で成り立ち、どの程度信頼できるのかを明らかにすることです。

関連ページ

参考文献・資料