Mastering EpistemologyGuide · Map · Audio فا
Impression, Sunrise by Claude Monet (1872)

Bayes' theorem

قضیهٔ بیز

Thomas Bayes · Laplace
Claude Monet, Impression, Sunrise, 1872

Evidence does not prove or disprove — it multiplies your prior odds by a likelihood ratio to give your posterior odds.

1The problem it solves

If belief is binary, evidence has to either establish a claim or fail to, and most real evidence does neither. Treating belief as a degree between 0 and 1 dissolves that. Evidence stops being a verdict and becomes a force with a magnitude — and the magnitude is calculable. This is the single most practically useful formal result in epistemology.

2The idea

Learn the odds form, because it is the only version you can run in your head during a conversation: prior odds × likelihood ratio = posterior odds. The likelihood ratio asks how much more probable this observation is if the hypothesis is true than if it is false.

Two disciplines fall out immediately. First, you must have had a prior. If you cannot state roughly what you believed before seeing the evidence, you were not updating, you were reacting — and you have no way to say how much the evidence moved you. Second, evidence that is equally expected under both hypotheses has a ratio near one and therefore moves nothing, however impressive it looks.

The rare-disease case is the standard demonstration and remains startling. A test with 99% accuracy, a disease affecting one in ten thousand, a positive result: the posterior is still under 1%. The test did not fail. The intuition that ignores the base rate did.

3Origin & context

Thomas Bayes' theorem was published posthumously in 1763 and developed far more fully by Laplace. Its interpretation as a norm for rational belief, rather than a fact about frequencies, is twentieth century: Frank Ramsey and Bruno de Finetti independently showed that degrees of belief violating the probability axioms leave you open to a guaranteed loss, which turned the mathematics into an argument about rationality.

4Canonical example

A rare disease, an accurate test, a positive result — and the posterior probability is still low, because the prior was very low. The test did not fail; the intuition did.

5Objections & replies

Objection. Where do the priors come from? Two people with the same data and different priors reach different conclusions and both are coherent.

Reply. This is the strongest objection and it does not have a clean answer — it is the trilemma in probabilistic dress. The honest defence is that Bayesianism does not solve the problem but makes the choice explicit, auditable, and testable for sensitivity, which is better than an implicit prior nobody can see.

Objection. Real problems are computationally intractable and real people cannot do this arithmetic.

Reply. Largely true, and Gigerenzer's work shows simple heuristics often match or beat formal updating in natural environments. But the qualitative discipline survives the objection: asking 'what is my prior, and how much does this move it' improves reasoning even when you never compute a number.

Objection. It treats all uncertainty as probability, but some uncertainty is not quantifiable — Knightian uncertainty, or deep model misspecification.

Reply. A serious limitation. Where you do not know the space of hypotheses, there is nothing to put a prior over. Manski's partial-identification work is one response: report honest bounds instead of a false point estimate.

6Don't confuse it with

P(A|B) and P(B|A)

These are routinely swapped and the swap is the single most consequential error in applied statistics. 'The probability of this data if the null is true' is not 'the probability the null is true given this data'. That confusion is also exactly what a p-value invites.

Strength of evidence vs. strength of belief

The likelihood ratio measures the evidence. Your posterior measures your belief, and it depends on the prior too. Strong evidence for an implausible claim can still leave you disbelieving it, and that is correct rather than stubborn.

7Common mistakes

  • Reporting a posterior without stating the prior it came from. The number is uninterpretable without it.
  • Updating on the same evidence twice because it arrived through two channels that were not independent.
  • Treating 'consistent with my hypothesis' as evidence. If it is equally consistent with the rival, the likelihood ratio is one and you have learned nothing.

8In your work

The single most useful formal tool here. Applied honestly it converts “I disagree” into “my prior is different and here is why”, which is an argument that can actually be had.

9Check yourself

A colleague says a new finding 'confirms' the model. What single question tells you how much it actually confirms it?

Show answer

How likely was this finding if the model were wrong? That is the denominator of the likelihood ratio, and it is the number nobody computes. If a rival account predicts the same finding roughly as strongly, the ratio is near one and the finding is decoration. Confirmation is not about fit with your hypothesis; it is about the gap between fit with yours and fit with the alternatives.

شواهد اثبات یا ابطال نمی‌کنند — شانسِ پیشینِ شما را در نسبتِ درست‌نمایی ضرب می‌کنند تا شانسِ پسین به دست آید.

1مسئله‌ای که حل می‌کند

اگر باور دوگانه باشد، شواهد یا باید ادعایی را اثبات کند یا نکند، و بیشترِ شواهدِ واقعی هیچ‌کدام را نمی‌کنند. درجه‌بندیِ باور میان صفر و یک این بن‌بست را حل می‌کند. شواهد دیگر حکم نیست، نیرویی با اندازه است — و اندازه‌اش محاسبه‌پذیر است. این عملی‌ترین نتیجهٔ صوریِ معرفت‌شناسی است.

2ایدهٔ اصلی

صورتِ شانس را بیاموزید، چون تنها روایتی است که می‌توانید در میانهٔ گفت‌وگو در ذهن اجرا کنید: شانسِ پیشین × نسبتِ درست‌نمایی = شانسِ پسین. نسبتِ درست‌نمایی می‌پرسد این مشاهده اگر فرضیه صادق باشد چقدر محتمل‌تر است تا وقتی کاذب باشد.

دو انضباط بی‌درنگ از آن برمی‌آید. نخست، باید پیشینی داشته باشید. اگر نتوانید تقریباً بگویید پیش از دیدنِ شواهد چه باور داشتید، به‌روزرسانی نمی‌کردید، واکنش نشان می‌دادید — و هیچ راهی ندارید بگویید شواهد چقدر شما را جابه‌جا کرد. دوم، شاهدی که تحتِ هر دو فرضیه به یک اندازه انتظار می‌رود نسبتی نزدیک به یک دارد و هیچ چیز را تکان نمی‌دهد، هر قدر هم چشمگیر بنماید.

موردِ بیماریِ نادر نمایشِ متعارف است و هنوز تکان‌دهنده. آزمونی با دقتِ ۹۹ درصد، بیماری‌ای که یک نفر از هر ده هزار نفر را درگیر می‌کند، و نتیجه‌ای مثبت: احتمالِ پسین هنوز زیرِ یک درصد است. آزمون خطا نکرد. شهودی که نرخِ پایه را نادیده می‌گیرد خطا کرد.

3خاستگاه و زمینه

قضیهٔ توماس بیز پس از مرگش در ۱۷۶۳ منتشر شد و لاپلاس آن را بسیار کامل‌تر بسط داد. تفسیرِ آن به‌عنوان هنجاری برای باورِ عقلانی — و نه واقعیتی دربارهٔ بسامدها — متعلق به سدهٔ بیستم است: فرانک رمزی و برونو دِفینتی مستقلاً نشان دادند درجاتِ باوری که اصولِ احتمال را نقض کنند شما را در معرضِ باختِ تضمینی می‌گذارند، و همین ریاضیات را به استدلالی دربارهٔ عقلانیت بدل کرد.

4مثالِ کلاسیک

بیماری‌ای نادر، آزمایشی دقیق، نتیجه‌ای مثبت — و احتمالِ پسین همچنان پایین است، چون پیشین بسیار پایین بود. آزمایش خطا نکرد؛ شهود خطا کرد.

5اعتراض‌ها و پاسخ‌ها

اعتراض. احتمالاتِ پیشین از کجا می‌آیند؟ دو نفر با داده‌ای یکسان و پیشین‌های متفاوت به نتایج متفاوت می‌رسند و هر دو سازگارند.

پاسخ. این قوی‌ترین اعتراض است و پاسخِ تمیزی ندارد — همان سه‌راهی است در جامهٔ احتمال. دفاعِ صادقانه این است که بیزگرایی مسئله را حل نمی‌کند بلکه انتخاب را صریح، بازبینی‌پذیر و آزمون‌پذیر از نظر حساسیت می‌سازد، و این بهتر از پیشینی ضمنی است که کسی نمی‌بیندش.

اعتراض. مسائلِ واقعی از نظر محاسباتی حل‌نشدنی‌اند و آدم‌های واقعی نمی‌توانند این حساب را انجام دهند.

پاسخ. تا حد زیادی درست است، و کارِ گیگرنزر نشان می‌دهد ابتکارهای ساده اغلب در محیط‌های طبیعی به‌اندازهٔ به‌روزرسانیِ صوری یا بهتر عمل می‌کنند. اما انضباطِ کیفی از این اعتراض جان به در می‌برد: پرسیدنِ «پیشینِ من چیست و این چقدر آن را جابه‌جا می‌کند» حتی وقتی هیچ عددی محاسبه نمی‌کنید استدلال را بهتر می‌کند.

اعتراض. همهٔ عدمِ‌قطعیت را احتمال می‌انگارد، اما برخی عدمِ‌قطعیت‌ها کمّی‌شدنی نیستند — عدمِ‌قطعیتِ نایتی، یا بدمشخصه‌بودنِ عمیقِ مدل.

پاسخ. محدودیتی جدی است. آنجا که فضای فرضیه‌ها را نمی‌شناسید، چیزی نیست که رویش پیشین بگذارید. کارِ منسکی دربارهٔ «شناساییِ جزئی» یکی از پاسخ‌هاست: به‌جای برآوردِ نقطه‌ایِ کاذب، کران‌های صادقانه گزارش کنید.

6با این‌ها اشتباه نگیرید

P(A|B) و P(B|A)

این دو مرتب جابه‌جا می‌شوند و همین جابه‌جایی پرپیامدترین خطای آمارِ کاربردی است. «احتمالِ این داده اگر فرضِ صفر صادق باشد» با «احتمالِ صادق‌بودنِ فرضِ صفر با داشتنِ این داده» یکی نیست. مقدارِ p دقیقاً به همین خلط دعوت می‌کند.

قوّتِ شواهد در برابر قوّتِ باور

نسبتِ درست‌نمایی شواهد را می‌سنجد. احتمالِ پسینِ شما باورتان را می‌سنجد و به پیشین هم وابسته است. شاهدی قوی به سودِ ادعایی نامحتمل می‌تواند همچنان شما را ناباور بگذارد، و این درست است نه لجاجت.

7خطاهای رایج

  • گزارشِ احتمالِ پسین بدون بیانِ پیشینی که از آن آمده. آن عدد بدون این تفسیرناپذیر است.
  • به‌روزرسانیِ دوباره بر پایهٔ همان شواهد، چون از دو مجرا رسیده که مستقل نبوده‌اند.
  • شمردنِ «سازگار با فرضیهٔ من» به‌عنوان شاهد. اگر با فرضیهٔ رقیب هم به همان اندازه سازگار باشد، نسبتِ درست‌نمایی یک است و چیزی نیاموخته‌اید.

8در کارِ شما

سودمندترین ابزار صوریِ این مجموعه. اگر صادقانه به کار رود، «مخالفم» را به «پیشینِ من متفاوت است و دلیلش این است» بدل می‌کند، که بحثی است که واقعاً می‌توان کرد.

9خودآزمایی

همکاری می‌گوید یافته‌ای تازه مدل را «تأیید می‌کند». کدام پرسشِ واحد نشان می‌دهد واقعاً چقدر تأیید می‌کند؟

نمایش پاسخ

اگر مدل نادرست بود، این یافته چقدر محتمل بود؟ این مخرجِ نسبتِ درست‌نمایی است و همان عددی است که کسی محاسبه‌اش نمی‌کند. اگر روایتی رقیب همان یافته را کمابیش به همان قوّت پیش‌بینی کند، نسبت نزدیک به یک است و آن یافته تزئین است. تأیید دربارهٔ جورشدن با فرضیهٔ شما نیست؛ دربارهٔ فاصلهٔ میانِ جورشدن با فرضیهٔ شما و جورشدن با بدیل‌هاست.