The problem of priors asks what rationally constrains your starting probabilities before the current evidence is incorporated.
1The problem it solves
Bayes’ theorem tells you exactly how to update from a prior, but it does not by itself tell you which prior to start with. Two coherent analysts can process the same likelihood and reach different posteriors because their initial odds differ. The formal rule therefore relocates rather than eliminates a foundational problem.
2The idea
Bayes tells you how to update but says nothing about where to start. So where does a prior come from? From another prior — regress. From the data it is supposed to weigh — circularity. Or from stipulation — an arbitrary stop.
Those are the three horns again. Bayesianism does not escape the trilemma; it relocates it into a place where the choice is visible and auditable, which is a genuine gain and should be stated as such rather than as a solution.
3Origin & context
Subjective Bayesian traditions descend from Ramsey, de Finetti, and Savage; attempts at objective or reference priors include work associated with Jaynes and others. The syllabus rightly treats the issue as the Münchhausen trilemma in probabilistic form: priors must be justified by earlier priors, conventions, symmetry principles, or a stopping point.
4Canonical example
Two analysts, the same data, different priors, different conclusions — and both perfectly coherent. Nothing in the mathematics adjudicates between them.
5Objections & replies
Objection. If priors are subjective, Bayesian inference seems able to rationalize any conclusion.
Reply. Coherence alone permits wide initial disagreement, but sufficiently diagnostic repeated evidence can drive many reasonable priors toward convergence. Defenders also demand transparency and sensitivity analysis. Extreme dogmatic priors remain a real problem because they may resist evidence.
Objection. Objective priors based on symmetry or maximum entropy just hide assumptions inside a supposedly neutral rule.
Reply. Yes; no parameterization is automatically innocent. Objective Bayesians defend such priors as principled default conventions for specific information states, not assumption-free truth. Sensitivity to alternative priors is therefore crucial.
6Don't confuse it with
Prior probability and base rate
A base rate is empirical frequency information that often informs a prior. A prior is the whole pre-evidence probability assignment and can include more than base rates.
Prior and bias
A prior is not automatically a cognitive bias. Every Bayesian update needs a starting distribution; the epistemic question is whether it is defensible and whether conclusions are robust to alternatives.
7Common mistakes
- Presenting a posterior as if the data alone produced it while hiding the prior.
- Calling a convenient flat prior 'uninformative' without checking whether flatness changes under reparameterization.
8In your work
The right disclosure standard: state the prior, state where it came from, and show how sensitive the conclusion is to it. That is the whole of methodological honesty in one habit.
9Check yourself
Two analysts use the same data and likelihood but report 20% and 70% posterior probabilities. What is the first diagnostic question?
Show answer
Ask for their priors—and then for prior sensitivity. Bayes does not make disagreement mysterious: posterior differences can be decomposed into starting odds and evidential likelihood ratios.
مسئلهٔ پیشینها میپرسد پیش از واردکردنِ شاهدِ فعلی چه چیزی احتمالاتِ آغازینِ شما را عقلانیاً محدود میکند.
1مسئلهای که حل میکند
قضیهٔ بیز دقیقاً میگوید از یک پیشین چگونه بهروزرسانی کنید، اما خودش نمیگوید از کدام پیشین شروع کنید. دو تحلیلگرِ سازگار میتوانند همان درستنمایی را پردازش کنند و چون شانسِ آغازین متفاوت است پسینهای متفاوت بگیرند. پس قاعدهٔ صوری مسئلهٔ بنیادین را حذف نمیکند، فقط جابهجا میکند.
2ایدهٔ اصلی
بیز میگوید چگونه بهروزرسانی کنید، اما دربارهٔ نقطهٔ آغاز چیزی نمیگوید. پس پیشین از کجا میآید؟ از پیشینی دیگر — تسلسل. از همان دادهای که قرار است سنجیده شود — دور. یا از قرارداد — توقفِ دلبخواه.
اینها باز همان سه شاخاند. بیزگرایی از سهراهی نمیگریزد؛ آن را به جایی منتقل میکند که انتخاب دیدنی و بازبینیپذیر است، و این دستاوردی واقعی است که باید همینگونه بیان شود، نه بهعنوان راهحل.
3خاستگاه و زمینه
سنتهای بیزیِ ذهنی از رمزی، دِفینتی و ساویج میآیند؛ تلاش برای پیشینهای عینی یا مرجع با کارهایی مانند جینز پیوند دارد. در برنامهٔ شما مسئله درست بهعنوان سهراهیِ مونشهاوزن در لباسِ احتمال دیده میشود: پیشین یا با پیشینهای قبلی، قرارداد، اصلِ تقارن یا یک توقف توجیه میشود.
4مثالِ کلاسیک
دو تحلیلگر، همان داده، پیشینهای متفاوت، نتایج متفاوت — و هر دو کاملاً سازگار. هیچ چیز در ریاضیات میان آنها داوری نمیکند.
5اعتراضها و پاسخها
اعتراض. اگر پیشینها ذهنیاند، استنتاجِ بیزی میتواند هر نتیجهای را عقلانی جلوه دهد.
پاسخ. سازگاری بهتنهایی اختلافِ آغازینِ زیادی را اجازه میدهد، اما شواهدِ تکراری و تشخیصی میتوانند بسیاری از پیشینهای معقول را به هم نزدیک کنند. مدافعان شفافیت و تحلیلِ حساسیت نیز میخواهند. پیشینهای جزمیِ افراطی مشکلِ واقعیاند چون شاید در برابر شاهد مقاومت کنند.
اعتراض. پیشینِ عینی بر پایهٔ تقارن یا آنتروپیِ بیشینه فقط فرضها را درونِ قاعدهای ظاهراً خنثی پنهان میکند.
پاسخ. درست است؛ هیچ پارامتربندی خودکار بیطرف نیست. بیزیهای عینی این پیشینها را قراردادهای پیشفرضِ اصولی برای حالتهای اطلاعاتیِ خاص میدانند، نه حقیقتِ بیفرض. بنابراین حساسیت به پیشینهای بدیل ضروری است.
6با اینها اشتباه نگیرید
احتمالِ پیشین و نرخِ پایه
نرخِ پایه اطلاعاتِ فراوانیِ تجربی است که اغلب پیشین را شکل میدهد. پیشین کلِ تخصیصِ احتمال پیش از شاهدِ فعلی است و میتواند بیش از نرخِ پایه را دربر گیرد.
پیشین و سوگیری
پیشین خودکار سوگیریِ شناختی نیست. هر بهروزرسانیِ بیزی نقطهٔ شروع میخواهد؛ پرسشِ معرفتی دفاعپذیری و استحکامِ نتیجه نسبت به بدیلهاست.
7خطاهای رایج
- گزارشِ پسین چنانکه گویی داده بهتنهایی آن را ساخته و پنهانکردنِ پیشین.
- «بیاطلاع» نامیدنِ پیشینِ تختِ راحت بدون بررسیِ اینکه تختبودن با بازپارامتربندی عوض میشود یا نه.
8در کارِ شما
استانداردِ درستِ افشا: پیشین را بیان کنید، بگویید از کجا آمده و نشان دهید نتیجه چقدر به آن حساس است. تمامِ صداقتِ روششناختی در همین یک عادت است.
9خودآزمایی
دو تحلیلگر از همان داده و درستنمایی استفاده میکنند اما احتمالِ پسینِ ۲۰٪ و ۷۰٪ گزارش میدهند. نخستین پرسشِ تشخیصی چیست؟
نمایش پاسخ
پیشینهایشان را بخواهید و سپس حساسیت به پیشین را. بیز اختلاف را مرموز نمیکند: تفاوتِ پسین را میتوان به شانسِ آغازین و نسبتِ درستنماییِ شاهد تجزیه کرد.