استنباط بیزی

در علم آمار دو مکتب به نامهای مکتب فراوانی گرایانه (به انگلیسی: Frequentist) و مکتب بیزین (به انگلیسی: Bayesian) وجود دارد. در مکتب فراوانی گرایانه تنها به مشاهدات و بسامد رخدادها استناد می شود و بر حسب آن می توان مسایل را حل کرد، در حالیکه در روش بیزین علاوه بر مشاهدات، اطلاعات و باورهای اولیه محقق نیز مهم است و در حل مسئله و نتیجه گیری مورد نظر قرار می گیرند. برای مثال یک محقق فراوانی گرا که در حال سپری کردن یک زمستان سرد و تاریک در قطب جنوب هست ممکن است نتیجه گیری کند که طبق مشاهدات خورشید از بین رفته است ولی یک محقق بیزین با استناد به اطلاعات اولیه خود (تاریکی قطب جنوب در طول زمستان) علی رغم عدم مشاهده خورشید برای مدت طولانی به چنین نتیجه ای نخواهد رسید. تفاوت دیگر این دو مکتب عبارت است از اینکه در مکتب بیز مجهولات متغیرهای تصادفی هستند به این معنی که بر خلاف مکتب فراوانی گرایانه مجهولات در مکتب بیزین دارای یک جواب ثابت نیستند بلکه یک تابع احتمال برای مجهول به دست می آید که احتمال مقادیر مختلف را برای مجهول مورد نظر می دهد. برای مثال در روش فراوانی گرایانه یک فرد یا بیمار است یا نیست در حالی که در روش بیزین یک فرد می تواند با احتمال ۳۰٪ بیمار و با احتمال ۷۰٪ سالم باشد.
ماکسیمم معلول به علت رسیده(MAP)
ماکسیمم احتمال (ML)
مینیمم متوسط مجذور خطا(MMSE)
مینیمم متوسط اندازه خطا (MAVE)به عنوان حالت خاص در نظر گرفت.
در روش تخمین بیزی یا استنباط بیزی به یک تخمین اولیه از مجهول یا مجهولات نیاز هست. این تخمین عبارت است از اطلاعات یا باور اولیه محقق (به انگلیسی: Prior knowledge) که به صورت یک تابع احتمال ریاضی بیان می شود. سپس مشاهداتی انجام و اطلاعاتی در مورد مجهولات مورد نظر توسط محقق جمع آوری شده و با استفاده از این اطلاعات جدید تابع احتمال اولیه به روزرسانی (update) می شود. با جمع آوری اطلاعات بیشتر و به روزرسانی توابع احتمال متناظر با مجهولات می توان توابع توزیع احتمال دقیق تر و تخمین بهتری به دست آورد.
درایتون(Drayton). (1978) در مقدمه ای که به منظور معرفی استفاده از روش بیزین در فراتحلیل برای مسائل علوم انسانی نوشته است، می گوید که دستیابی به روابط علت و معلولی عام، مستلزم تکرار آزمایش های مکرر است. از آن جا که چنین فعالیت هایی مستلزم طرح ریزی اولیه و هماهنگی بین محققان مختلف هستند و اجرای این هماهنگی تقریباً غیرممکن است، درایتون پیشنهاد می کند که برای حصول به هدف بحث شده، از روش های ترکیبی استفاده شود.
در روش بیزین سه مرحله به شرح زیر است: