Beklenti maksimizasyon

İstatistikte, Beklenti maksimizasyon (İngilizce: Expectation-maximization) algoritması, gözlemlenemeyen gizli değişkenlere bağlı istatistiksel modellerin parametrelerinin enbüyük olabilirlik ya da enbüyük artçıl tahminlerinin bulunması için kullanılan bir yinelemeli arama yöntemidir. Beklenti maksimizasyonu, beklenti (B) adımı ve maksimizasyon (M) adımı olarak iki adımın art arda tekrarlanmasıyla gerçekleşir. B-adımı parametrelerin o anki tahminlerini kullanarak bir log-olabilirlik beklentisi fonksiyonu oluşturur. M adımı parametre değerlerini log-olabilirlik beklentisini maksimize edecek şekilde günceller. Yani bu iki adımın her biri diğerinin girdisini hesaplayarak birbirini besler. Beklenti maksimizasyon adımları tahmindeki hata miktarı belirli bir oranın altına düşene kadar yinelenir.

Old Faithful faaliyet verisinin beklenti maksimizasyonu ile kümelenmesi. İlk durumdaki rassal model adım adım gözlemlenen veriye uyarlanıyor. İlk adımlarda büyük sıçramalar yapan model, zamanla iki berlirgin kümeye yakınsıyor.

This article is issued from Wikipedia. The text is licensed under Creative Commons - Attribution - Sharealike. Additional terms may apply for the media files.

Makine öğrenmesi ve veri madenciliği

Problemler Sınıflandırma Kümeleme Regresyon Anomali tespiti Association rules Pekiştirmeli öğrenme Yapılandırılmış tahmin Öznitelik mühendisliği Öznitelik öğrenmesi Öznitelik çıkarımı Online öğrenme Yarı-gözetimli öğrenme Gözetimsiz öğrenme Sıralama öğrenme Gramer Tümevarımı
Gözetimli öğrenme Karar ağacı Birlik öğrenmesi k-YK Doğrusal regresyon Naive Bayes Sinir ağları Lojistik regresyon Relevance vector machine (RVM) Support vector machine (SVM) Rastgele orman
Kümeleme BIRCH Hiyerarşik k-means Beklenti maksimizasyon DBSCAN OPTICS Mean-shift
Boyut indirgeme Faktör analizi CCA ICA LDA NMF PCA t-SNE
Yapılandırılmış tahmin Grafiksel modeller (Bayes ağları, CRF, HMM)
Anomali tespiti k-NN Local outlier factor
Sinir ağları Perseptron Autoencoder Derin öğrenme Çok katmanlı perseptron RNN Kısıtlı Boltzmann makinesi SOM Kıvrımlı sinir ağları
Pekiştirmeli öğrenme Q-Learning SARSA Temporal Difference (TD)
Teori Bias-variance ikilemi Hesaplamalı öğrenme teorisi Empirik risk minimizasyonu Occam learning PAC learning İstatistiki öğrenme teorisi VC theory
Konferanslar ve dergiler NIPS ICML ML JMLR ArXiv:cs.LG