Probabilitas untuk ML: Bayes, Gaussian & MLE

Pemikiran Probabilistik dalam AI

Machine learning menangani ketidakpastian dunia nyata melalui model probabilitas.

Teorema Bayes: Mesin Inference

$P(A|B) = \frac{P(B|A) \cdot P(A)}{P(B)}$

• Prior $P(A)$: Keyakinan awal sebelum mengamati bukti.
• Likelihood $P(B|A)$: Probabilitas melihat data $B$ jika hipotesis $A$ benar.
• Posterior $P(A\mathrm{\mid }B)$: Keyakinan yang diperbarui setelah melihat data.

Maximum Likelihood Estimation (MLE)

Sebagian besar fungsi loss modern (seperti Cross-Entropy Loss pada LLM dan Mean Squared Error pada regresi) diturunkan dari prinsip MLE — mencari parameter $\theta$ yang memaksimalkan probabilitas data teramati:

$\theta_{\text{MLE}} = \arg\max_\theta \sum_{i} \log P(x_i | \theta)$