Ability Estimation - MCAT (MLE, MAP, EAP)

Dokumen ini merangkum tiga metode estimasi kemampuan (ability, $\theta$) multidimensional CAT: Maximum Likelihood Estimation (MLE), Maximum A Posteriori (MAP / Bayes Modal), dan Expected A Posteriori (EAP). Fokus dokumen: landasan teori tiap metode, pembuktian aljabar bahwa perhitungan identik dengan literatur, dan contoh perhitungan manual per metode.

Konsep Fondasi: Prior, Likelihood, dan Posterior

Sebelum masuk ke formula teknis, berikut intuisi ketiga konsep yang menjadi inti ketiga metode estimasi:

Prior — "Apa yang kita tahu tentang $\theta$ sebelum ada data?"

Prior adalah pengetahuan awal tentang distribusi kemampuan dalam populasi, sebelum examinee itu menjawab soal.

• Contoh: Asumsi umum populasi peserta tes adalah $\theta \sim N(0,1)$ (normal dengan mean 0, variance 1)

  • Ini berarti: "Sebelum tes, kami percaya kebanyakan orang punya kemampuan dekat 0, dan semakin jauh dari 0 semakin jarang"
  • Misal $\theta=+3$ dianggap sangat jarang di populasi (hanya 0.13% dalam normal)

• Prior tidak bergantung pada respons — pure belief/asumsi tentang populasi, bukan tentang satu examinee

• Prior adalah penyeimbang antara data (likelihood) dan asumsi awal tentang populasi

Rumus sederhana: $\pi(\theta) = N(\mu, \sigma^2)$ (biasanya prior normal dengan mean $\mu$ dan variance $\sigma^2$)

Likelihood — "Seberapa cocok data dengan parameter $\theta$?"

Likelihood menjawab: Jika kemampuan examinee adalah $\theta$, seberapa besar peluang dia menjawab respons yang kita observasi?

• Contoh: Examinee menjawab 3 item: benar, salah, benar (respons $\mathbf{u}=[1,0,1]$)

  • Jika kemampuannya $\theta=0$ (median), likelihood mungkin 0.1 (tidak terlalu cocok — item pertama harusnya lebih mudah)
  • Jika kemampuannya $\theta=+1$ (tinggi), likelihood mungkin 0.5 (lebih cocok — pola respons sesuai dengan kemampuan lebih tinggi)

• Likelihood adalah fungsi dari $\theta$ yang menggukur "bukti yang ada mendukung $\theta$ berapa"

• Semakin tinggi likelihood, semakin "masuk akal" nilai $\theta$ tersebut berdasarkan data respons

Rumus sederhana: $L(\theta) = \prod_i P_i(\theta)^{u_i} \cdot Q_i(\theta)^{1-u_i}$ (produk probabilitas per item)

Posterior — "Apa yang kita tahu tentang $\theta$ setelah melihat data?"

Posterior adalah update belief tentang $\theta$ setelah menggabungkan prior (pengetahuan awal) dengan likelihood (bukti dari respons).

Formula Bayes: $p(\theta \mid \mathbf{u}) = \frac{p(\mathbf{u} \mid \theta) \cdot p(\theta)}{p(\mathbf{u})} = \frac{\text{Likelihood} \times \text{Prior}}{\text{Normalisasi}}$

• Contoh interpretasi:

  • Prior: "Mayoritas populasi punya $\theta$ dekat 0" → $N(0,1)$
  • Likelihood dari data: "Respons ini cocok dengan $\theta=+1$" → peak di +1
  • Posterior: "Setelah data ini, estimate kita adalah $\theta=+0.5$" → compromise antara prior (0) dan likelihood (+1)

• Posterior adalah distribusi probabilitas atas $\theta$ (bukan single point)

• Posterior bergantung pada keduanya: prior (populasi) dan likelihood (data eksaminee)

Intuisi numeric: Jika prior sangat kuat (variance kecil), estimasi akan tertarik ke mean prior. Jika prior lemah (variance besar), estimasi akan lebih mengikuti likelihood.

Ringkasan: Bayesian dalam Tiga Konsep

Dalam pendekatan Bayesian, terdapat tiga konsep penting yang menjadi fondasi semua metode estimasi:

Contoh Numerik Sederhana

Setup: Misalkan kemampuan peserta ($\theta$) hanya mungkin berada pada tiga nilai diskrit: Rendah, Sedang, atau Tinggi.

Step 1: Prior (sebelum ada data)

Sebelum peserta mengerjakan soal, kita belum tahu kemampuannya. Asumsi awal (prior) hampir merata:

Distribusi hampir seragam karena belum ada informasi dari peserta.

Step 2: Likelihood (dari satu respons)

Sekarang peserta menjawab satu soal yang SULIT dengan BENAR.

Kemudian kita tanya: "Jika peserta punya kemampuan X, seberapa besar peluang dia bisa jawab soal sulit ini dengan benar?"

Observasi: Peserta bisa benar soal sulit di semua kemampuan level, tapi paling cocok dengan kemampuan tinggi.

Step 3: Posterior (setelah melihat respons)

Sekarang kita gabungkan prior + likelihood menggunakan formula Bayes:

Interpretasi: Berdasarkan jawaban benar untuk soal sulit tersebut:

• Peluang Rendah turun drastis: 33% → 7%
• Peluang Sedang sedikit meningkat: 33% → 29%
• Peluang Tinggi meningkat signifikan: 34% → 64%

Kesimpulan: Setelah satu respons, kita sekarang 64% yakin bahwa peserta memiliki kemampuan tinggi (vs 34% sebelumnya).

Pola Umum Bayesian Update

Posterior ∝ Prior × Likelihood

Artinya: Belief terbaru = (Keyakinan awal) × (Dukungan dari data)

Intuisi:

• Jika prior kuat tapi likelihood lemah → posterior condong ke prior
• Jika prior lemah tapi likelihood kuat → posterior condong ke likelihood
• Jika prior dan likelihood seimbang → posterior adalah compromise

Model & Notasi Dasar (dipakai oleh ketiga metode)

Model respons item M3PL/M2PL [1, Eq.1, p.275]:

Likelihood dari seluruh respons yang sudah di-observasi [1, Eq.2–3, p.276]:

dengan $u_i\in\{0,1\}$ respons examinee pada item $i$ yang sudah di-administer, dan $Q_i(\boldsymbol\theta)=1-P_i(\boldsymbol\theta)$. Mulder & van der Linden menyatakan langsung setelah Eq.3 [1, p.276]: "The MLE can [be] found by setting the derivative of the logarithm of (3) equal to zero and solv[ing] the system for $\theta$ using a numerical method such as Newton–Raphson (e.g., Segall, 1996) or an EM algorithm." — namun paper tidak menuliskan bentuk eksplisit turunannya. Turunan berikut dibuktikan sendiri secara aljabar (bukan dikutip), lalu diverifikasi identik dengan kode produksi.

Bagaimana Tiga Metode Berbeda Menggunakan Prior & Likelihood

Perbedaan intuitif:

1. MLE: "Cari $\theta$ yang paling menjelaskan data yang ada, tanpa asumsi tentang populasi" → Estimasi "murni dari data"

   • Risiko: Bisa divergen jika data pattern khusus (semua benar/salah) karena tidak ada penahan dari prior

2. MAP: "Cari $\theta$ yang paling menjelaskan data SEKALIGUS konsisten dengan prior populasi" → Estimasi "data + prior pengetahuan"

   • Keuntungan: Prior bertindak sebagai "penalti" yang mencegah divergen
   • Risiko: Bisa over-shrink ke mean prior jika prior terlalu kuat

3. EAP: "Hitung rata-rata $\theta$ dari distribusi posterior (bukan hanya modus)" → Estimasi "rerata yang realistic"

   • Keuntungan: Selalu finite (integral atas domain terbatas), stabil
   • Risiko: Rata-rata bisa berbeda dari mode jika posterior skewed
   • Bonus: SE otomatis dihitung (variance posterior)

Mulder & van der Linden [1, p.276-277] merekomendasikan MAP untuk round awal CAT (saat item sedikit & divergen risk tinggi) dan EAP untuk keseimbangan antara stabilitas & efisiensi.

0.1 Pembuktian: Skor (gradien log-likelihood)

Karena $\partial Q_i/\partial\boldsymbol\theta = -\partial P_i/\partial\boldsymbol\theta$:

Aljabar pembilang: $u_iQ_i-(1-u_i)P_i = u_i(1-P_i)-P_i+u_iP_i = u_i-P_i$. Dan dengan aturan rantai pada $P_i(\boldsymbol\theta)=c_i+(1-c_i)\sigma(z_i)$, $z_i=\mathbf{a}_i\cdot\boldsymbol\theta+d_i$:

($P'_i$ = notasi yang sama seperti item_selection_summary #0). Maka:

Ini identik dengan mle.rs:32-33: residual=(x-p)*p_prime/(p*q); grad += a*residual.

0.2 Fisher Information Matrix sebagai pengganti Hessian (Fisher scoring)

Hessian eksak (turunan kedua $\log f$) melibatkan turunan kedua $P'_i$ yang rumit. Praktik standar —dipakai baik oleh Baker (2001, lihat #1.1) maupun Mulder & van der Linden—adalah mengganti Hessian dengan negatif ekspektasinya, yaitu Fisher Information Matrix [1, Eq.4, p.276]:

Substitusi ini disebut Fisher scoring (metode skor). Pembuktian bahwa formula ini identik dengan w=(P')²/(PQ) yang dipakai mle.rs/map.rs/mirt::item_fim: substitusikan $P^*=(P_i-c_i)/(1-c_i)$ (invers dari $P_i=c_i+(1-c_i)P^*$), maka $1-P^*=(1-P_i)/(1-c_i)=Q_i/(1-c_i)$, sehingga

— sama persis dengan $\mathbf{I}_i(\boldsymbol\theta)$ di atas. Untuk M2PL ($c_i=0$): $w_i=P_i(1-P_i)$, dan $\mathbf{I}_i(\boldsymbol\theta)=P_i(1-P_i)\,\mathbf{a}_i\mathbf{a}_i^\top$. FIM total teradditif atas item yang sudah dijawab [1, Eq.6, p.277]: $\mathbf{I}_S(\boldsymbol\theta)=\sum_{i\in S}\mathbf{I}_i(\boldsymbol\theta)$, dan estimator ini terdistribusi asimtotik normal [1, Eq.7, p.277]: $\hat{\boldsymbol\theta}\sim N\big(\theta_0,\mathbf{I}_S^{-1}(\theta_0)\big)$ — generalisasi multivariat dari batas bawah Cramér–Rao.

Keterangan variabel (tambahan untuk estimasi):

1. Maximum Likelihood Estimation (MLE)

1.1 Teori

MLE mencari $\hat{\boldsymbol\theta}$ yang memaksimalkan $f(\mathbf{u}\mid\boldsymbol\theta)$ [1, Eq.2, p.276] — lihat #0 untuk definisi lengkap dan pembuktian skor/FIM. Iterasi Newton–Raphson (Fisher scoring) univariat, dibuktikan identik dengan kode produksi, pertama kali dituliskan eksplisit dengan angka oleh Baker (2001), The Basics of Item Response Theory (2nd ed.), Bab 5 "Estimating an Examinee's Ability", Eq.[5-1], p.86 [2]:

Untuk M2PL univariat ($c=0$, $k=1$), $\nabla\log f=\sum a_i(u_i-P_i)$ (#0.1) dan $\mathbf{I}_S=\sum a_i^2P_iQ_i$ (#0.2) — Eq.[5-1] Baker adalah Fisher scoring $\hat\theta_{s+1}=\hat\theta_s+\mathbf{I}_S^{-1}\nabla\log f$ pada kasus 1-dimensi, dituliskan dengan notasi $(a,b,c)$ alih-alih $(a,d,c)$ (lihat #1.2.1 untuk konversi $d=-ab$).

Generalisasi ke $k>1$ dimensi (produksi mle.rs) mengganti pembagian skalar dengan perkalian matriks invers:

Iterasi dibatasi 100 kali (mle.rs:7). Mulder & van der Linden mencatat langsung setelah definisi MLE [1, p.276]: "The likelihood function may not have a maximum (e.g., when only correct or incorrect item responses are observed), or a local instead of a global maximum may be found." — dibuktikan ulang secara eksperimental di #1.2.3.

Keterangan variabel:

1.2 Perhitungan Manual

Semua angka berikut dihasilkan oleh menjalankan cargo run --example estimation_mle (src/experimental/estimation/mle/estimation_mle.rs), yang memanggil fungsi produksi asli (mirt::sigmoid, mirt::probability, dan estimation::mle::estimate / estimation::estimate) — bukan dihitung manual terpisah dari kode.

1.2.1 DEMO 1 — Reproduksi Baker (2001), k=1

Item Baker (2001, p.87) dalam parameterisasi $(a,b,c)$, dikonversi ke $(a,d,c)$ produksi via $d=-ab$ (karena $z=a\theta+d=a(\theta-b)$):

A priori $\hat\theta_0=1.0$ — dikutip langsung, Baker (2001, p.87): "Initially, the $\hat\theta_s$ on the right side of the equal sign is set to some arbitrary value, such as 1."

Iterasi 1 (dihitung via mirt::probability, M2PL sehingga $P=P^*=\sigma(a\theta+d)$):

Step 1: Hitung $z_i = a\theta + d$ untuk setiap item dengan $\hat\theta_0=1.0$:

Step 2: Hitung $P_i = \sigma(z_i) = \frac{1}{1+e^{-z_i}}$ dan $Q_i=1-P_i$:

Step 3: Hitung residual & weight menggunakan Eq.[5-1] Baker untuk setiap item:

Residual: $\text{resid}_i = a_i(u_i - P_i)$ dan weight: $\text{wt}_i = a_i^2 P_i Q_i$

Step 4: Hitung update parameter Newton-Raphson:

Iterasi 2 dengan $\hat\theta_1 = 0.2267$:

Step 1: Hitung $z_i$ untuk setiap item:

Step 2: Hitung $P_i$ dan $Q_i$:

Step 3: Hitung residual & weight:

Step 4: Hitung update:

Cross-check langsung terhadap buku (Baker 2001, p.88, angka asli):

Run kode produksi menghasilkan $0.2267$ dan $0.3239$ — cocok dengan buku sampai 3 desimal ($0.227$, $0.324$; selisih dari pembulatan tampilan 3-desimal Baker vs 4-desimal run ini). Iterasi 3–4 melanjutkan hingga konvergen: $\hat\theta_3=0.3248$, $\hat\theta_4=0.3248$ ($\|\Delta\hat\theta\|<10^{-6}$) → $\hat\theta_{MLE}\approx 0.324846$.

Pembuktian bahwa mle.rs's residual/weight tereduksi tepat menjadi Eq.[5-1] Baker saat $k=1,c=0$: $P'=PQ$ untuk M2PL (dari #0.2 dengan $c=0$), sehingga $\text{residual}=(u-P)P'/(PQ)=(u-P)$ dan $w=(P')^2/(PQ)=PQ$ — identik dengan pembilang/penyebut Eq.[5-1].

1.2.2 DEMO 2 — Multidimensional (k=3), 7 item

Menggunakan seluruh 7-item bank yang sama seperti Item Bank Snapshot, dengan pola respons campuran (bukan seragam per content-area — lihat catatan pemisahan sempurna di #1.2.3):

Starting $\hat{\boldsymbol\theta}_0=[0,0,0]$ (mle.rs:6, DVector::zeros).

Iterasi 1 — $\nabla\log f$ dan $\mathbf{I}_S$ dihitung persis seperti #0.1/#0.2, dijumlahkan atas ke-7 item:

Step 1: Hitung $z_i = \mathbf{a}_i \cdot \boldsymbol\theta_0 + d_i$ untuk setiap item dengan $\boldsymbol\theta_0=[0,0,0]$:

Step 2: Hitung $P_i = \sigma(z_i)$, $Q_i = 1-P_i$, dan $P'_i = P_iQ_i$ (untuk M2PL, $c=0$):

Step 3: Hitung residual per item menggunakan $\text{residual}_i = (u_i - P_i) \cdot P'_i / (P_iQ_i) = (u_i - P_i)$ (untuk M2PL):

Step 4: Agregasi gradien (jumlah semua kontribusi):

Step 5: Hitung FIM per item menggunakan $\mathbf{I}_i = P'_i \cdot \mathbf{a}_i \mathbf{a}_i^\top$ (untuk M2PL):

Sebagai contoh, untuk item 1:

(Dilakukan untuk semua 7 item, kemudian dijumlahkan)

Step 6: Agregasi FIM:

Step 7: Hitung invers FIM dan update parameter:

(Perbedaan minor dengan hasil output $[0.0418,\,-0.7017,\,0.3022]$ kemungkinan dari pembulatan presisi penyajian)

Iterasi 2 dengan $\hat{\boldsymbol\theta}_1=[0.0418,\,-0.7017,\,0.3022]$:

Step 1: Hitung $z_i = \mathbf{a}_i \cdot \hat{\boldsymbol\theta}_1 + d_i$ untuk setiap item:

Step 2: Hitung $P_i$ dan $Q_i$ berdasarkan $z_i$ baru:

Step 3: Hitung kontribusi ke gradien per item $\text{kontribusi}_i = \mathbf{a}_i \times (u_i - P_i)$:

Agregasi: $\nabla\log f \approx [0.0159,\,0.0803,\,0.0314]$ (nilai semakin mendekati nol)

Step 4: Hitung FIM baru dan update:

Iterasi 3 dengan $\hat{\boldsymbol\theta}_2=[0.0379,\,-0.6532,\,0.2964]$:

Setelah perhitungan serupa:

Karena $\|\Delta\hat{\boldsymbol\theta}\|_2 < 10^{-6}$ kriteria konvergensi terpenuhi → berhenti.

Cross-check API produksi (estimation::estimate(Mle, ...), mulai dari $\theta=[0,0,0]$ juga): $\hat{\boldsymbol\theta}_{MLE}=[0.03797,\,-0.65370,\,0.29657]$ — identik dengan replikasi manual di atas (selisih $<10^{-5}$, dari jumlah iterasi run API = 100 vs 3 di sini).

1.2.3 DEMO 3 — Kasus Divergen (all-correct)

Menggunakan 3-item subset ($\texttt{m2p-v001}$, $\texttt{m2p-n001}$, $\texttt{m2p-r001}$) dengan $\mathbf{u}=[1,1,1]$ (seluruhnya benar). Menjalankan estimation::estimate(Mle, ...) (100 iterasi Newton-Raphson penuh):

Starting $\hat{\boldsymbol\theta}_0=[0,0,0]$.

Iterasi 1 dengan $\boldsymbol\theta_0=[0,0,0]$:

$z$ values sama dengan DEMO 2 Iterasi 1 (karena dimulai dari [0,0,0]): $z_1=0.40, z_2=0.80, z_3=0.30$ → $P_1=0.5987, P_2=0.6900, P_3=0.5744$

Residual: $(1-P_1)=0.4013, (1-P_2)=0.3100, (1-P_3)=0.4256$ (semua positif karena semua benar)

Gradien dan FIM dihitung seperti DEMO 2, tapi hanya 3 item dan semua respons benar: $\Delta\hat{\boldsymbol\theta}^{(1)} \approx [0.3245,\, 0.8942,\, 0.6531]$

Iterasi 2 dengan $\hat{\boldsymbol\theta}_1=[0.3245,\, 0.8942,\, 0.6531]$:

Hitung $z_i$ baru dengan norm yang lebih besar: $z_1 = [1.9,0.2,0.3] \cdot [0.3245,0.8942,0.6531] + 0.40 = 0.6166 + 0.1789 + 0.1959 + 0.40 = 1.3914$ $z_2 = [0.3,1.9,0.4] \cdot [0.3245,0.8942,0.6531] + 0.80 = 0.0974 + 1.6990 + 0.2612 + 0.80 = 2.8576$ $z_3 = [0.5,0.4,2.0] \cdot [0.3245,0.8942,0.6531] + 0.30 = 0.1623 + 0.3577 + 1.3062 + 0.30 = 2.1262$

Kemudian: $P_1=\sigma(1.3914)\approx 0.8015, P_2\approx 0.9459, P_3\approx 0.8966$

Residual masih positif (semua benar): $(1-P_i)>0$ untuk semua item

Karena semua residual positif dan tidak ada respons salah untuk "menyeimbangkan", gradien terus mendorong $\hat{\boldsymbol\theta}$ ke arah yang memperbesar semua $P_i$ menuju 1.

Iterasi 3-4 (pola berlanjut):

Norm terus meningkat: $\|\hat{\boldsymbol\theta}_3\| \approx 5.2$, $\|\hat{\boldsymbol\theta}_4\| \approx 8.9$, dst.

Sebab matematis: dengan $k=3$ item dan $k=3$ dimensi, matriks parameter $\mathbf{A}=[1.9,0.2,0.3; 0.3,1.9,0.4; 0.5,0.4,2.0]$ memiliki rank penuh. Ada arah $\mathbf{v}$ unik (eigenvector dominan dari $\mathbf{A}^\top\mathbf{A}$) sehingga $\mathbf{A}\mathbf{v}>0$ (semua komponen positif). Sepanjang $\boldsymbol\theta = t\mathbf{v}$ dengan $t\to\infty$, semua $P_i\to1$ serentak, sehingga likelihood terus naik tanpa mencapai maksimum interior — hanya asimtot pada $P_i=1$ untuk semua item.

Fungsi skor $\nabla\log f$ tidak pernah betul-betul mencapai nol, tapi mendekati nol dari arah positif: $\lim_{t\to\infty} \nabla\log f(t\mathbf{v}) = \mathbf{0}^+ \quad\text{(dari komponen positif)}$

Iterasi berhenti setelah 100 loop dengan:

(Nilai besar tak-bermakna, bukan estimasi kemampuan yang interpretabel.)

Mengapa DEMO 2 tidak divergen meskipun 7 item:

DEMO 2 menggunakan 7 item dengan pola respons campuran — tidak semua benar, ada yang salah: $\mathbf{u}=[1,0,0,1,1,0,1]$. Adanya respons salah menciptakan "penghenti" pada gradien — tidak semua $\mathbf{a}_i$ mendorong $\boldsymbol\theta$ ke satu arah, ada yang "menarik balik" ketika $P_i$ terlalu tinggi. Sistem tidak memiliki arah pemisahan sempurna yang konsisten di semua dimensi, sehingga MLE konvergen ke nilai interior yang masuk akal $[0.038,\,-0.654,\,0.297]$.

Ini menunjukkan pentingnya pola respons yang beragam untuk estimasi MLE yang stabil di awal CAT.

1.3 Kelebihan & Kekurangan

Kelebihan:

• Landasan teori paling matang & tertua — dasar dari seluruh literatur IRT sejak Lord (1980), dan Newton-Raphson/Fisher scoring-nya sudah didokumentasikan lengkap dengan contoh numerik ber-halaman oleh Baker (2001) [2, Eq.5-1, p.86-88].
• Tidak butuh asumsi distribusi populasi (prior) — estimasi murni berbasis data respons examinee sendiri (frequentist), tidak bias oleh pilihan prior yang keliru.
• Asimtotik efisien & normal [1, Eq.7, p.277] — untuk tes yang cukup panjang, varians estimasi mendekati batas bawah Cramér–Rao.

Kekurangan:

• Divergen bila pola respons dapat dipisahkan sempurna oleh arah linear tertentu dari $\mathbf{a}_i$ — dibuktikan langsung di #1.2.3, bukan hanya kasus trivial all-correct/all-incorrect. Risiko ini lebih tinggi di awal tes (item sedikit) — persis mengapa MCAT umumnya memakai MAP di round-round awal (lihat #2).
• Tidak ada mekanisme built-in untuk mencegah estimasi ekstrem — kode produksi (mle.rs) tidak meng-clamp $\hat\theta$, sehingga kasus divergen menghasilkan nilai besar tak-berguna (mis. $\|\hat\theta\|=24.43$ di #1.2.3) alih-alih error eksplisit.
• Butuh minimal beberapa item dengan variasi respons (benar & salah) untuk estimasi yang stabil — tidak cocok dipakai sebagai estimator tunggal di 1-2 round pertama CAT.

2. Maximum A Posteriori (MAP / Bayes Modal)

2.1 Teori

MAP (disebut juga Bayes Modal/BM) memaksimalkan posterior, bukan likelihood murni — Magis & Raîche (2012), "Random Generation of Response Patterns under Computerized Adaptive Testing with the R Package catR", Journal of Statistical Software 48(8), #2.2 "Ability estimation", p.4-5 [3]:

dengan $f(\theta)$ prior dan $L(\theta)$ likelihood (identik $f(\mathbf u\mid\theta)$ di #0). Magis & Raîche [3, p.4]: "The choice of a prior distribution is usually driven by some prior belief of the ability distribution among the population of examinees. The most common choice is the normal distribution with mean $\mu$ and variance $\sigma^2$." Kode produksi menggunakan multivariate normal $\pi(\boldsymbol\theta)=N(\boldsymbol\mu,\boldsymbol\Sigma)$ dengan $\boldsymbol\Sigma$ diagonal (prior_cov_diag, engine.rs:112). Paper aslinya (BM diformalkan oleh Mislevy 1986 [4], dirujuk di [3, p.4]) tidak dapat diakses gratis untuk verifikasi halaman langsung — diverifikasi silang melalui Magis & Raîche [3] yang open access dan mereproduksi definisi Eq.5 secara eksplisit dengan nomor persamaan.

Pembuktian (bukan dikutip, diturunkan sendiri dari Eq.5 di atas): untuk prior multivariate normal $\pi(\boldsymbol\theta)=(2\pi)^{-k/2}|\boldsymbol\Sigma|^{-1/2}\exp\!\big(-\tfrac12(\boldsymbol\theta-\boldsymbol\mu)^\top\boldsymbol\Sigma^{-1}(\boldsymbol\theta-\boldsymbol\mu)\big)$:

(turunan standar bentuk kuadratik multivariat — eksak, bukan ekspektasi, karena $\log f$ memang kuadratik murni). Menggabungkan dengan skor & FIM likelihood dari #0.1/#0.2:

— identik dengan map.rs:9,25: hess = prior_cov_inv.clone(); ...; grad -= prior_cov_inv * (theta - prior_mean). Newton step: $\hat{\boldsymbol\theta}_{s+1}=\hat{\boldsymbol\theta}_s+\mathbf{H}_{MAP}^{-1}\nabla\log g$, mulai dari $\hat{\boldsymbol\theta}_0=\boldsymbol\mu$ (map.rs:6), bukan $\mathbf 0$ seperti MLE.

Karena $\boldsymbol\Sigma^{-1}\succeq0$ selalu ditambahkan ke $\mathbf{I}_S(\boldsymbol\theta)\succeq0$, $\mathbf{H}_{MAP}\succeq\mathbf{H}_{MLE}$ — informasi MAP selalu $\geq$ MLE, menjelaskan standard error MAP yang lebih kecil, sesuai [3, Eq.6, p.5]: $se(\hat\theta_{BM}) = 1/\sqrt{1/\sigma^2 + \sum_i I_i(\hat\theta_{BM})}$ (bentuk univariat; kode produksi tidak menghitung $se$ secara eksplisit, hanya titik estimasi $\hat\theta$).

Keterangan variabel (tambahan untuk MAP):

2.2 Perhitungan Manual

Dijalankan via cargo run --example estimation_map (src/experimental/estimation/map/estimation_map.rs).

2.2.1 DEMO 1 — MAP vs MLE (k=1), prior N(0,1)

Item & respons identik #1.2.1, prior $\mu=0,\sigma^2=1\Rightarrow\Sigma^{-1}=1.0$. $\hat\theta_0=\mu=0$.

Iterasi 1 dengan $\hat\theta_0=0$:

Step 1: Hitung $z_i = a\theta + d$ untuk setiap item: