Validasi AI medis di rumah sakit: akurasi bukan ukuran tunggal

Angka akurasi tidak menjawab apakah sistem medis berbasis kecerdasan artifisial (artificial intelligence/AI) aman dipakai di rumah sakit tertentu. Nilai itu hanya berlaku pada data, populasi, perangkat, dan alur pengujian yang menyertainya. Kesalahan yang sama juga memiliki akibat berbeda pada skrining, dukungan keputusan, dan penyusunan catatan klinis. Karena itu, validasi harus dimulai dari tujuan penggunaan dan berlanjut setelah sistem dipasang.

Di Indonesia, bukti untuk izin edar, penerimaan rumah sakit, dan pemantauan operasional berada pada lapisan berbeda. Dokumen registrasi menunjukkan apa yang dinilai regulator, tetapi rumah sakit tetap memeriksa kinerja di lokasi penggunaan. International Medical Device Regulators Forum (IMDRF) menyatukannya dalam sepuluh prinsip praktik pembelajaran mesin yang baik (Good Machine Learning Practice/GMLP). Kerangka ini menempatkan akurasi di antara bukti klinis, manusia, data, dan perubahan versi.

Mulai dari keputusan yang hendak dibantu

Tujuan penggunaan harus menyebut pengguna, populasi, masukan, keluaran, dan keputusan yang dibantu. Frasa “membantu dokter” terlalu umum untuk menetapkan desain uji. Sistem pemberi peringatan memerlukan ukuran berbeda dari sistem pengurutan gambar atau penyusun draf. Setiap ukuran harus dihubungkan dengan kesalahan yang paling merugikan pada tugas itu.

IMDRF menempatkan tujuan penggunaan dan alur klinis sebagai prinsip pertama GMLP 2025. Dokumen yang sama menghubungkan sasaran kinerja dengan manfaat, risiko, populasi, dan kondisi penggunaan. Laporan validasi lalu memilih sensitivitas, spesifisitas, nilai prediktif, waktu tanggap, atau ukuran lain sesuai fungsi. Satu angka gabungan bisa menyembunyikan kegagalan pada kelompok pasien kecil.

Data uji harus independen dan mewakili lokasi penggunaan

Prinsip IMDRF meminta data mewakili populasi sasaran dan memisahkan kumpulan data pelatihan dari kumpulan data pengujian. Pemisahan acak belum cukup bila catatan pasien yang sama muncul di dua kelompok. Perangkat, lokasi, atau protokol serupa juga bisa menciptakan ketergantungan tersembunyi. Tingkat validasi eksternal perlu mengikuti risiko penggunaan.

Data uji setempat tidak berarti seluruh rekam medis harus dikirim kepada pemasok. Rumah sakit bisa membuat lingkungan uji terkendali, membatasi variabel, dan mencatat pihak yang mengakses data. UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi menempatkan informasi kesehatan sebagai data pribadi spesifik dan mengatur penilaian dampak pemrosesan berisiko tinggi. Rencana validasi perlu membedakan data untuk pengembangan, penerimaan, pemantauan, dan investigasi insiden.

Standar pembanding perlu dipilih sebelum hasil AI dilihat. Laporan pencitraan perlu mencatat pemberi label dan cara menyelesaikan perbedaan penilai. Untuk ringkasan, catatan final dan bidang wajib perlu ditetapkan. IMDRF meminta alasan pemilihan standar rujukan dan keterbatasannya dijelaskan.

Uji tim manusia-AI, bukan model saja

Model yang stabil di laboratorium bisa gagal karena layar membingungkan, peringatan terlambat, atau masukan penting tidak tampil. Uji penerimaan harus mengikuti urutan kerja nyata dan pengguna dengan tingkat pengalaman yang sesuai. Pengujian perlu mencatat apakah pengguna menerima, mengubah, atau menolak hasil, termasuk waktu dan alasannya. Jalur manual harus tersedia ketika layanan, jaringan, atau model berhenti.

GMLP IMDRF meminta penilaian tim manusia-AI dalam lingkungan penggunaan, termasuk risiko ketergantungan berlebihan dan kesalahan pengguna. Pengujian tersebut bukan pelatihan penggunaan semata. Hasilnya perlu menjadi syarat penerimaan versi, desain antarmuka, pembagian kewenangan, dan prosedur penghentian. Tanpa uji manusia-AI, angka laboratorium belum menggambarkan layanan.

Aturan Indonesia membedakan izin produk dan penerimaan lokasi

Peraturan Menteri Kesehatan (Permenkes) No. 11 Tahun 2025 mencantumkan hasil uji aplikasi AI dalam dokumen registrasi alat kesehatan. Daftar yang sama memuat verifikasi dan validasi desain, bukti klinis, serta analisis manajemen risiko. Pemegang izin alat kesehatan berbasis perangkat lunak AI juga diminta mengikuti GMLP. Aturan itu memuat keamanan data pasien, transparansi fitur AI, minimisasi data, pelaporan insiden, dan mitigasi ancaman siber.

Permenkes No. 5 Tahun 2026 memasukkan perangkat lunak bertujuan medis dalam definisi alat kesehatan. Penggolongannya mengikuti risiko dan tujuan penggunaan, dari kelas A hingga D. Aturan itu juga mengikat pemilik izin edar pada vigilans dan pelaporan masalah penggunaan alat kesehatan. Izin edar bukan bukti bahwa produk telah sesuai dengan data dan alur setiap rumah sakit.

FHIR membawa data, bukan mengesahkan model

Kementerian Kesehatan (Kemenkes) memakai Fast Healthcare Interoperability Resources (FHIR, standar pertukaran informasi kesehatan) dalam SATUSEHAT. FHIR menetapkan format data, elemen yang disebut resource, dan antarmuka pemrograman aplikasi untuk pertukaran informasi. Standar itu membantu sistem menyusun pasien, observasi, laporan, dan tugas secara konsisten. FHIR tidak menetapkan ambang kinerja klinis model AI.

Validasi interoperabilitas SATUSEHAT memeriksa struktur permintaan, format, nilai, data berulang, dan kode terminologi. Permintaan yang lolos diteruskan ke server FHIR, sedangkan kesalahan menghasilkan pesan kegagalan. Pemeriksaan tersebut menilai pertukaran data, bukan keterwakilan populasi atau ketepatan keluaran AI. Integrasi yang berhasil belum sama dengan validasi klinis.

Dokumen pengadaan perlu memetakan data yang dibaca, lokasi pemrosesan, masa simpan, hak akses, dan tujuan setiap keluaran. Catatan inferensi harus menghubungkan waktu, masukan, keluaran, pengguna, dan versi model. Rumah sakit juga perlu menguji nilai kosong, perubahan satuan, kode tidak dikenal, dan gangguan sambungan. Peta ini menjadi dasar penyelidikan ketika hasil berubah atau layanan terhenti.

Pemantauan dimulai sebelum sistem diaktifkan

Food and Drug Administration (FDA) Amerika Serikat mengaitkan perubahan praktik klinis, demografi pasien, masukan data, infrastruktur, dan perilaku pengguna dengan pergeseran kinerja. Dokumen 2025 itu berstatus permintaan komentar, bukan panduan atau persyaratan regulasi. FDA meminta masukan tentang ukuran kinerja, sumber data, pemicu pemeriksaan tambahan, dan protokol respons. Dokumen tersebut juga menegaskan bahwa uji retrospektif tidak dirancang untuk memprediksi lingkungan klinis yang dinamis.

Nilai dasar perlu dicatat menurut versi, lokasi, tugas, dan kelompok pasien yang relevan. Pemantauan bisa mencakup masukan kosong, keluaran tidak terbaca, koreksi manusia, waktu tanggap, gangguan layanan, dan perubahan distribusi hasil. Setiap sinyal memerlukan pemilik, jadwal tinjauan, serta ambang yang diturunkan dari risiko produk. Responsnya mencakup pemeriksaan tambahan, pemberitahuan, pembatasan fungsi, pengembalian versi, atau penghentian sementara.

Prinsip terakhir GMLP IMDRF meminta pemantauan model terpasang dan pengendalian risiko pelatihan ulang. Risiko yang disebut meliputi penyesuaian berlebihan, bias yang tidak direncanakan, dan penurunan akibat pergeseran data. Kumpulan data uji untuk menerima pembaruan tetap perlu independen dari data pelatihan baru. Catatan pemantauan harus menunjuk versi yang benar agar perubahan bisa ditelusuri.

Perubahan versi memerlukan jalur penerimaan sendiri

Predetermined change control plan (PCCP, rencana pengendalian perubahan yang ditetapkan sebelumnya) menghubungkan pembaruan dengan bukti sebelum perubahan dijalankan. Panduan final FDA Agustus 2025 merekomendasikan PCCP memuat modifikasi terencana, metode pengembangan dan validasi, serta penilaian dampaknya. FDA menilai rencana itu dalam pengajuan pemasaran perangkat di Amerika Serikat. Panduan tersebut tidak menggantikan izin edar atau penilaian rumah sakit di Indonesia.

Kontrak pengadaan perlu membedakan perbaikan keamanan, perubahan model, data pelatihan baru, dan perluasan tujuan penggunaan. Setiap kelompok perubahan memiliki bukti uji, pihak penyetuju, pemberitahuan, dan waktu aktivasi sendiri. Kontrak juga perlu menetapkan cara kembali ke versi lama serta layanan pengganti ketika pemasok menghentikan dukungan. Jadwal rilis pemasok tidak boleh menjadi satu-satunya dasar pemasangan.

Metrik pergeseran dan ambang penghentian seragam belum ditemukan

Badan Kebijakan Pembangunan Kesehatan (BKPK) mencatat kajian tata kelola AI kesehatan dengan batas akhir proses 31 Desember 2026. Pertanyaan kebijakannya mencakup keselamatan pasien, pelindungan data, keandalan hasil, dan acuan operasional bagi fasilitas. Halaman pemantauan yang diperiksa belum memuat laporan analisis atau laporan akhir. Status itu menunjukkan penyusunan kerangka masih berjalan.

Sampai artikel ini disusun, kami belum menemukan pedoman final Kemenkes yang menetapkan metrik pergeseran kinerja atau ambang penghentian AI secara seragam di rumah sakit. Ketiadaan pedoman seragam bukan bukti bahwa pengujian setempat belum berlangsung. Setiap ambang perlu diturunkan dari tujuan, risiko, populasi, perangkat, dan kemampuan pemulihan produk. Catatan keputusan harus menunjukkan alasan pemilihan angka serta pihak yang berwenang menghentikan sistem.

Keputusan penerimaan perlu memakai paket bukti yang menunjuk produk, versi, populasi, lokasi, dan alur yang sama. Paket itu mencakup tujuan penggunaan, status izin, data uji independen, hasil manusia-AI, peta data, serta rencana pemantauan. Sistem belum layak diterima bila perubahan versi atau kegagalan layanannya tidak memiliki penanggung jawab dan jalur pemulihan. Akurasi menjadi bermakna setelah seluruh konteks pengujian tersebut tercatat.