Memantau AI medis setelah izin edar: data, kinerja, dan insiden

Izin edar tidak menjamin kinerja alat kesehatan berbasis kecerdasan artifisial (artificial intelligence/AI) akan tetap sama setelah dipasang. Perangkat pencitraan, pola rujukan, populasi pasien, dan cara pencatatan bisa berubah. Perubahan itu bisa menggeser masukan atau keluaran model tanpa terlihat pada angka validasi awal. Pemantauan pascapemasaran diperlukan untuk menemukan penyimpangan sebelum masalah berulang.

Indonesia sudah mengatur izin edar, praktik pembelajaran mesin yang baik, vigilans, dan pelaporan kejadian tidak diinginkan. Dokumen publik yang diperiksa belum menetapkan satu ambang nasional untuk pergeseran data atau penghentian AI medis. Karena itu, rumah sakit perlu menurunkan ukuran pemantauan dari tujuan penggunaan dan risiko setiap produk. Produsen, klinisi, tim teknologi, dan pengelola mutu harus memakai identitas versi serta kronologi kejadian yang sama.

Izin edar menetapkan titik awal, bukan hasil selamanya

Peraturan Menteri Kesehatan (Permenkes) No. 11 Tahun 2025 mencantumkan hasil uji aplikasi AI, bukti klinis, dan analisis manajemen risiko dalam dokumen registrasi alat kesehatan. Ketentuan itu berlaku pada produk dalam negeri dan impor. Pemegang izin edar perangkat lunak berfitur AI atau pembelajaran mesin wajib mengikuti praktik pembelajaran mesin yang baik (Good Machine Learning Practice/GMLP). Kewajibannya mencakup pengelolaan risiko AI, keamanan data pasien, transparansi fitur, serta kebijakan pelaporan insiden dan kebocoran data pribadi.

Bukti registrasi menjelaskan produk dan kondisi yang dinilai sebelum pemasaran. Kinerja di satu rumah sakit tetap dipengaruhi perangkat, populasi, protokol, dan alur kerja setempat. Karena itu, penerimaan lokasi perlu mencatat nilai dasar untuk produk serta versi yang benar. Kerangka validasinya dibahas lebih rinci dalam panduan validasi AI medis di rumah sakit.

Kontrak pengadaan perlu mengubah bukti tersebut menjadi tanggung jawab yang bisa dilacak. Pemasok membawa status izin, spesifikasi masukan, bukti uji, batas penggunaan, dan riwayat perubahan. Rumah sakit menetapkan pemilik data, peninjau klinis, jadwal evaluasi, dan jalur layanan pengganti. Persetujuan awal tidak boleh menghapus kewajiban setelah aktivasi.

Empat lapis pemantauan menunjukkan sumber perubahan

Masukan dan lingkungan penggunaan

Program riset Food and Drug Administration (FDA) mencatat bahwa sistem akuisisi data, protokol, dan populasi pasien berubah antarlokasi serta sepanjang waktu. Data di luar sebaran pengembangan juga bisa menghasilkan keluaran tak terduga. Program itu meneliti deteksi masukan di luar distribusi, pergeseran data, dan pemantauan kinerja model. Halaman tersebut memuat agenda riset, bukan satu ambang yang wajib dipakai semua rumah sakit.

Catatan operasional perlu memuat sumber data, perangkat, protokol, waktu, satuan, dan pola nilai kosong. Perubahan distribusi hasil saja belum menunjukkan penyebabnya. Tim perlu membedakan perubahan pasien, perubahan perangkat, kesalahan antarmuka, dan perubahan model. Setiap sinyal harus menunjuk produk, versi, lokasi, serta rentang waktu yang sama.

Keluaran dan ukuran kinerja

Riset FDA menyebut tugas klasifikasi, estimasi, segmentasi gambar, analisis waktu hingga kejadian, dan deteksi memerlukan ukuran kinerja berbeda. Cara keluaran ditampilkan serta susunan data juga memengaruhi pilihan metrik. Karena itu, akurasi agregat tidak cukup untuk semua fungsi. Ukuran harus mengikuti tujuan penggunaan dan akibat kesalahan yang hendak dikendalikan.

Sistem deteksi bisa dipantau melalui hasil positif palsu dan negatif palsu, sesuai fungsi yang disetujui. Sistem segmentasi citra memerlukan pemeriksaan batas objek terhadap standar rujukan. Tren koreksi atau penolakan klinisi membantu menunjukkan masalah pada keluaran dan antarmuka. Ukuran tersebut harus dibandingkan dengan nilai dasar pada versi yang sama.

Kelompok pasien dan interaksi manusia-AI

Prinsip GMLP International Medical Device Regulators Forum (IMDRF) 2025 mencakup populasi sasaran, subkelompok relevan, lingkungan klinis, dan tim manusia-AI dalam pengujian. Dokumen itu juga menempatkan pemantauan model terpasang serta pengendalian risiko pelatihan ulang dalam siklus hidup produk. Risiko tersebut mencakup bias yang tidak direncanakan dan penurunan akibat pergeseran kumpulan data. Nilai rata-rata seluruh pasien bisa menyembunyikan perubahan pada kelompok kecil.

Rumah sakit perlu menentukan kelompok yang relevan berdasarkan tujuan produk dan data yang tersedia. Hasil per kelompok harus disertai jumlah kasus dan ketidakpastian, bukan hanya persentase. Catatan interaksi perlu menunjukkan siapa yang melihat, menerima, mengubah, atau menolak keluaran. Pola penolakan bisa menandai masalah model, tampilan, pelatihan pengguna, atau kecocokan alur.

Versi, gangguan, dan jejak audit

Setiap hasil perlu terhubung dengan versi model, aplikasi, antarmuka, dan perangkat sumber. Catatan itu juga menyimpan waktu inferensi, status layanan, keluaran, koreksi, dan tindak lanjut. Tanpa identitas versi, tren sebelum dan sesudah pembaruan akan bercampur. Penyelidikan lalu sulit membedakan kerusakan model dari masalah integrasi.

Ambang pemberitahuan, pemeriksaan tambahan, pembatasan fungsi, dan penghentian sementara perlu ditetapkan sebelum gangguan. Kewenangan setiap langkah harus tercantum dalam prosedur rumah sakit serta kontrak pemasok. Jalur manual atau versi stabil sebelumnya perlu diuji bersama alur pemulihan. Keputusan mengaktifkan kembali sistem harus meninggalkan alasan dan bukti.

Vigilans menghubungkan masalah produk dengan tindak lanjut

Permenkes No. 5 Tahun 2026 mendefinisikan vigilans sebagai rangkaian deteksi, penilaian, pemahaman, komunikasi, pengendalian, dan pencegahan masalah penggunaan alat kesehatan. Informasinya bisa berasal dari fasilitas produksi, distribusi, pelayanan kesehatan, tenaga medis, tenaga kesehatan, dan regulator negara lain. Pemilik izin edar wajib menjalankan vigilans serta melaporkannya kepada otoritas sesuai kewenangan. Tenaga medis dan tenaga kesehatan juga memiliki jalur pelaporan kejadian tidak diinginkan.

Petunjuk Kementerian Kesehatan (Kemenkes) 2020 menjelaskan pelaporan Kejadian Tidak Diinginkan (KTD) bagi pemegang izin dan pengguna di fasilitas pelayanan kesehatan. Halaman itu menjelaskan pengawasan KTD bertujuan melindungi masyarakat dari alat yang tidak memenuhi syarat keamanan, mutu, atau manfaat. Dokumen tersebut adalah panduan alat kesehatan umum, bukan pedoman pergeseran khusus AI. Pelaporan KTD tidak menggantikan pemantauan kinerja sebelum dampak pada layanan muncul.

Laporan untuk produk AI perlu menyimpan identitas produk, versi model, waktu, masukan, keluaran, serta dampak pada layanan. Tindakan klinisi dan kondisi perangkat membantu menyusun kronologi yang bisa diuji kembali. Rumah sakit juga perlu mencatat apakah masalah berulang dan siapa yang sudah menerima pemberitahuan. Data tanpa versi model akan membatasi investigasi produsen serta regulator.

Pemantauan kinerja dan vigilans beririsan, tetapi keduanya menjawab pertanyaan berbeda. Pemantauan mencari perubahan masukan atau keluaran, termasuk sinyal yang belum menjadi KTD. Vigilans mengelola efek samping atau masalah penggunaan dan menghubungkannya dengan pelaporan serta pengendalian. Satu kejadian bisa masuk ke kedua jalur bila penyimpangan model berdampak pada layanan.

Pergeseran kinerja belum memiliki satu angka baku

Pergeseran data (data drift) terjadi ketika sebaran masukan berubah dari kondisi pengembangan atau nilai dasar. Penurunan kinerja terlihat ketika hubungan antara masukan, keluaran, dan hasil rujukan ikut berubah. Keduanya tidak selalu muncul bersamaan. Masukan bisa bergeser tanpa menurunkan kinerja, sedangkan penurunan bisa berasal dari alur pengguna atau standar rujukan.

FDA pada 2025 mengaitkan perubahan praktik klinis, demografi, masukan data, infrastruktur, perilaku pengguna, dan pedoman klinis dengan pergeseran kinerja. Dokumen itu meminta masukan publik tentang metrik, sumber data, pemicu evaluasi tambahan, dan protokol respons. FDA menegaskan bahwa dokumen tersebut bukan rancangan panduan ataupun panduan final. Daftar pertanyaannya tidak boleh dibaca sebagai persyaratan Indonesia.

Ambang yang berguna harus merujuk pada risiko dan tujuan penggunaan produk. Sinyal mutu data bisa memicu pemeriksaan sebelum ukuran klinis berubah. Penurunan pada kelompok kecil mungkin memerlukan respons walau angka agregat stabil. Jadwal tinjauan juga bergantung pada volume penggunaan serta kecepatan memperoleh hasil pembanding.

Rencana perubahan tidak menggantikan pemantauan

Rencana pengendalian perubahan yang ditetapkan sebelumnya (Predetermined Change Control Plan/PCCP) membatasi perubahan model yang dinilai sebelum pemasaran. Panduan final FDA Agustus 2025 merekomendasikan PCCP menjelaskan modifikasi terencana, metode pengembangan, validasi dan penerapan, serta penilaian dampaknya. FDA menilai rencana itu dalam pengajuan pemasaran melalui jalur 510(k), De Novo, dan PMA. Cakupan tersebut berada dalam sistem Amerika Serikat.

PCCP tidak menentukan bahwa semua perubahan boleh dijalankan. Rencana hanya mencakup modifikasi yang sudah dijelaskan dan dinilai. Pemantauan tetap diperlukan untuk menemukan penyimpangan dan menilai hasil setelah perubahan. Masalah di luar batas rencana memerlukan evaluasi lain sesuai aturan yang berlaku.

Sampai artikel ini disusun, kami belum menemukan dokumen resmi Indonesia yang mengatur PCCP khusus AI medis. Istilah PCCP karena itu tidak membuktikan bahwa pembaruan telah diterima Kemenkes. Status versi tetap perlu dicocokkan dengan izin edar dan dokumen teknis produk. Batas perubahan dan jalur penerimaan dibahas dalam ulasan pembaruan model AI medis.

Lima kelompok bukti untuk kontrak dan penerimaan

Formulir penerimaan perlu mengikuti data yang tersedia dan keputusan yang benar-benar dibuat. Setiap kolom harus memiliki sumber, penanggung jawab, jadwal tinjauan, dan tindakan saat ambang terlewati. Susunannya bisa diringkas menjadi lima kelompok berikut. Daftar ini adalah kerangka operasional, bukan format wajib Kemenkes.

1. Masukan: dokumen mencatat sistem sumber, perangkat, protokol, kelengkapan, satuan, populasi sasaran, dan kondisi di luar distribusi pengembangan.
2. Kinerja: dokumen menetapkan nilai dasar, metrik per fungsi, hasil per kelompok, standar rujukan, ketidakpastian, dan frekuensi evaluasi.
3. Interaksi klinis: catatan memuat identitas penerima keluaran, koreksi atau penolakan klinisi, waktu tanggap, serta jalur manual ketika sistem berhenti.
4. Versi dan audit: jejak audit menghubungkan model, aplikasi, antarmuka, perangkat, waktu aktivasi, keluaran, dan perubahan konfigurasi.
5. Insiden dan pemulihan: prosedur menetapkan pemicu pemberitahuan, penerima laporan, kewenangan pembatasan, penghentian sementara, investigasi, dan syarat aktivasi kembali.

Pemasok perlu menyerahkan data yang memungkinkan setiap kelompok bukti diperiksa. Rumah sakit perlu memastikan akses catatan sistem tidak hilang saat kontrak berakhir atau layanan berpindah. Tanggung jawab klinis, produk, data, dan teknologi tetap perlu dibedakan. Namun, semua pihak harus memakai nomor versi serta kronologi yang sama saat menilai masalah.

Pedoman teknis Indonesia masih menyisakan celah informasi

Sampai artikel ini disusun, kami belum menemukan pedoman final Kemenkes yang menetapkan metrik pergeseran data atau kinerja AI secara seragam. Pencarian juga belum menemukan frekuensi evaluasi nasional dan satu ambang penghentian untuk seluruh rumah sakit. Temuan ini tidak membuktikan bahwa penilaian per produk atau pemantauan setempat belum berjalan. Artinya, dokumen publik belum cukup untuk menyamakan formulir semua produk.

Aturan yang tersedia sudah menempatkan GMLP, manajemen risiko, pelaporan insiden, KTD, dan vigilans dalam tanggung jawab produk. IMDRF memberi prinsip untuk pemantauan model terpasang, sementara FDA menyediakan arah riset dan contoh kerangka perubahan. Rumah sakit masih harus mengikat semua lapisan itu pada tujuan, versi, data, serta alur setempat. Sistem tidak siap diterima bila sinyal penurunan, kewenangan penghentian, dan jalur pemulihannya tidak tercatat.