Angka akurasi agregat dapat menutupi kegagalan kecerdasan artifisial (artificial intelligence/AI) medis pada kelompok pasien kecil. Model mungkin terlihat baik secara keseluruhan, tetapi lebih sering melewatkan kasus pada usia, kondisi, atau lokasi tertentu. Pengujian bias karena itu perlu membagi hasil menurut populasi, rumah sakit, perangkat, dan kondisi masukan.

Di Indonesia, Peraturan Menteri Kesehatan (Permenkes) No. 11 Tahun 2025 mencantumkan pengujian aplikasi AI, verifikasi dan validasi desain, bukti klinis, serta analisis risiko. Pemegang izin alat kesehatan berbasis perangkat lunak AI juga diminta mengikuti praktik pembelajaran mesin yang baik. Daftar persyaratan itu menjadi dasar regulatori, tetapi tidak menggantikan uji penerimaan oleh rumah sakit.

Dasbor analisis menampilkan sebaran data pasien menurut kelompok usia dan jenis kelamin (ilustrasi)
Asal data dan komposisi pasien menentukan kelompok yang perlu diperiksa dalam pengujian bias.

Bias bukan sekadar perbedaan angka

Bias AI medis adalah pola kesalahan sistematis pada pasien, sumber data, atau lingkungan penggunaan tertentu. Penyebabnya bisa berasal dari keterwakilan data, pelabelan, perangkat pemeriksaan, pola rujukan, atau tingkat keparahan penyakit. Satu perbedaan angka belum cukup untuk menetapkan bias tanpa ukuran sampel, ketidakpastian, dan akibat klinisnya.

Telaah cakupan PLOS Digital Health menemukan lebih dari separuh kumpulan data AI klinis yang diteliti berasal dari Amerika Serikat atau Tiongkok. Kajian itu juga menilai model sulit digeneralisasi ketika populasi sasaran kurang terwakili. Temuan tersebut tidak mengukur keadaan Indonesia, tetapi menjelaskan mengapa hasil luar negeri memerlukan validasi setempat.

Organisasi Kesehatan Dunia (WHO) menempatkan inklusivitas, kesetaraan, transparansi, tanggung jawab, dan evaluasi berkelanjutan dalam tata kelola AI kesehatan. WHO juga mengingatkan bahwa sistem dari negara berpendapatan tinggi mungkin tidak bekerja baik di lingkungan berpendapatan rendah dan menengah. Pemeriksaan bias perlu menghubungkan keterwakilan data dengan keselamatan dan akses layanan.

Peta populasi harus mengikuti tujuan penggunaan

Daftar kelompok uji dimulai dari tujuan penggunaan, bukan dari kolom demografi yang kebetulan tersedia. Usia, jenis kelamin, kondisi medis, lokasi, perangkat, dan mutu masukan dipilih bila berhubungan dengan tugas serta risikonya. Kombinasi antarfaktor juga perlu diperiksa ketika jumlah datanya memadai.

International Medical Device Regulators Forum (IMDRF) menerbitkan prinsip final praktik pembelajaran mesin yang baik (Good Machine Learning Practice/GMLP) pada 2025. GMLP meminta data mewakili populasi sasaran, lingkungan penggunaan, dan masukan pengukuran dalam sampel yang memadai. Dokumen itu juga meminta pencarian keadaan dan kelompok tempat model berkinerja lebih buruk.

Label “data Indonesia” belum menjelaskan keterwakilan sebuah kumpulan data. Rumah sakit rujukan, fasilitas daerah, rawat jalan, dan unit gawat darurat memiliki komposisi pasien serta proses berbeda. Perbedaan prevalensi, perangkat, dan alur rujukan mengubah nilai prediktif serta jenis kesalahan yang terlihat.

Data uji harus terpisah dari jalur pengembangan

GMLP IMDRF meminta kumpulan data pelatihan dan pengujian dipelihara secara independen. Sumber ketergantungan yang diperiksa mencakup pasien, lokasi, dan cara memperoleh data. Tingkat validasi eksternal disesuaikan dengan risiko penggunaan.

Pemisahan acak per berkas belum cukup bila rekaman pasien yang sama masuk ke dua kelompok. Kebocoran juga muncul ketika gambar dari perangkat atau kunjungan yang sama tersebar antara pelatihan dan pengujian. Hasilnya bisa tampak tinggi karena model mengenali pola sumber, bukan tugas klinis pada pasien baru.

Standar rujukan ditetapkan sebelum keluaran model dibuka. Laporan perlu menyebut pemberi label, keahliannya, prosedur menyelesaikan perbedaan, dan batas standar tersebut. Protokol serta analisis statistik juga ditetapkan sebelum tim melihat hasil per kelompok.

Peneliti klinis membandingkan metrik kinerja AI medis untuk beberapa kelompok pasien (ilustrasi)
Hasil tiap kelompok perlu dibaca bersama jumlah sampel dan interval kepercayaan.

Hasil per kelompok perlu disertai ketidakpastian

Metrik mengikuti keputusan yang dibantu oleh produk. Sistem klasifikasi umumnya melaporkan sensitivitas, spesifisitas, nilai prediktif positif dan negatif, serta jumlah positif dan negatif palsu. Waktu tanggap, kasus yang ditolak sistem, atau koreksi manusia juga relevan bagi tugas tertentu.

Draf Food and Drug Administration (FDA) Amerika Serikat Januari 2025 merekomendasikan estimasi kinerja beserta interval kepercayaan dan analisis kelompok penting. Kelompok itu mencakup karakteristik pasien, tingkat keparahan, lokasi klinis, dan alat pengumpulan data. Dokumen tersebut belum final, tidak mengikat, dan bukan aturan Indonesia.

Jumlah sampel selalu ditempatkan di samping nilai kinerja. Kelompok kecil menghasilkan interval lebar, sehingga peringkat antarkelompok mudah berubah ketika sampel bertambah. Selisih tanpa ketidakpastian tidak membuktikan model adil atau bias.

Kesetaraan juga tidak selalu berarti semua kelompok harus memiliki angka identik. Prevalensi dan kondisi pemeriksaan memengaruhi nilai prediktif meski sensitivitas serta spesifisitas serupa. Batas penerimaan mengikuti tujuan produk, biaya kesalahan, dan kemampuan rumah sakit menangani keluaran keliru.

Aturan Indonesia memberi dasar, bukan ambang seragam

Permenkes No. 11 Tahun 2025 meminta dokumen karakteristik kinerja, termasuk akurasi, sensitivitas, spesifisitas, dan keandalan alat kesehatan. Persyaratan registrasinya juga mencantumkan hasil pengujian aplikasi AI, bukti klinis, dan analisis manajemen risiko. Pemegang izin perangkat lunak AI harus mengikuti GMLP serta menjaga transparansi dan akuntabilitas fitur.

Registrasi produk dan penerimaan di lokasi menjawab pertanyaan berbeda. Bukti regulatori menjelaskan produk yang dinilai, sedangkan rumah sakit memeriksa kesesuaian versi, populasi, perangkat, dan alur setempat. Hasil dari satu fasilitas tidak otomatis mewakili fasilitas lain.

Badan Kebijakan Pembangunan Kesehatan (BKPK) mencatat kajian tata kelola AI kesehatan masih berproses hingga 31 Desember 2026. Pertanyaan kebijakannya mencakup keselamatan pasien, pelindungan data pribadi, keandalan hasil, dan acuan operasional bagi fasilitas kesehatan. Halaman yang diperiksa belum memuat dokumen pengumpulan data, analisis, atau laporan akhir.

Sampai artikel ini disusun, kami belum menemukan dokumen resmi dari lembaga di Indonesia yang menetapkan satu paket ambang nasional untuk pengujian bias AI medis. Kesenjangan tersebut bukan bukti bahwa rumah sakit belum memiliki protokol setempat. Ambang lokal tetap perlu diturunkan dari tujuan, risiko, populasi, dan kemampuan pemulihan tiap produk.

Tim informasi rumah sakit meninjau alur validasi AI pada platform data lintas fasilitas (ilustrasi)
Validasi lintas fasilitas menguji perbedaan populasi, perangkat, pencatatan, dan alur pelayanan.

Pengujian mencakup tim manusia-AI

IMDRF meminta penilaian tim manusia-AI dalam lingkungan dan alur klinis yang dituju. Pemeriksaan mencakup keahlian pengguna, pemahaman atas keluaran, ketergantungan berlebihan, tingkat otonomi, dan kesalahan penggunaan. Model yang stabil di laboratorium tetap bisa gagal karena tampilan atau waktu peringatan.

Uji penerimaan mengikuti urutan kerja nyata dan peran pengguna sebenarnya. Catatan pengujian membedakan keluaran yang diterima, diubah, ditolak, atau tidak dibaca. Gangguan jaringan, masukan kosong, nilai di luar rentang, dan keterlambatan keluaran juga masuk skenario.

Setiap kegagalan memerlukan pihak yang berwenang meninjau dan menghentikan sistem. Jalur manual harus tersedia ketika model, integrasi, atau layanan pemasok berhenti. Kontrak pengadaan perlu mengikat versi produk, data yang diuji, tanggung jawab, akses log, dan prosedur pemulihan.

Pemantauan dimulai sebelum pemasangan

Prinsip terakhir GMLP meminta pemantauan model terpasang dan pengendalian risiko pelatihan ulang. Risiko itu mencakup penyesuaian berlebihan, bias yang tidak direncanakan, penurunan kinerja, dan pergeseran data (data drift). Nilai dasar harus ditetapkan sebelum sistem aktif agar perubahan bisa dibandingkan.

Prinsip transparansi FDA meminta keterbukaan tentang bias, interval kepercayaan, kesenjangan data, keadaan gagal, validasi setempat, dan rencana pemantauan. Informasi tersebut diperlukan saat fasilitas mempertimbangkan pembelian maupun setelah produk diperbarui. Pengguna juga perlu mengetahui masukan yang tidak sesuai dengan data pengembangan.

Pemantauan memisahkan hasil menurut kelompok pasien, lokasi, perangkat, waktu, dan versi model. Sinyal lain mencakup masukan yang ditolak, koreksi tenaga kesehatan, keterlambatan, gangguan layanan, dan perubahan distribusi keluaran. Setiap sinyal memiliki jadwal tinjauan, penanggung jawab, serta tindakan yang telah ditetapkan.

Pembaruan model tidak mewarisi hasil uji versi lama secara otomatis. Data penerimaan versi baru tetap terpisah dari data pelatihan ulang. Rumah sakit memerlukan pilihan untuk menunda, membatasi, mengembalikan versi, atau menghentikan fungsi ketika bukti belum memadai.

Dokter memeriksa keluaran AI di stasiun kerja klinis sebelum mengambil keputusan (ilustrasi)
Pemantauan memerlukan pemeriksaan manusia, catatan versi, jalur penghentian, dan prosedur pemulihan.

Berkas penerimaan harus menunjukkan batas penggunaan

Paket bukti menghubungkan tujuan penggunaan, status registrasi, asal data, standar rujukan, hasil per kelompok, dan uji manusia-AI. Setiap tabel menunjuk versi model, lokasi, perangkat, periode data, jumlah sampel, dan interval kepercayaan yang sama. Kondisi yang tidak terwakili dicatat sebagai batas, bukan digabung ke angka rata-rata.

Keputusan penerimaan bisa membatasi produk pada unit, perangkat, atau populasi yang benar-benar diuji. Perluasan penggunaan memerlukan bukti tambahan, bukan sekadar persetujuan administratif. Sistem belum siap diterima bila hasil kelompok, kondisi gagal, pemilik pemantauan, atau jalur penghentiannya tidak tercatat.