AI agent medis adalah sistem yang merencanakan beberapa langkah, memakai alat eksternal, lalu bertindak dalam batas wewenang yang diberikan. Kemampuan itu membedakannya dari bot percakapan (chatbot), yang umumnya berhenti setelah menghasilkan jawaban. Saat agent membaca rekam medis atau mengirim pesan, risiko menjalar dari isi keluaran ke hak akses dan akibat tindakan.

Rumah sakit karena itu perlu menilai rantai tindakan sekaligus mutu teks dan skor model. Tiga pengaman utama adalah batas kewenangan, persetujuan manusia pada titik berisiko, serta pemantauan yang terhubung dengan penghentian dan pemulihan. Ketiganya harus menunjuk fungsi, versi, pengguna, dan alur layanan yang sama.

Tim medis meninjau rangkaian tugas dan batas kewenangan AI agent pada stasiun kerja rumah sakit (ilustrasi)
AI agent menghubungkan perencanaan tugas dengan alat dan tindakan, sehingga pengujiannya tidak berhenti pada mutu jawaban.

Dari jawaban menuju rangkaian tindakan

FDA pada 2026 mendefinisikan agentic AI sebagai sistem generatif yang merencanakan tugas bertahap, memakai alat luar, atau bertindak dalam suatu urutan. Konteks yang disebut mencakup koordinasi perawatan, dokumentasi klinis, komunikasi pasien, dan dukungan alur kerja. Dokumen itu juga meminta masukan tentang risiko tambahan ketika tindakan berlangsung otonom dan kesempatan peninjauan manusia berkurang. Statusnya adalah bahan diskusi, bukan pedoman rancangan atau final.

Satu agent bisa menerima pesan pasien, mengambil data, menyusun rencana, memanggil sistem jadwal, lalu mengirim pemberitahuan. Kesalahan pada satu langkah bisa diteruskan ke langkah berikutnya sebelum staf melihat hasilnya. Rantai pengujian perlu mencakup masukan, pemilihan alat, tindakan, identitas versi, dan catatan keluaran.

Tugas dokumentasi meliputi ringkasan dan draf, sedangkan tugas koordinasi mencakup antrean, pengingat, atau persiapan rujukan. Tindakan klinis berada pada lapis berbeda karena menyentuh diagnosis, resep, perintah pemeriksaan, atau perubahan terapi. Ketiga kelompok itu tidak boleh memakai matriks kewenangan yang sama.

Batas fungsi menentukan jalur pengawasan

Permenkes No. 11 Tahun 2025 mengatur tanggung jawab pemegang izin alat kesehatan berbasis perangkat lunak, termasuk fitur AI/ML. Kewajibannya mencakup praktik pembelajaran mesin yang baik (Good Machine Learning Practice/GMLP), keamanan data, transparansi fitur, pengelolaan risiko, dan kebijakan insiden. Ketentuan itu melekat pada alat kesehatan berizin, bukan otomatis pada setiap perangkat lunak administratif.

Agent penjadwalan tidak otomatis masuk jalur yang sama dengan sistem pengendali alat kesehatan. Penilaian perlu mengunci tujuan medis, pengguna, populasi, masukan, keluaran, dan akibat ketika fungsi gagal. Fungsi campuran harus dipetakan satu per satu agar label administratif tidak menutupi tindakan klinis.

Alur digital rumah sakit memisahkan data masuk, alat, izin tindakan, dan catatan audit AI agent (ilustrasi)
Setiap fungsi agent memerlukan batas data, alat, tindakan, dan pihak yang berwenang menyetujui.

Pengaman pertama: pisahkan hak baca, tulis, dan eksekusi

Permenkes No. 24 Tahun 2022 membagi hak akses rekam medis elektronik menjadi penginputan, perbaikan, dan melihat data. Pimpinan fasilitas menetapkan hak tersebut melalui kebijakan dan prosedur operasional. Pembagian ini memberi dasar praktis untuk akun agent: hak baca tidak otomatis berarti hak mengubah atau mengirim.

Matriks izin harus menyebut objek data, alat yang boleh dipanggil, operasi, kondisi, penyetuju, dan masa berlaku akses. Akun untuk merangkum catatan tidak memerlukan kewenangan menandatangani, menghapus, atau menerbitkan instruksi klinis. Identitas layanan juga perlu dipisahkan dari akun staf agar setiap tindakan tetap bisa ditelusuri.

Uji penerimaan perlu mencakup data kosong, data bertentangan, pengguna tanpa hak, alat gagal, dan koneksi terputus. Agent harus berhenti ketika prasyarat hilang atau permintaan keluar dari tujuan yang disetujui. Catatan penolakan perlu menyimpan alasan, waktu, versi, dan tujuan pengalihan kepada petugas.

UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi menggolongkan data kesehatan sebagai data pribadi spesifik. Undang-undang itu mewajibkan penilaian dampak bagi pemrosesan berisiko tinggi. Cakupannya meliputi keputusan otomatis berdampak signifikan, pemrosesan skala besar, dan penggunaan teknologi baru. Proyek agent perlu memetakan tujuan, dasar pemrosesan, pihak pengakses, retensi, dan jalur penghapusan.

FHIR membawa data, bukan izin penggunaan

Kementerian Kesehatan Republik Indonesia (Kemenkes) menggunakan Fast Healthcare Interoperability Resources (FHIR) untuk model data dan antarmuka pertukaran SATUSEHAT. FHIR memecah informasi menjadi unit data terstruktur (resource) dan mengikuti alur penggunaan tertentu. Standar itu membantu sistem menyamakan format sebelum data dipakai dalam proses lain.

FHIR bukan daftar izin bagi agent. Sambungan yang berhasil juga tidak membuktikan kelengkapan data, kecocokan tujuan, atau mutu klinis keluaran. Rumah sakit masih perlu memeriksa sumber, satuan, waktu, identitas pasien, kode, nilai kosong, dan hak akses. Jejak data harus menunjuk versi model dan keluaran yang menggunakannya.

Kontrak antarmuka perlu mencatat profil resource, terminologi, penanganan kesalahan, dan perubahan skema. Pengujian mencakup data terlambat, duplikat, konflik identitas, serta kegagalan sebagian layanan. Saat koneksi putus, sistem harus menahan tindakan dan memindahkan tugas ke alur yang sudah ditetapkan.

Tim informasi rumah sakit meninjau standar FHIR, hak akses, dan alur tata kelola AI medis (ilustrasi)
FHIR menyusun pertukaran data; kewenangan agent dan mutu klinis keluarannya tetap memerlukan pengujian terpisah.

Pengaman kedua: persetujuan manusia harus bekerja

Peninjauan manusia bukan tombol persetujuan yang selalu dilewati. Layar perlu menunjukkan sumber data, waktu, versi, batas penggunaan, dan tindakan yang akan terjadi setelah persetujuan. Peninjau harus bisa memperbaiki, menolak, menunda, atau mengeskalasi hasil melalui tindakan yang tercatat.

Setiap kondisi eskalasi perlu menunjuk penerima, tenggat tanggapan, pengganti, dan layanan manual. Kesalahan input, konflik data, keluaran di luar tujuan, atau kegagalan alat harus memindahkan tugas dari agent. Sistem tidak boleh memperluas tujuan hanya karena model mampu menghasilkan jawaban.

Pedoman Organisasi Kesehatan Dunia (WHO) menempatkan sistem kesehatan dan keputusan medis tetap di bawah kendali manusia. Prinsip lain mencakup transparansi, tanggung jawab, inklusivitas, serta ketanggapan selama penggunaan. Bagi agent, kendali manusia harus muncul pada wewenang, antarmuka, dan jalur penghentian, bukan sekadar disebut dalam kebijakan.

Prinsip transparansi FDA meminta penjelasan tentang tujuan, pengguna, populasi, masukan, keluaran, alur kerja, keterbatasan, dan pemantauan produk. Informasi itu juga mencakup kesenjangan data, validasi setempat, laporan kegagalan, dan strategi perubahan. Bidang tersebut bisa diubah menjadi kasus penerimaan serta tampilan informasi pada titik persetujuan.

Pengaman ketiga: pantau, hentikan, lalu pulihkan

Pemantauan dimulai dari nilai dasar sebelum peluncuran. Rumah sakit perlu melacak mutu keluaran, koreksi staf, kegagalan alat, perubahan data, waktu tanggap, dan kejadian yang berdampak. Setiap catatan harus menunjuk model, aturan orkestrasi, sumber data, dan versi alat yang sama.

FDA pada 2026 mencantumkan pengujian berkala, tinjauan sampel oleh klinisi, dan pemantauan penurunan kinerja sebagai pilihan yang sedang dibahas. Daftar itu bukan kewajiban nasional Indonesia. Ketiga bentuk bukti tersebut membantu membedakan pemantauan model dari pencatatan ketersediaan layanan semata.

Dokumen FDA juga menyoroti perubahan model fondasi (foundation model) pihak ketiga yang mungkin dimulai oleh pengembang model. Kontrak perlu menetapkan pemberitahuan perubahan, identitas versi, pengujian ulang, dan hak menunda pembaruan. Tanpa data itu, rumah sakit sulit mereproduksi keluaran atau menghubungkan insiden dengan komponen yang berubah.

Rencana penghentian harus menamai pemegang kewenangan, pemicu, saluran pemberitahuan, dan ruang lingkup fungsi yang dimatikan. Setelah penghentian, alur manual harus menjaga layanan inti tanpa memakai keluaran yang belum ditinjau. Pengembalian versi memerlukan paket perangkat lunak, konfigurasi, data rujukan, dan catatan persetujuan yang cocok. Pemulihan baru dinilai selesai setelah sambungan, hak akses, dan jejak audit diuji kembali.

Dasbor rumah sakit menampilkan matriks izin, persetujuan manusia, pemantauan versi, dan kendali penghentian AI agent (ilustrasi)
Tiga pengaman harus bisa dioperasikan: izin bisa dicabut, manusia bisa mengambil alih, dan versi bisa dipulihkan.

Indonesia masih menyusun kerangka khusus AI kesehatan

Kemenkes menggelar konferensi tata kelola AI kesehatan pada 8–9 Juni 2026. Forum itu membahas regulasi, tata kelola data medis, keamanan siber, persetujuan pasien, dan telaah etik penelitian. Kemenkes menyebut rekomendasi kebijakan dan pedoman nasional sebagai keluaran yang diharapkan. Rumusan tersebut menunjukkan proses penyusunan, bukan dokumen operasional yang sudah selesai.

Badan Kebijakan Pembangunan Kesehatan (BKPK) mencatat kajian tata kelola AI kesehatan dengan batas akhir proses 31 Desember 2026. Pertanyaan kebijakannya mencakup keselamatan pasien, pelindungan data, keandalan hasil, dan acuan operasional bagi fasilitas. Halaman pemantauan yang diperiksa belum memuat dokumen analisis atau laporan akhir.

Sampai artikel ini disusun, kami belum menemukan pedoman nasional Indonesia yang menetapkan ambang penerimaan khusus bagi AI agent medis. Kami juga belum menemukan statistik nasional terbuka tentang insiden agent, pola koreksi manusia, atau frekuensi penghentian di rumah sakit. Keterbatasan temuan ini bukan bukti bahwa proyek lokal atau pengendalian internal belum berjalan.

Kesenjangan itu tidak menghapus kewajiban dari aturan rekam medis, alat kesehatan, dan pelindungan data. Setiap lapis tetap berlaku menurut fungsi produk, data yang diproses, dan tindakan yang dihasilkan. Berkas proyek perlu mencatat dasar yang dipakai untuk setiap fungsi, termasuk alasan ketika jalur alat kesehatan tidak diterapkan.

Tiga dokumen mengikat seluruh rantai tindakan

Dokumen pertama adalah matriks kewenangan yang menghubungkan data, alat, operasi, kondisi, penyetuju, dan masa akses. Dokumen kedua adalah peta peninjauan manusia yang menetapkan penerima, tenggat, eskalasi, serta alur manual. Dokumen ketiga adalah rencana pemantauan, penghentian, pengembalian versi, dan pemulihan layanan.

Lima gerbang penerapan AI medis menempatkan tujuan, data, integrasi, tanggung jawab, dan pemantauan dalam satu pemeriksaan. Peta tanggung jawab AI medis membagi bukti antara fasilitas, klinisi, pemegang izin, dan pengelola data. Kedua kerangka tersebut membantu menghubungkan tiga dokumen agent dengan proses rumah sakit yang lebih luas.

Agent layak diuji pada tugas sempit setelah fungsi, data, dan akibat tindakannya tertulis. Hak baca tidak berarti hak tulis, sedangkan persetujuan manusia tidak menggantikan pemantauan versi. Penerimaan baru memiliki dasar ketika setiap tindakan bisa dihentikan, ditelusuri, dan dipulihkan tanpa memutus layanan inti.