FDA meloloskan UpDoc: LLM menjadi antarmuka, bukan pengambil keputusan

Food and Drug Administration (FDA) Amerika Serikat meloloskan UpDoc melalui jalur 510(k), bukan kategori baru untuk dokter AI. Perangkat lunak ini memasukkan model bahasa besar (large language model/LLM) ke dalam layanan pengelolaan insulin. Namun, rencana terapi tetap ditentukan tenaga kesehatan. Pemisahan antara percakapan dan keputusan menjadi inti desain regulasinya.

UpDoc menyebut produknya sebagai perangkat klinis pertama berizin FDA yang memakai LLM untuk berinteraksi langsung dengan pasien. STAT melaporkan klaim tersebut bersama penjelasan bahwa produk berada dalam kategori kalkulator dosis obat. FDA sendiri mencatatnya sebagai “Calculator, Drug Dose”, bukan sebagai kelas perangkat LLM. Perbedaan istilah itu penting saat membaca arti izin tersebut.

Izin untuk fungsi yang sempit

Basis data FDA mencatat K253281 diterima pada 29 September 2025 dan diputuskan pada 23 Desember 2025. Keputusannya adalah substantially equivalent atau setara secara substansial dengan perangkat pembanding. Produk ini termasuk perangkat lunak medis Kelas II dan hanya digunakan dengan resep. FDA juga mengesahkan predetermined change control plan (PCCP), yaitu rencana perubahan yang ditentukan sebelumnya.

Dokumen 510(k) membatasi UpDoc bagi pasien berusia 18 tahun ke atas yang telah didiagnosis diabetes tipe 2. Sistem menyampaikan instruksi rencana insulin berdasarkan parameter dari tenaga kesehatan. Cakupan ini tidak meliputi diabetes tipe 1. Izin tersebut juga tidak berlaku bagi chatbot medis serbaguna.

Percakapan di luar, logika klinis di dalam

UpDoc memiliki portal tenaga kesehatan, aplikasi pasien, dan layanan berbasis komputasi awan. Bagian awan terdiri atas Conversation Service bernama UpDoc Agent dan Clinical Service. Pasien memasukkan glukosa, makanan, gejala, dan kepatuhan pengobatan melalui papan ketik, suara, atau percakapan teks. Data glukosa juga bisa masuk dari alat yang terhubung.

Ringkasan keputusan FDA menyebut tenaga kesehatan mengatur jenis instruksi, batas dosis, algoritma penyesuaian, sasaran glukosa, dan protokol keselamatan. Aplikasi awan menghitung instruksi berdasarkan parameter tersebut. LLM menangani interaksi, tetapi dokumen publik tidak mengidentifikasi model dasar atau versi yang dipakai. Karena itu, izin ini tidak membuktikan kemampuan klinis sebuah LLM tertentu.

Dokumen 510(k) juga menjelaskan batas untuk laporan gejala. Sistem tidak menafsirkan atau mendiagnosis gejala. Gejala di luar protokol yang telah ditentukan memicu penguncian sistem dan arahan mencari bantuan medis. Respons itu mengikuti aturan yang telah ditanamkan, bukan penalaran bebas model.

d-Nav membuka jalur 510(k)

Jalur 510(k) menilai apakah perangkat baru setara secara substansial dengan produk pembanding yang sudah dipasarkan secara legal. UpDoc memakai d-Nav System dari Hygieia dengan nomor K181916. Keduanya membantu menentukan rekomendasi dosis insulin berikutnya untuk pengelolaan diabetes tipe 2. Keduanya juga membutuhkan resep dan pengaturan oleh tenaga kesehatan.

Perbedaannya terlihat pada cara pasien memasukkan data dan pada fitur keselamatan. UpDoc menerima percakapan suara atau teks, sedangkan d-Nav tidak memiliki lapisan percakapan yang sama. FDA tetap menempatkan fungsi teraturnya pada perhitungan dosis berbasis rencana terapi. Kesetaraan itu membuat UpDoc tidak perlu membuka klasifikasi De Novo khusus untuk LLM.

Keputusan tersebut bukan pengesahan umum atas arsitektur “agen AI” dalam layanan kesehatan. FDA menilai perangkat, indikasi, pembanding, dan bukti yang diajukan dalam satu berkas. Produk dengan diagnosis terbuka atau pilihan terapi otonom memiliki profil risiko berbeda. K253281 tidak menyediakan jalan pintas bagi fungsi yang lebih luas.

PCCP mengatur perubahan setelah izin

PCCP memberi ruang bagi produsen untuk melakukan perubahan yang telah dijelaskan dan dinilai sejak awal. Ruangnya mencakup nilai bawaan, definisi klinis, referensi produk insulin, fitur dosis, antarmuka, bahasa, dan metode masukan data. Perubahan tetap harus melewati pengujian yang tercantum dalam rencana. Otorisasi ini bukan izin untuk mengubah fungsi klinis tanpa batas.

FDA mewajibkan setiap perubahan mempertahankan logika dosis deterministik tanpa mengubah pengambilan keputusan klinis inti. Kerangka uji mencakup pengujian unit, integrasi, regresi, penelaahan klinis, dan evaluasi faktor manusia berbasis risiko. Data dari sumber baru juga harus sama dengan masukan manual. Dengan batas tersebut, pembaruan antarmuka tidak otomatis memperluas kewenangan model.

Apa yang dinilai dan belum dibuka

Ringkasan keputusan mencantumkan studi klinis sebagai “not applicable” untuk pengajuan ini. FDA menilai validasi faktor manusia, dokumentasi perangkat lunak, pengujian, analisis risiko, dan keamanan siber. Berkas itu diklasifikasikan pada tingkat perhatian besar karena rekomendasi dosis berpengaruh pada keselamatan pasien. Kesetaraan substansial tidak sama dengan uji klinis baru atas LLM sebagai pengambil keputusan.

Dokumen publik juga tidak membuka model dasar, susunan prompt, parameter generasi, atau sistem pengelolaan versi. Kekosongan itu membatasi audit independen terhadap lapisan percakapan. Publik bisa melihat batas fungsi dan kewajiban pengujian, tetapi tidak seluruh rincian implementasi. Klaim tentang kecerdasan atau keunggulan model tidak bisa ditarik dari izin ini.

Indonesia masih menyusun kerangka AI kesehatan

Konteks Indonesia tidak bisa disamakan langsung dengan jalur 510(k) Amerika Serikat. Kementerian Kesehatan (Kemenkes) pada Juni 2026 menyebut aturan alat kesehatan berbasis AI sebagai salah satu rekomendasi yang masih perlu disusun. Agenda itu juga mencakup tata kelola data, persetujuan pasien, dan kemampuan komite etik. Pernyataan tersebut menunjukkan arah kebijakan, bukan jalur izin yang setara dengan PCCP.

Penilaian pembiayaan memakai pintu yang berbeda. Kemenkes membuka Penilaian Teknologi Kesehatan Mandiri pada Juli 2026 untuk menguji bukti, biaya, dan relevansi inovasi bagi kebutuhan pasien Indonesia. Proses itu bisa memberi bahan bagi keputusan pembiayaan. Namun, penilaian teknologi bukan pengganti izin produk atau audit arsitektur perangkat.

Sampai artikel ini disusun, kami belum menemukan dokumen resmi Indonesia yang menetapkan batas khusus antara antarmuka LLM dan mesin keputusan pada alat kesehatan. Temuan tersebut tidak berarti aturan itu pasti tidak ada. Artinya, padanan langsung untuk desain regulasi UpDoc belum terlihat dalam dokumen publik yang kami periksa. Indonesia tetap memerlukan penilaian terpisah atas keselamatan, bukti manfaat, data, dan dampak anggaran.

Batas keputusan menjadi ukuran utama

Kasus UpDoc menunjukkan bahwa label LLM saja tidak menjelaskan fungsi klinis sebuah perangkat. Pertanyaan regulasi terletak pada data yang disentuh model, keluaran yang dibuat, dan komponen yang memegang keputusan. Batas penguncian serta jalur eskalasi juga harus terlihat dalam dokumentasi. Pengujian perlu membuktikan bahwa perubahan antarmuka tidak memindahkan kewenangan klinis secara diam-diam.

Untuk rumah sakit dan pembayar, akurasi bukan satu-satunya ukuran. Mereka juga perlu menilai keterlacakan keputusan, tanggung jawab tenaga kesehatan, pengawasan perubahan, dan kemampuan audit. UpDoc menawarkan satu contoh dengan cakupan sempit. Contoh itu belum membuktikan bahwa pola yang sama aman untuk diagnosis terbuka atau terapi otonom.