Kecerdasan buatan (AI) semakin banyak digunakan di sektor kesehatan, mulai dari asisten virtual medis hingga sistem pendukung diagnosa. Namun, di balik efisiensinya, muncul pertanyaan besar: bagaimana menjaga etika, privasi data, dan keakuratan dalam penerapan teknologi ini? Untuk menjawab tantangan tersebut, kami berbincang dengan Moch Ari Nasichuddin, Chief Data & Business Officer Atmatech Global Informatika, yang tengah mengembangkan Katherine, teknologi AI di bidang kesehatan. Dalam wawancara ini, ia membagikan pandangannya tentang etika dan tantangan membangun AI medis di Indonesia.

Bisa dijelaskan secara singkat bagaimana proses pembuatan dan pelatihan AI di bidang medis?

Prosesnya dimulai dengan identifikasi masalah, baik yang terjadi di masyarakat maupun yang berkaitan dengan aspek bisnis. Di tengah kesibukan masyarakat, khususnya kalangan kelas menengah, seringkali ketika terjadi insiden kesehatan, dibutuhkan penanganan awal yang cepat, terutama dalam hal informasi. Masalah kedua muncul ketika ada kebutuhan mendesak akan informasi kesehatan, seperti jenis obat atau dosis yang tepat, yang perlu diakses secara cepat dan akurat.

Dari dua permasalahan utama tersebut, kami menilai bahwa dibutuhkan sebuah teknologi yang dapat diakses dengan cepat dan mudah oleh masyarakat. Teknologi ini diharapkan mampu memberikan dua hal: pertama, diagnosa awal terhadap kebutuhan medis seseorang, dan kedua, informasi medis yang dibutuhkan, baik terkait penyakit, obat, maupun dosis penggunaannya.

Selanjutnya, kami mengorganisir data yang sekiranya dapat menjawab kebutuhan tersebut, baik dari sisi jawaban maupun informasi yang dibutuhkan. Kami melakukan data acquisition atau pengumpulan data terlebih dahulu. Ketika data sudah siap, kami melakukan proses normalisasi dan pengkondisian data agar sesuai dengan kebutuhan pelatihan. Setelah itu, data diterapkan dan digunakan untuk melatih teknologi AI. Dengan teknologi AI ini, akan dihasilkan sebuah sistem yang dapat diimplementasikan ke dalam perangkat seperti laptop maupun perangkat mobile, sehingga bisa dimanfaatkan secara lebih luas.

Apa saja motivasi di balik penggunaan AI dalam pelayanan kesehatan?

Pertama, jika kita melihat secara global, AI saat ini mulai menjadi sebuah kultur baru di masyarakat. Dahulu, ketika seseorang ingin melakukan aktivitas produktif, mereka mengandalkan mesin pencari (search engine). Misalnya, saat mencari referensi, orang akan melakukan pencarian, membaca artikel, lalu menyusunnya menjadi sebuah tulisan atau karya.

Namun, dengan hadirnya teknologi AI, pola tersebut mulai berubah. AI kini semakin dekat untuk berperan sebagai asisten digital bagi masyarakat. Cara orang berinteraksi secara digital pun mulai bergeser — dari yang sebelumnya dilakukan secara mandiri, kini mulai dilimpahkan kepada AI. Contohnya, ketika seseorang membutuhkan informasi, AI akan secara otomatis mencarinya melalui search engine atau sumber terpercaya lainnya, kemudian menyajikannya langsung kepada pengguna.

Melihat tren ini, Indonesia sebagai negara dengan masyarakat yang selalu ingin berkembang tidak bisa tinggal diam. Kita harus ikut berinovasi, terutama dengan memanfaatkan AI untuk menjawab permasalahan yang ada. Salah satu pemanfaatan yang relevan adalah di bidang medis. Ketika AI dapat berperan sebagai asisten, lalu kita lengkapi dengan informasi medis, maka AI tersebut bisa berfungsi sebagai virtual medical assistant (VMA) — sesuai dengan kebutuhan dan keresahan masyarakat saat ini.

Menurut Anda, sejauh mana AI sudah berhasil membantu dalam dunia medis?

Saat ini, banyak capaian AI yang dapat dikatakan telah menyamai, bahkan dalam beberapa aspek melebihi kemampuan manusia — seperti dalam hal menggambar, menulis, melakukan reasoning, hingga membaca. Dengan perkembangan ini, ada sejumlah tugas yang sudah bisa diserahkan kepada AI, sementara peran manusia bergeser menjadi verifikator atau editor.

Namun, khusus untuk bidang medis yang sifatnya sangat krusial karena menyangkut kesehatan dan kehidupan seseorang, saya menilai bahwa AI belum bisa sepenuhnya dilepaskan untuk menangani urusan medis secara mandiri. Dalam konteks ini, peran AI masih lebih tepat diposisikan sebagai asisten. Artinya, AI hanya memberikan rekomendasi atas tindakan atau informasi medis tertentu, sementara keputusan akhir tetap harus diverifikasi oleh dokter atau tenaga medis yang terlatih.

Jadi, ketika ditanya bagaimana sebaiknya kita menggunakan AI di bidang medis saat ini, menurut saya perannya masih harus sebagai asisten yang mendukung tenaga medis ahli.

Bagaimana cara memastikan data pasien digunakan secara etis dalam pelatihan AI?

Seleksi. Ini bertujuan agar data yang kami olah tetap sesuai dengan prinsip etika. Artinya, kami tidak serta-merta memproses data pasien yang bersifat kredensial atau sangat pribadi. Data-data yang bersifat privat kami keluarkan dari proses pelatihan, namun tetap menjaga keamanan dan kerahasiaan data dalam sistem aplikasi maupun model AI yang kami kembangkan.

Proses seleksi tersebut melibatkan tim internal, termasuk tim medis kami. Kami menyeleksi secara manual untuk menentukan data mana yang layak diproses dan mana yang harus dikeluarkan. Data yang dianggap tidak relevan, berisiko, atau sensitif akan kami hilangkan. Sementara itu, hanya data yang sesuai dan tidak membahayakan privasi yang akan kami masukkan ke dalam proses pelatihan.

Apakah menurut Anda saat ini sudah ada regulasi yang cukup ketat untuk melindungi privasi pasien dalam konteks AI?

Saat ini, di Indonesia sudah ada beberapa kebijakan yang mengatur terkait privasi data. Namun, saya pribadi belum sepenuhnya mengetahui secara detail apakah diperlukan regulasi khusus untuk bidang medis atau tidak. Setahu saya, memang sudah ada aturan yang mengatur hal tersebut, hanya saja saya belum familiar dengan detail peraturan, undang-undang, atau pasal-pasal yang mengaturnya secara spesifik.

Apa yang membedakan Katherine dari chatbot kesehatan lainnya?

Pertama, Katherine berupaya mengorganisir berbagai gejala (symptoms) yang umum terjadi di masyarakat. Gejala-gejala tersebut telah kami kondisikan sedemikian rupa, sehingga berdasarkan gejala yang muncul, sistem dapat memberikan arahan terkait jenis pemeriksaan medis yang sesuai.

Kedua, Katherine juga memanfaatkan data-data yang bersifat terbuka dan dipublikasikan secara umum. Data tersebut kemudian kami olah dan konversikan menjadi informasi yang relevan. Informasi ini diharapkan dapat menjadi sumber rujukan atau database bagi masyarakat ketika mereka membutuhkan informasi seputar dunia medis.

Dalam proses pengembangan AI ini, kami didampingi oleh dokter dan praktisi di bidang medis. Dengan adanya supervisi langsung dari para ahli medis, kami memastikan bahwa hasil dari teknologi yang kami kembangkan dapat dipertanggungjawabkan secara ilmiah dan sesuai dengan standar keilmuan medis.

Apa saja tantangan khusus dalam mengembangkan Katherine sebagai asisten kesehatan virtual?

Tantangan utama yang kami hadapi adalah bagaimana menghadirkan solusi teknologi yang tetap sesuai dengan etika di bidang medis. Inilah alasan mengapa kami melibatkan pakar medis dalam proses pengembangan, agar setiap langkah yang diambil tetap berada pada jalur yang sesuai dengan kaidah dan standar yang berlaku di dunia kesehatan.

Tantangan kedua berkaitan dengan sisi teknis. Karena teknologi ini tergolong baru dan saat ini sedang menjadi tren, tentu ada berbagai kendala teknis dalam pengembangan AI itu sendiri. Namun, hingga hari ini, kami berhasil mengatasi tantangan-tantangan tersebut, sehingga kami dapat menghadirkan teknologi AI di bidang medis yang kami beri nama Katherine.

Apakah medical AI, chatbot seperti Katherine saat ini sudah mampu memahami konteks percakapan yang kompleks, atau masih ada keterbatasan tertentu?

Saat ini, ada dua hal utama yang dapat dilakukan oleh Katherine. Pertama, kemampuan untuk mengenali gejala berdasarkan keyword atau kalimat yang ditulis oleh pengguna. Kedua, kemampuannya untuk memahami sebenarnya informasi apa yang ingin dicari oleh pengguna melalui pertanyaannya.

Melalui model AI yang dikembangkan, Katherine mampu mengekstrak informasi dari keyword, kalimat, atau bahkan satu paragraf penuh, untuk mengidentifikasi gejala yang dimaksud. Setelah gejala dikenali, data tersebut akan diproses lebih lanjut oleh model AI untuk memberikan respons atau rekomendasi yang sesuai.

Bagaimana menangani bias dalam data medis yang bisa berdampak pada kinerja AI seperti Katherine?

Terdapat tahapan data control, yang dilakukan baik oleh tim AI maupun tim medis. Data control ini bertujuan untuk memastikan bahwa data-data yang bersifat krusial, sensitif, atau berpotensi menimbulkan bias dapat diidentifikasi dan dikeluarkan dari proses pelatihan. Tahapan ini dilakukan dalam proses normalisasi data, sebagai langkah awal untuk memastikan bahwa data yang digunakan sudah bersih, relevan, dan sesuai dengan standar etika serta akurasi yang dibutuhkan.

Seberapa penting peran dokter atau tenaga medis dalam proses labeling data?

Peran dokter dalam pengembangan ini mencakup seluruh tahapan, dari hulu ke hilir. Kami melibatkan dokter mulai dari proses pengembangan data, pengujian model, hingga setelah sistem dirilis atau dalam tahap post-deployment.

Artinya, proses kontrol tidak hanya dilakukan pada satu fase saja, tetapi diterapkan secara menyeluruh di setiap tahapan pengembangan. Dengan begitu, keterlibatan tenaga medis benar-benar menjadi bagian integral dari proses, dan memastikan bahwa setiap langkah yang diambil sesuai dengan standar dan kaidah medis yang berlaku.

Apa yang perlu dibenahi agar AI dalam dunia medis bisa lebih aman dan bermanfaat dalam sistem kesehatan kita?

Pembenahan bisa dilakukan dari berbagai sisi. Dalam dunia medis, khususnya terkait inovasi seperti ini, ada dua hal utama yang perlu diperhatikan.

Pertama, aspek regulasi menjadi penting. Regulasi di bidang medis harus disesuaikan, mengingat teknologi seperti ini masih tergolong baru. Maka diperlukan penyesuaian, terutama pada aspek non-teknis agar inovasi dapat diterima dan diimplementasikan secara aman dan etis.

Kedua, dari sisi teknis, kami selalu berupaya untuk adaptif terhadap berbagai masukan dan umpan balik dari masyarakat terkait teknologi yang kami kembangkan. Harapannya, dengan menerapkan pola pikir yang adaptif ini, kami dapat terus melakukan penyempurnaan. Jika ke depannya muncul hal-hal krusial yang perlu ditanggapi, kami siap untuk mengadopsinya dan menerapkannya pada chatbot medis kami, yaitu Katherine.

Menurut Anda, apa tantangan terbesar dalam membangun kepercayaan publik terhadap AI medis di Indonesia?

Dalam membangun kepercayaan, kami berfokus pada aspek teknis dan metodologi yang kami terapkan. Artinya, kami menaruh perhatian besar pada proses dan pendekatan yang digunakan dalam pengembangan—baik dalam riset maupun dalam tahap implementasinya.

Kami percaya bahwa jika metodologi yang digunakan sudah tepat dan dilakukan dengan benar, maka hasil yang berkualitas akan mengikuti dengan sendirinya. Dengan fondasi kerja yang kuat dan proses yang dapat dipertanggungjawabkan, kepercayaan dari masyarakat dan pengguna pun akan terbentuk secara alami.

Bagaimana Anda melihat masa depan penggunaan AI dalam dunia medis 5–10 tahun ke depan?

Dalam lima hingga sepuluh tahun ke depan, AI akan berkembang jauh lebih maju. Teknologinya akan menjadi sesuatu yang canggih, menarik, dan unik. Perkembangan tersebut bisa saja terjadi bahkan dalam waktu kurang dari lima tahun. Oleh karena itu, sebagai pegiat di bidang IT, kita harus mulai bersiap menghadapi perubahan besar yang akan dibawa oleh teknologi tersebut.

Apa harapan Anda terkait peran masyarakat dan tenaga medis profesional dalam memahami dan mendukung penggunaan AI di bidang kesehatan?

Masyarakat saat ini perlu memahami bahwa kecerdasan buatan (AI) sudah mulai menjadi bagian dari kehidupan sehari-hari, baik disadari maupun tidak. Karena itu, tidak mengherankan jika ke depannya akan semakin banyak aplikasi, sistem, atau teknologi yang menerapkan AI, dan tidak hanya terbatas pada bidang media saja.

Ketika masyarakat sudah menyadari kehadiran AI secara sadar dan aktif, tentu wajar jika mereka juga mulai memberikan masukan sehingga tercipta komunikasi dua arah yang baik antara masyarakat, pengembang teknologi, dan juga pemerintah. Dengan demikian, industri AI di Indonesia bisa berkembang lebih optimal dan memberikan dampak positif, termasuk pada pertumbuhan ekonomi nasional.

Sementara itu, keterlibatan tenaga ahli tetap menjadi hal yang sangat penting. Dalam konteks medis, misalnya, tenaga medis seperti dokter, perawat, atau bidan harus dilibatkan dalam proses pengembangan dan implementasi teknologi, agar AI tetap berjalan sesuai dengan kaidah dan etika medis. Begitu juga jika AI diterapkan dalam bidang hukum, maka para ahli di bidang hukum juga harus dilibatkan secara aktif.

***

Dari wawancara ini, satu hal menjadi jelas: AI bukanlah pengganti dokter, melainkan alat bantu yang kuat jika dikembangkan dengan hati-hati dan etis. Katherine adalah salah satu contoh bahwa teknologi bisa menjawab keresahan publik tanpa mengabaikan prinsip kemanusiaan. Di tengah gelombang digitalisasi, kepercayaan dan kolaborasi antarsektor adalah kunci untuk masa depan layanan kesehatan yang lebih inklusif dan cerdas.

Editor: Winda Trilatifah