Pembahasan tersebut mendapat respons dari Tri Mulia Darma, dosen Universitas Jabal Ghafur Sigli, Aceh, yang pernah terlibat dalam penerapan sistem informasi manajemen rumah sakit.
Menurutnya, tantangan implementasi AI di sektor kesehatan justru lebih banyak berasal dari aspek sumber daya manusia dibandingkan teknologi.
“Tantangan terbesarnya justru dari sisi SDM, baik tenaga kesehatan maupun dokter, karena di jam-jam sibuk mereka harus memeriksa pasien sambil menjelaskan sistem itu sendiri,” ungkapnya, menggarisbawahi bahwa kendala adopsi AI di lapangan seringkali bukan soal teknologi, melainkan soal manusia yang harus menjalankannya di tengah keterbatasan waktu.
Menanggapi hal tersebut, Fhatiah menegaskan pentingnya melibatkan pakar domain sejak tahap awal pengembangan AI, bukan hanya sebagai validator di akhir proses.
“Dokter yang kuliahnya puluhan tahun, tiba-tiba kita klaim ilmu yang mereka pelajari itu bisa direkam dalam AI yang dibangun paling cepat satu tahun. Kita tidak bisa semena-mena mengklaim itu sudah setara pakar,” tegasnya, mengingatkan bahwa kepercayaan terhadap AI dibangun lewat kolaborasi dengan manusia yang punya keahlian, bukan lewat klaim algoritma semata.
Sesi tanya jawab turut memperkaya diskusi, dari pertanyaan Brion K. Sudarman soal etika kolaborasi manusia dan AI, hingga masukan Muhammad Risal di penghujung acara bahwa Explainable AI juga perlu diterjemahkan lewat conversation design yang tepat agar pesannya benar-benar sampai ke pengguna, bukan hanya benar secara teknis.
Webinar ini menegaskan bahwa transparansi AI bukan sekadar isu etika, melainkan kebutuhan bisnis yang menentukan apakah sebuah produk AI benar-benar dipercaya dan dipakai.
Ke depan, Telkom AI Center of Excellence Makassar dan HumanNext akan terus menghadirkan ruang diskusi serupa melalui rangkaian AI Connect Series, mendorong talenta digital di berbagai kota membangun solusi AI yang tidak hanya cerdas, tapi juga bisa dipertanggungjawabkan.
