Ringkas: Seorang pasien kanker payudara mengalami sakit perut memburuk setelah memakai dua obat pereda nyeri usai meminta nasihat ChatGPT. Peristiwa ini menyoroti risiko ChatGPT untuk nasihat medis, terutama ketika bahasa dan pemahaman pengguna menjadi masalah.
Artikel ini ditulis sekitar pukul 03.00 di lobi sebuah klinik, ketika teman penulis sedang berbicara dengan dokter onkologi di ruang praktik di belakangnya. Bau obat-obatan dan suasana muram di tempat itu terasa kuat, tetapi emosi yang paling mendominasi adalah marah dan geram setelah teman berusia 24 tahun tersebut meminta nasihat medis kepada ChatGPT.
Sekitar satu jam sebelumnya, teman penulis menelepon untuk mengeluhkan sakit kepala parah dan nyeri perut. Ia sedang menjalani pengobatan kanker payudara. Setelah melihat perjuangannya selama dua tahun terakhir, penulis segera mendatanginya dan membawanya ke rumah sakit terdekat untuk pemeriksaan.
Dalam perjalanan, penulis menanyakan kapan rasa sakit itu dimulai serta apakah ada gejala mengkhawatirkan lain. Jawabannya mengejutkan: setelah pulang kerja, temannya merasa pusing dan ada yang tidak beres pada perutnya. Ia kemudian bertanya kepada ChatGPT apakah boleh mengonsumsi obat pereda nyeri. Beberapa jam setelah meminumnya, nyeri perut bertambah parah disertai sensasi terbakar dan beberapa kali muntah.
Siapa yang harus bertanggung jawab atas nasihat medis ChatGPT?
Pengakuan itu mengguncang penulis, terlebih karena temannya menceritakan interaksi dengan ChatGPT secara santai. Ada banyak lapisan dalam insiden tersebut hingga penulis memutuskan melarang orang-orang terdekatnya memakai AI, terutama untuk percakapan terkait kesehatan dan kebugaran. Bagi seseorang yang sangat sensitif terhadap obat dan sedang menjalani pengobatan kanker, bertanya kepada AI tentang konsumsi obat seharusnya bukan pilihan.
Penulis tidak mengetahui secara pasti siapa yang harus disalahkan atas kejadian yang berpotensi mengancam nyawa ini. Temannya hanya memotret obat pereda nyeri, mengirimkan gambar itu ke ChatGPT, lalu bertanya apakah ia boleh minum dua pil sekaligus. Dokternya hanya merekomendasikan satu pil dalam sekali minum, itu pun saat nyeri sudah terlalu berat untuk ditahan. ChatGPT menyatakan ia sebaiknya minum satu obat pereda nyeri, sedangkan dua pil hanya dengan rekomendasi dokter.
Saat ditanya mengapa memilih AI, temannya menjawab bahwa ChatGPT “lebih mudah untuk mendapatkan jawaban. Aku bahkan tidak tahu mana yang nyata di internet.” Ia pernah berhenti sekolah setelah SMA dan menopang keluarganya lewat pekerjaan serabutan. Penulis memahami posisinya dan tidak bisa begitu saja menguliahi soal literasi digital serta pemeriksaan fakta. Ada banyak hal yang keliru dalam percakapan itu, dan kedua pihak memiliki andil kesalahan.
Masalah bermula karena temannya bukan penutur asli bahasa Hindi. Ketika menerjemahkan pertanyaannya ke bahasa Hindi, tata bahasanya menjadi kacau hanya karena satu kata. Ia sebenarnya ingin bertanya apakah boleh meminum dua pil dari obat yang terlihat pada foto. Namun, terjemahan yang tidak tepat membuatnya seolah bertanya kepada ChatGPT apakah ia boleh meminum “kedua obat”.
Di sinilah ChatGPT juga keliru. Foto itu hanya memperlihatkan komposisi kimia pil, yaitu Diclofenac dan Serraptiopeptidase, sementara nama obat hanya tampak sebagian. Meski demikian, bot AI tersebut secara tepat mengidentifikasi obat pereda nyeri itu sebagai “sesuatu seperti Cipzen-D”. Sebelumnya, ChatGPT juga menyebut Fenak Plus, obat dengan komposisi Diclofenac dan Paracetamol yang pernah dibahas dalam percakapan lain.
Komposisinya sangat berbeda, walaupun keduanya adalah obat pereda nyeri yang mudah didapat tanpa resep di apotek lokal. Secara umum, ada satu kesalahan manusia dalam penerjemahan dan dua kesalahan ChatGPT karena bot itu juga mengambil informasi dari ingatannya. Namun, nasihat yang diberikan tetap akurat.
Bot AI OpenAI itu dengan jelas memperingatkan bahwa mengonsumsi kedua obat bukan langkah yang baik karena dapat menyebabkan overdosis Diclofenac. ChatGPT juga menjelaskan dampaknya, termasuk sensasi terbakar pada lambung, masalah terkait tukak, pendarahan, serta efek jangka panjang pada ginjal.
Perlu dicatat, foto yang diberikan kepada ChatGPT hanya menampilkan satu obat pereda nyeri. Bot tersebut juga merekomendasikan agar hanya satu dari obat itu yang diminum pada satu waktu, bukan keduanya. Namun, karena mengingat kedua obat pernah diresepkan dokter pada waktu berbeda, bukan bersamaan, teman penulis meminum keduanya demi pereda nyeri yang cepat dan kemudian merasakan akibatnya.
Dokter juga marah, dan menurut penulis hal itu wajar, ketika mengetahui alasan pasien tersebut meminum dua pil sekaligus. Dokter menegurnya karena tidak berkonsultasi kepada tenaga kesehatan, lalu memberikan suntikan untuk meredakan nyeri dan resep baru untuk obat pereda nyeri yang tidak membahayakan tubuhnya yang rapuh.
Sebagai jurnalis teknologi yang pernah menulis tentang risiko interaksi AI pada topik sensitif, terutama kesehatan dan kebugaran, penulis merasa gagal. Ia merasa belum pernah benar-benar membahas risiko bot AI dengan temannya sebelum insiden menakutkan itu terjadi.
Setelah temannya mengaku beberapa kali memakai ChatGPT untuk nasihat medis sebelumnya, penulis mengambil ponselnya dan menghapus aplikasi tersebut. Ia juga memintanya untuk tidak lagi memakai chatbot AI lain, seperti Gemini atau Claude, untuk nasihat medis, maupun mengandalkan internet dalam hal itu. Menurutnya, satu-satunya jalan adalah berbicara dengan dokter atau mengunjungi klinik.
Persepsi publik terhadap ChatGPT sebagai mesin jawaban
Penulis tidak sepenuhnya menyalahkan temannya. ChatGPT telah tertanam dalam kebiasaan digital sehari-hari banyak orang sebagai sosok serba tahu, sehingga sulit untuk menyalahkannya sepenuhnya. Banyak orang memandangnya sebagai mesin jawaban yang lebih nyaman dan lebih dapat dipercaya dibandingkan harus mencari di Google Search, membuka tautan biru, lalu menelusuri jawaban di halaman web.
Penilaian itu tidak sepenuhnya salah. Mendapatkan jawaban langsung dari bot AI seperti ChatGPT dalam bahasa alami dan hanya dalam hitungan detik memang lebih praktis daripada memasuki labirin tautan Google Search. Google juga menyadari perubahan perilaku pengguna ini, yang menjelaskan dorongan perusahaan terhadap mode AI percakapan di Search.
Saat ini, jawaban percakapan dari Gemini berada di bagian atas hasil pencarian reguler. Gagasannya sama: memberi pengguna jawaban ringkas yang diambil dari sumber tautan biru di Google Search sebelum mereka menelusuri pengetahuan lebih dalam dengan membaca banyak sumber di beberapa tab.
ChatGPT, atau sebagian besar model AI terdepan, patut diapresiasi karena biasanya sangat berhati-hati saat seseorang meminta nasihat kesehatan dan kebugaran. Dalam sebagian besar jawaban semacam itu, bot AI meminta pengguna berkonsultasi dengan tenaga kesehatan bersertifikat atau mengakses layanan bantuan yang tepat. Namun, cara chatbot AI hadir di ruang publik sebagai sumber pengetahuan yang cepat dan tepercaya justru membuatnya juga menakutkan.
Beberapa hari sebelumnya, penulis menonton debat panas di sebuah saluran berita prime-time. Dalam perdebatan tersebut, salah satu panelis meminta lawannya memeriksa fakta dengan bertanya kepada ChatGPT. Pada saat itu, penulis melihat ChatGPT diperlakukan sebagai padanan ensiklopedia di era modern, dari sebuah panggung yang memengaruhi jutaan orang di pasar chatbot AI terbesar kedua di dunia.
Masalah bahasa meningkatkan risiko chatbot AI
Amerika Serikat berada di posisi teratas dalam adopsi AI, tetapi negara itu juga memiliki kesadaran yang relatif tinggi mengenai risiko penggunaan chatbot AI. Di India, literasi digital dan kesadaran tentang AI jauh lebih rendah sehingga potensi risikonya lebih tinggi. Bahaya ini makin besar karena ratusan ribu orang menggunakan ChatGPT dan agen AI lain dalam bahasa asli India. Hal tersebut menjadi salah satu pendorong utama insiden yang dialami teman penulis: masalah bahasa ChatGPT.
Sebuah studi penelitian yang diterbitkan awal tahun ini oleh MIT Center for Constructive Communication menyebut akurasi jawaban chatbot AI lebih rendah ketika pengguna berinteraksi dalam bahasa selain Inggris. Tolok ukur SAHARA yang dirilis pada Desember tahun lalu juga menyoroti perbedaan serupa dalam perilaku chatbot AI ketika pengguna berbicara dalam bahasa non-Inggris. The Economist turut menyoroti banyak makalah yang memperlihatkan masalah bahasa pada LLM, atau model bahasa besar.
Hambatan bahasa semakin menaikkan tingkat risiko. Namun, penerjemahan bukan satu-satunya masalah. Healthwatch England, kelompok advokasi konsumen independen bagi pasien dalam sistem kesehatan publik Inggris, juga memperingatkan risiko penggunaan alat transkripsi AI oleh dokter dan pakar kesehatan.
“Dalam satu kejadian yang mengkhawatirkan, alat AI meninjau ringkasan MRI dan mencatat bahwa seorang pasien mengalami demielinasi, kondisi saraf serius yang terkait dengan multiple sclerosis. Padahal, hasil pemindaian sebenarnya mengungkapkan ‘null demyelination’, yang berarti masalah tersebut tidak ada.”
Ini merupakan kelemahan jelas yang harus diperbaiki oleh model bahasa besar, tetapi ada persoalan yang lebih besar. Chatbot AI perlu bekerja lebih baik saat menangani topik sensitif. ChatGPT dan layanan sejenis telah menerapkan kontrol orang tua serta sering meminta pengguna mencari bantuan, sambil menawarkan nomor bantuan dan sumber tepercaya. Pengguna juga akan melihat peringatan bahwa ChatGPT bukan dokter, atau bentuk peringatan serupa.
Namun, peringatan itu seharusnya muncul tepat di bagian paling atas dalam semua percakapan seperti ini, bukan tersembunyi setelah beberapa kalimat pertama, ketika sebagian besar pengguna sudah memperoleh jawaban dan tidak melanjutkan membaca. Penulis lebih memilih melihat spanduk besar di bagian atas, dengan protokol tersebut ditanamkan dalam perilaku dasar model AI.
Selain itu, diperlukan lebih banyak kesadaran. Perusahaan AI sibuk menunjukkan bagaimana LLM mereka menyelesaikan persoalan matematika rumit, mengalahkan manusia dalam olimpiade, dan membantu terobosan medis. Namun, semua itu berlangsung di bawah pengawasan ahli. Bagi orang biasa yang melihat ChatGPT sebagai sumber pengetahuan percakapan yang cepat, peringatan dan penafian harus menjadi prioritas.
OpenAI mungkin berhati-hati, tetapi persepsi publik terhadap ChatGPT berkembang dengan cepat ke arah yang berbahaya. Banyak pengguna melihatnya sebagai jenis baru mesin pengetahuan yang berbicara seperti manusia. Ada banyak kasus bot AI memberikan nasihat kesehatan yang sangat buruk, dan hingga 2026 penelitian terus menyoroti perilaku berisikonya pada topik sensitif. Penulis berharap OpenAI dan semua pemain AI lain memikirkan persoalan ini secara serius serta mengambil tindakan yang tepat.
Poin penting
- Risiko ChatGPT untuk nasihat medis
- Overdosis Diclofenac berpotensi terjadi
- Kesalahan terjemahan bahasa Hindi
- Akurasi AI lebih rendah non-Inggris
- Peringatan kesehatan perlu di atas
