Jika terjadi kesalahan atau pelanggaran etika, konselor dapat dimintai pertanggungjawaban melalui:
- Lembaga sertifikasi profesional
- Organisasi psikologi
- Mekanisme hukum atau disipliner
Sistem ini bertujuan melindungi pasien dan memastikan kualitas layanan kesehatan mental tetap terjaga.
Tidak Ada Regulasi Jelas untuk Chatbot AI
Sebaliknya, ketika chatbot AI melakukan kesalahan dalam memberikan saran kesehatan mental, saat ini belum ada mekanisme regulasi yang jelas untuk mengatasinya.
Hal ini menimbulkan pertanyaan mengenai siapa yang bertanggung jawab jika pengguna mengalami dampak negatif dari saran yang diberikan oleh sistem AI.
AI Tetap Memiliki Potensi dalam Kesehatan Mental
Meskipun penelitian ini mengungkap berbagai risiko, para peneliti tidak sepenuhnya menolak penggunaan AI dalam bidang kesehatan mental.
Sebagian ahli menilai teknologi ini masih memiliki potensi untuk membantu masyarakat jika digunakan secara tepat.
Pandangan Peneliti AI Brown University
Profesor ilmu komputer dari Brown University, Ellie Pavlick, yang tidak terlibat langsung dalam penelitian tersebut, menilai bahwa studi ini sangat penting karena menunjukkan perlunya evaluasi yang lebih mendalam terhadap teknologi AI.
Menurut Pavlick, perkembangan AI saat ini sering kali lebih cepat dibandingkan proses evaluasi terhadap dampaknya.
Ia menilai bahwa membangun sistem AI relatif lebih mudah dibandingkan dengan benar-benar memahami bagaimana teknologi tersebut bekerja dalam konteks dunia nyata.
Peran AI sebagai Alat Pendukung
Dalam praktiknya, AI mungkin dapat digunakan sebagai alat pendukung untuk:
- Memberikan informasi awal tentang kesehatan mental
- Menyediakan sumber daya edukasi
- Membantu pengguna mengakses layanan profesional
Namun para peneliti menekankan bahwa teknologi ini tidak seharusnya menggantikan peran terapis manusia dalam menangani masalah psikologis yang kompleks.
Pentingnya Regulasi dan Standar Etika
Berdasarkan hasil penelitian tersebut, para ilmuwan menekankan pentingnya pengembangan standar etika yang jelas sebelum chatbot AI digunakan secara luas dalam layanan kesehatan mental.
Regulasi yang lebih kuat diperlukan untuk memastikan bahwa teknologi AI digunakan secara aman dan bertanggung jawab.
Selain itu, evaluasi yang lebih ketat juga diperlukan untuk menguji bagaimana sistem AI merespons situasi sensitif yang berkaitan dengan kesehatan mental pengguna.
Publikasi Ilmiah Penelitian
Hasil penelitian mengenai risiko curhat ke AI ini telah dipublikasikan dalam prosiding ilmiah Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society.
Makalah tersebut berjudul:
“How LLM Counselors Violate Ethical Standards in Mental Health Practice: A Practitioner-Informed Framework”
Publikasi tersebut dirilis pada 15 Oktober 2025 dan menjadi salah satu penelitian penting yang membahas hubungan antara teknologi kecerdasan buatan, etika, serta praktik kesehatan mental.
