JAKARTA, TINTAHIJAU.com – Platform chatbot yang semakin populer, Character.ai, kini menghadirkan sejumlah perubahan signifikan untuk melindungi pengguna muda. Langkah ini diambil setelah munculnya laporan bahwa penggunaan platform ini dapat memicu kecanduan, perilaku menyakiti diri sendiri, hingga risiko bunuh diri di kalangan anak muda.
Model AI Terpisah untuk Remaja dan Dewasa
Dalam beberapa bulan terakhir, Character.ai telah mengembangkan dua model bahasa yang terpisah: satu untuk dewasa dan satu lagi untuk remaja. Model khusus untuk remaja dirancang dengan batasan yang lebih ketat, terutama dalam membatasi akses pada konten romantis atau topik sensitif. Tujuannya adalah memastikan interaksi dengan bot tetap ramah usia dan jauh dari percakapan yang tidak pantas. Sistem ini bahkan dilengkapi kemampuan untuk mendeteksi serta memblokir permintaan yang berpotensi mengarah pada konten berbahaya.
Langkah Proteksi dari Risiko Emosional
Selain membatasi jenis konten, Character.ai juga memperkenalkan fitur perlindungan emosional. Jika sistem mendeteksi kata-kata terkait bunuh diri atau perilaku menyakiti diri, pengguna akan diberikan peringatan dan diarahkan ke layanan pencegahan, seperti National Suicide Prevention Lifeline. Fitur ini menunjukkan komitmen platform untuk tidak hanya melindungi data pengguna, tetapi juga kesejahteraan emosional mereka.
Penghapusan Fitur Pengeditan dan Transparansi Bot
Salah satu fitur yang cukup kontroversial, yaitu kemampuan pengguna untuk mengedit percakapan dengan bot, kini telah dihapus. Langkah ini bertujuan mencegah manipulasi percakapan yang dapat membahayakan pengguna, terutama remaja. Selain itu, Character.ai juga menambahkan peringatan bahwa bot-bot bertema “terapis” atau “dokter” bukanlah manusia dan tidak dapat memberikan saran medis atau psikologis profesional. Ini adalah langkah penting untuk meningkatkan transparansi dalam interaksi pengguna dengan AI.
Mencegah Kecanduan dengan Batas Waktu
Untuk mencegah pengguna menghabiskan waktu terlalu lama berbincang dengan bot, Character.ai kini mengirimkan notifikasi jika interaksi berlangsung lebih dari satu jam. Fitur ini dirancang agar pengguna tidak terjebak dalam siklus kecanduan yang dapat berdampak negatif pada kesehatan mental.
Keseimbangan antara Kreativitas dan Keamanan
Dengan semua perubahan ini, Character.ai berupaya menjaga keseimbangan antara memberikan pengalaman interaktif yang kreatif sekaligus memastikan keamanan penggunanya. Platform ini menyadari bahwa perkembangan teknologi membawa tantangan baru, termasuk menciptakan lingkungan digital yang aman bagi semua kalangan, terutama anak muda.
Langkah-langkah inovatif yang diambil Character.ai menjadi contoh bagaimana platform teknologi dapat bertanggung jawab atas dampak sosialnya, sekaligus memberikan pengalaman terbaik bagi para penggunanya.
Sumber: TheVerge
