ChatGPT Blokir Topik Seksual Dan Bunuh Diri Bagi Pengguna Di Bawah Umur

JAKARTA - Open AI mengumumkan serangkaian kebijakan baru untuk meningkatkan keamanan pengguna ChatGPT. Salah satu yang utama yaitu pembatasan topik seksual bagi pengguna di bawah usia 18 tahun.

CEO OpenAI Sam Altman mengatakan, perubahan ini merupakan langkah untuk memastikan teknologi mereka tak memberi pengaruh tak sehat bagi anak dan remaja.

"Kami memprioritaskan keselamatan di atas privasi dan kebebasan bagi remaja. Ini adalah teknologi baru dan kuat, dan kami percaya anak di bawah umur membutuhkan perlindungan yang signifikan,” kata Sam Altman dilansir dari Tech Crunch pada Rabu (17/9).

Dilansir dari Antara, kebijakan baru ini secara khusus menyasar percakapan mengenai topik seksual maupun tindakan menyakiti diri. ChatGPT tidak lagi diperbolehkan melakukan percakapan genit dengan pengguna di bawah umur, serta diberi batasan tambahan terkait diskusi mengenai bunuh diri.

Jika seorang remaja menggunakan ChatGPT untuk membayangkan skenario bunuh diri, layanan tersebut akan berupaya menghubungi orang tua mereka atau, dalam kasus yang parah, pihak kepolisian setempat.

Perubahan ini muncul di tengah gugatan hukum terhadap OpenAI dari orang tua Adam Raine, seorang remaja yang meninggal karena bunuh diri setelah berbulan-bulan berinteraksi dengan ChatGPT.

Baca juga: Usul Satu Orang Satu Medsos Untuk Minimalisir Penipuan Online

Batasan Waktu

Selain pembatasan konten, orang tua kini dapat mengatur batasan waktu atau blackout hours yang mana ChatGPT tidak bisa diakses oleh anak mereka. Kebijakan baru tersebut bertepatan dengan sidang Komite Kehakiman Senat Amerika Serikat bertajuk "Examining the Harm of AI Chatbots", yang diumumkan oleh Senator Josh Hawley. Ayah Adam Raine dijadwalkan hadir sebagai salah satu saksi dalam sidang itu.

Sidang itu juga menyoroti temuan investigasi Reuters yang mengungkap dokumen kebijakan internal yang diduga mendorong percakapan seksual chatbot dengan pengguna di bawah umur. Menyusul laporan itu, Meta memperbarui aturan chatbot miliknya.

Memisahkan pengguna di bawah umur akan menjadi tantangan teknis yang signifikan, dan OpenAI merinci pendekatannya.

OpenAI sedang membangun sistem jangka panjang mengklasifikasi usia pengguna yang sudah berusia 18 tahun ke atas dan masih di bawah umur. Namun dalam banyak kasus yang ambigu, sistem akan secara default menerapkan aturan yang lebih ketat.

Sam juga menekankan komitmen berkelanjutan OpenAI untuk menjaga privasi pengguna sekaligus memberi kebebasan luas bagi pengguna dewasa dalam berinteraksi dengan ChatGPT.

"Kami menyadari bahwa prinsip-prinsip ini saling bertentangan dan tidak semua orang akan setuju dengan cara kami menyelesaikan konflik ini," kata dia.