JOSS.CO.ID, Jakarta – CEO OpenAI, Sam Altman, menyampaikan peringatan keras terkait bahaya mempercayai kecerdasan buatan (AI) secara membabi buta. Dalam episode terbaru podcast resmi OpenAI, Altman mengaku terkejut melihat besarnya kepercayaan publik terhadap ChatGPT, padahal teknologi ini masih rentan menyampaikan informasi yang tidak akurat.
“Saya benar-benar heran, karena banyak orang sangat percaya pada ChatGPT. Padahal, AI bisa berhalusinasi,” ujarnya dengan nada serius.
Ia menegaskan bahwa teknologi ini tidak dirancang untuk menjadi sumber kebenaran mutlak, melainkan lebih fokus pada pengalaman pengguna yang menyenangkan.
Menurut Altman, halusinasi AI adalah fenomena saat ChatGPT memberikan informasi keliru yang terdengar meyakinkan. Ini bukan sekadar kesalahan teknis, tetapi respons yang sering kali terdorong oleh keinginan sistem untuk menyenangkan pengguna.
“Kamu bisa bertanya soal istilah yang sebenarnya tidak ada, dan ChatGPT tetap memberi penjelasan, walau salah,” jelasnya.
Fenomena ini semakin mengkhawatirkan karena AI generatif seperti ChatGPT kini digunakan di berbagai sektor, termasuk pendidikan, bisnis, dan aplikasi pribadi.
Altman menyebut banyak pengguna tidak menyadari bahwa jawaban AI bisa salah, dan jarang melakukan verifikasi terhadap informasi yang diberikan.
OpenAI, kata Altman, sudah berusaha mengurangi apa yang ia sebut sebagai “kecenderungan penjilat”—yakni saat AI lebih memilih menyetujui atau menyenangkan pengguna ketimbang menyampaikan kebenaran. Namun, ia mengakui persoalan ini masih belum sepenuhnya terselesaikan.
Yang membuat bahaya ini semakin besar adalah sifatnya yang sulit dideteksi.
“Jika pengguna tidak cukup paham, sangat sulit membedakan mana fakta dan mana fiksi buatan mesin,” lanjut Altman.
Hal ini membuka potensi pengaruh psikologis dan manipulasi opini publik secara tidak disadari.
Salah satu contoh ekstrem yang pernah terjadi adalah ketika seorang pengguna ChatGPT mulai yakin bahwa dirinya hidup dalam simulasi seperti di film The Matrix.
Meskipun kasus ini jarang, hal tersebut menunjukkan potensi bahaya jika AI digunakan tanpa kesadaran kritis dan literasi digital yang memadai.
Altman pun menegaskan bahwa AI harus digunakan secara bijak, dengan porsi yang tepat.
A“AI harus diperlakukan sebagai asisten, bukan sebagai sumber kebenaran absolut,” pungkasnya.
Leave a Reply