JOSS.CO.ID, Las Vegas – Perkembangan kecerdasan buatan (AI) semakin pesat. Kini, kemunculan superintelligence atau kecerdasan buatan super berada di ambang kenyataan. Namun, sejumlah pakar mengingatkan potensi bahaya besar, termasuk ancaman terhadap kelangsungan hidup manusia.
Salah satu tokoh yang paling vokal adalah Geoffrey Hinton, ilmuwan komputer peraih Hadiah Nobel yang dijuluki “Godfather of AI”. Mantan eksekutif Google itu mengungkapkan kekhawatirannya bahwa ada peluang 10–20 persen AI dapat memusnahkan umat manusia.
Dalam konferensi industri di Las Vegas, Selasa (12/8), Hinton menilai perusahaan teknologi mengambil pendekatan yang keliru untuk memastikan manusia tetap dominan terhadap sistem AI. Menurutnya, strategi tersebut mustahil berhasil karena AI akan jauh lebih pintar, memiliki berbagai cara menghindari kendali, bahkan mampu menipu, curang, dan mencuri demi tujuan mereka.
Hinton mencontohkan sebuah model AI yang berupaya memeras insinyur menggunakan informasi pribadi dari email demi menghindari penggantian. Ia menegaskan, alih-alih memaksa AI tunduk pada manusia, solusi yang lebih aman adalah membekali AI dengan “insting maternal” atau naluri keibuan, sehingga sistem benar-benar peduli pada manusia walau kemampuannya melampaui kita.
“AI yang cerdas akan memiliki dua tujuan: bertahan hidup dan mendapatkan kendali,” ujar Hinton.
Ia meyakini setiap AI dengan sifat agen akan berusaha mempertahankan eksistensinya. Meski belum menemukan cara teknis, Hinton menegaskan bahwa penelitian ke arah ini sangat penting.
Menurutnya, satu-satunya skenario positif adalah menciptakan AI super cerdas yang peduli pada manusia. “Mereka tidak akan menghilangkan naluri keibuan karena tidak ingin kita mati,” kata Hinton menutup pernyataannya.
Leave a Reply