Para ilmuwan prihatin dengan penipuan dan manipulasi yang dilakukan oleh AI

Artikel ini terakhir diperbarui pada Mei 14, 2024

Para ilmuwan prihatin dengan penipuan dan manipulasi yang dilakukan oleh AI

Para ilmuwan prihatin dengan penipuan dan manipulasi yang dilakukan oleh AI

Kecerdasan buatan yang melakukan gertakan selama permainan kartu untuk menipu lawan. Chatbot yang berpura-pura punya janji dengan teman untuk menghindari janji temu lain. Dan bahkan sistem AI yang ‘berpura-pura mati’ agar tidak ditemukan selama inspeksi. Kecerdasan buatan menyesatkan dan memanipulasi, para ilmuwan menyimpulkan dalam sebuah studi baru.

Tidak sedikit AI yang menunjukkan perilaku ini. Cicero dari Meta, perusahaan induk Facebook, berperilaku menyesatkan dan tidak jujur ​​saat memainkan permainan Diplomasi. Hal ini terlepas dari fakta bahwa pembuatnya telah menginstruksikan AI untuk “secara umum jujur ​​dan membantu”, dan tidak pernah “dengan sengaja curang”. AlphaStar dari DeepMind, yang diakuisisi oleh Google, juga menunjukkan perilaku serupa.

Jenis perilaku ini mungkin muncul jika penipuan adalah cara terbaik bagi sistem AI untuk bekerja dengan baik dalam pelatihan, menurut para peneliti: menyesatkan pengguna kemudian membantu sistem mencapai tujuannya. Dalam penelitiannya, para ilmuwan mengumpulkan penelitian sebelumnya yang berfokus pada penyebaran informasi palsu melalui AI. Mereka mempublikasikan hasilnya di majalah Pola.

Tidak ada permainan yang tidak bersalah

Perilaku sistem AI yang menyesatkan terutama terjadi saat bermain game, sehingga membuatnya tampak tidak bersalah dan tidak berbahaya. Namun menurut para peneliti, hal ini bukan berarti tidak bersalah: “Hal ini dapat mengarah pada terobosan AI di masa depan, yang dapat berkembang menjadi bentuk penipuan tingkat lanjut,” kata pemimpin peneliti Peter Park dari American Technical University MIT dalam siaran pers yang menyertainya. .

“Sistem AI yang belajar menipu dan memanipulasi jelas merupakan suatu kekhawatiran,” kata ilmuwan komputer Roman Yampolskiy dari Universitas Louisville, yang tidak terlibat dalam penelitian tersebut. Menurutnya, penelitian ini mengungkap masalah mendasar terkait keamanan AI: “Pengoptimalan sistem tidak harus sesuai dengan preferensi manusia.”

Yampolskiy, seperti Park, prihatin dengan momen ketika strategi semacam ini akan digunakan tidak hanya di game, tetapi juga di dunia nyata. “Hal ini berpotensi mengarah pada manipulasi dan penipuan yang merugikan di arena politik, negosiasi ekonomi, atau interaksi pribadi.”

Ilmuwan komputer Stuart Russell dari Universitas California menekankan ketidakjelasan sistem AI jenis ini. “Kami tidak tahu cara kerjanya. Dan bahkan jika kita melakukannya, kita tidak akan dapat membuktikan bahwa mereka aman – hanya karena memang tidak aman.”

Dalam pandangannya, penipuan tersebut sekali lagi menunjukkan bahwa persyaratan ketat harus diterapkan pada AI agar aman dan adil. “Terserah pada pengembang untuk merancang sistem yang memenuhi persyaratan tersebut.”

Bukan niatnya

Namun apakah sistem tersebut benar-benar menyesatkan? Pim Haselager, profesor kecerdasan buatan di Nijmegen Donders Institute, berpendapat tidak demikian. “Kamu menipu dengan niat. Sistem ini hanyalah alat yang melaksanakan perintah. Mereka tidak punya niat untuk menipu.”

Yampolskiy setuju: “Sistem AI tidak memiliki keinginan atau kesadaran. Lebih baik melihat tindakan mereka sebagai hasil dari program dan pelatihan mereka.”

Sebaliknya, menurut Stuart Russell, tidak menjadi masalah apakah suatu sistem benar-benar bermaksud menipu. “Jika suatu sistem mempertimbangkan apa yang akan dikatakannya, dengan mempertimbangkan dampaknya terhadap pendengar, dan manfaat yang didapat dari memberikan informasi palsu, maka kita bisa mengatakan bahwa sistem tersebut terlibat dalam penipuan.”

Namun terlepas dari perbedaan pendapat filosofis ini, kedua pihak sepakat mengenai risiko. “Banyak kesalahan dan ‘penipuan’ yang dilakukan AI akan terjadi dalam waktu dekat,” kata Haselager. “Dan bahkan sekarang. Adalah baik untuk menyadari hal itu, karena peringatan dini itu penting.”

Yampolskiy bahkan menggunakan bahasa yang lebih tegas: “Dalam keamanan siber kami mengatakan ‘percaya dan verifikasi’. Dalam keamanan AI kami mengatakan ‘Jangan pernah percaya’.”

penipuan, manipulasi, AI