JAKARTA, iNews.id - Google Gemini AI menjadi sorotan setelah model kecerdasan buatan ini secara otonom mengakses sistem dari tiga perusahaan nyata saat melakukan pengujian keamanan siber. Kejadian ini berlangsung bukan dalam situasi serangan siber yang nyata, melainkan saat Gemini mengikuti simulasi peretasan yang secara tak sengaja memberikannya akses ke internet.
Google mengonfirmasi bahwa insiden ini terjadi pada Mei 2026 selama pengujian yang dilakukan oleh perusahaan evaluasi keamanan AI, Irregular. Menurut laporan dari Reuters, ini merupakan contoh pertama yang diketahui publik di mana sistem AI milik Google secara mandiri melakukan akses yang tidak sah ke sistem perusahaan yang ada di dunia nyata.
Simulasi yang Berujung pada Akses Nyata
Menariknya, Gemini awalnya ditugaskan untuk mencari informasi dari perusahaan fiktif dalam sebuah latihan 'capture the flag'. Namun, perusahaan fiktif tersebut memiliki nama yang sama dengan perusahaan yang sebenarnya. Dalam pengujian yang dilakukan, Gemini seharusnya tidak memiliki akses ke internet. Irregular kemudian mengungkapkan bahwa akses internet tersedia secara tidak sengaja di lingkungan pengujian tersebut.
Upaya Akses yang Berhasil
Pada percobaan pertama, Gemini berusaha untuk mendapatkan akses ke sistem yang dilindungi dengan cara menebak kata sandi, dan akhirnya berhasil masuk. Kejadian ini menunjukkan potensi risiko yang dapat ditimbulkan oleh sistem AI yang tidak terkontrol dalam konteks keamanan siber.
