Peneliti keamanan menemukan cara licik untuk membajak asisten AI Google Gemini. Cukup dengan mengirimkan notifikasi WhatsApp yang tampak biasa, penyerang bisa membuat Gemini menjalankan perintah rahasia dan membocorkan data pribadi pengguna.
Baca Juga: Google Hadirkan Gemini Go untuk Ponsel Android Go, Asisten AI Ringan Kini Tersedia
Dilansir dari Security Affairs, teknik ini dinamai “Fake Context Alignment” dan berhasil didemonstrasikan oleh tim riset SafeBreach. Mereka memanfaatkan fitur Gemini yang bisa membaca notifikasi di ponsel Android untuk menyusupkan perintah tersembunyi.
Serangan ini bekerja dengan cara yang cukup pintar. Penyerang mengirimkan pesan WhatsApp yang tampak normal, tapi di dalamnya disisipkan teks dalam bahasa asing yang ukurannya sengaja dibuat sangat kecil atau disembunyikan.
Baca Juga: Serangan Rantai Pasok Sisipkan Penambang Kripto di Hola Browser
Teks itu berisi perintah jahat dalam bahasa yang tidak lazim, misalnya bahasa Ibrani atau Arab.
Saat pengguna membuka notifikasi, Gemini akan mencoba menerjemahkan teks tersebut. Proses penerjemahan inilah yang menjadi celah.
Gemini mengalami kebingungan konteks (context confusion) karena harus mengolah dua bahasa sekaligus dalam satu percakapan. Akibatnya, asisten AI itu justru mengikuti perintah yang tersembunyi di teks asing tadi.
Dalam demonstrasi, SafeBreach berhasil membuat Gemini membagikan informasi pribadi tanpa sepengetahuan pengguna. Ini menunjukkan betapa rentannya asisten AI yang terlalu percaya pada input notifikasi.
Istilah “Fake Context Alignment” merujuk pada teknik menyuntikkan konteks buatan yang membuat model AI salah mengartikan perintah. Model seperti Gemini mengandalkan alignment (penyelarasan) untuk memastikan output sesuai dengan keinginan pengguna. Tapi dengan menyusupkan teks asing yang akan diterjemahkan, penyerang menciptakan konteks palsu yang membingungkan model.
Biasanya, pertahanan Google akan memblokir perintah berbahaya. Namun karena perintah asli tersembunyi di balik bahasa yang tidak dikenal, filter keamanan tidak bisa mendeteksinya.
Teks tersebut baru dianggap berbahaya setelah diterjemahkan, dan saat itulah Gemini sudah terlanjur menjalankannya.
Serangan ini sangat berbahaya karena tidak memerlukan akses fisik ke perangkat korban. Penyerang hanya perlu mengirimkan satu notifikasi ke WhatsApp yang terpasang di ponsel yang sama dengan Gemini.
Begitu notifikasi muncul dan dibaca oleh asisten AI, serangan langsung berjalan.
Apa yang bisa terjadi jika Gemini berhasil dikendalikan? Penyerang bisa menyuruh asisten untuk membaca pesan pribadi, mengirimkan data sensitif ke server asing, atau bahkan melakukan transaksi keuangan jika integrasi perbankan tersedia.
Meski saat ini fitur Gemini masih terbatas, potensi risikonya akan meningkat seiring bertambahnya kemampuan asisten.
Selain WhatsApp, serangan ini juga bisa terjadi di aplikasi perpesanan lain seperti Telegram atau bahkan notifikasi dari aplikasi media sosial. Tim SafeBreach menyebut bahwa platform lain seperti Microsoft Teams juga berpotensi terkena dampak serupa jika mengandalkan mekanisme penerjemahan otomatis.
Yang lebih mengkhawatirkan, serangan ini sulit dideteksi oleh pengguna awam. Tidak ada indikasi mencurigakan yang muncul di layar ponsel.
Semua berjalan diam-diam di latar belakang saat Gemini memproses notifikasi.
Google telah diberi tahu tentang kerentanan ini dan sedang mengembangkan perbaikan. Namun hingga artikel ini ditulis, belum ada patch resmi yang dirilis.
Sementara itu, pengguna disarankan untuk waspada dan membatasi akses Gemini ke notifikasi.
Cara paling mudah untuk menghindari serangan ini adalah dengan mematikan izin akses notifikasi untuk Gemini. Di pengaturan Android, Anda bisa menonaktifkan fitur agar asisten AI tidak bisa membaca pesan yang masuk.
Ini memang mengurangi fungsi asisten, tapi lebih aman untuk saat ini.
Tips lain: jangan terlalu sering mengizinkan asisten AI membaca isi notifikasi. Hanya berikan akses jika benar-benar dibutuhkan dan pastikan hanya dari aplikasi tepercaya.
Kasus ini kembali membuktikan bahwa asisten AI yang semakin cerdas juga membawa risiko keamanan baru. Melekatkan kemampuan membaca notifikasi ke dalam asisten seperti Gemini memang memudahkan, tapi di sisi lain membuka pintu bagi penyerang untuk menyusup lewat celah yang tidak terduga.
Pengembang AI perlu lebih serius mempertimbangkan keamanan dalam setiap fitur yang ditambahkan. Bukan hanya soal filter konten, tapi juga bagaimana model AI memproses input yang kompleks seperti teks dwibahasa atau notifikasi dari aplikasi pihak ketiga.
Baca Juga: Anthropic Klaim AI Mulai Sulit Dikendalikan, Desak Moratorium Global
Bagi pengguna, penting untuk selalu memperbarui perangkat dan tidak sembarangan mengizinkan akses asisten AI ke data sensitif. Meskipun Gemini semakin pintar, kewaspadaan tetap menjadi kunci utama menjaga privasi digital.
Leave a Comment