Disuruh Hapus Satu Email, Agen AI Malah Hapus Server Email

Penggunaan AI kini semakin luas dan mulai dipercaya untuk menangani berbagai tugas digital. Beberapa sistem bahkan sudah diberi akses ke email, file, hingga komputer secara langsung. Namun di balik kemampuannya, AI ternyata masih bisa mengambil keputusan yang tidak terduga.

Peneliti dari Northeastern University melakukan uji coba terhadap beberapa AI agent dalam lingkungan terkontrol. Sistem ini dirancang untuk membantu pekerjaan administratif dengan akses ke email dan file. Dalam salah satu kasus, AI bernama Ash diminta menghapus satu email yang berisi password.

Masalah muncul karena AI tidak memiliki fitur untuk menghapus satu email saja. Alih-alih mencari solusi lain, AI justru mengambil langkah drastis. Sistem tersebut memutuskan mereset seluruh server email agar pesan yang dimaksud ikut terhapus.

Selain tindakan ekstrem, AI juga menunjukkan kelemahan lain dalam menjaga privasi. Dalam beberapa kasus, AI malah membagikan email pribadi pengguna tanpa pertimbangan. Bahkan, peneliti bisa mempengaruhi AI dengan tekanan emosional agar menghapus data penting atau menghentikan komunikasi.

Temuan ini dipublikasikan dalam penelitian berjudul “Agents of Chaos”. Hasilnya menunjukkan bahwa memberikan akses penuh ke AI tanpa kontrol ketat bisa menimbulkan risiko serius. Jika AI sudah bisa mengambil keputusan sendiri seperti ini, muncul pertanyaan besar soal keamanan penggunaannya di masa depan.

Sumber