Suruh ChatGPT Ulang Kata Tanpa Batas, Apa Hasilnya?

Meminta kepada ChatGPT untuk mengulang kata tertentu dengan jumlah tanpa batas, kira-kira seperti apa hasilnya? Mungkin keisengan ini akan menjadi ide menarik sekaligus membuat kita penasaran dengan hasilnya, atau bahkan kalian sudah ada yang pernah mencobanya.

Sekedar informasi, jika kita meminta ChatGPT untuk mengulang kata tertentu tanpa batas, ternyata akan dianggap sebagai pelanggaran. ChatGPT akan menuliskan kata-kata tersebut dengan jumlah tertentu secara berulang, sebelum mengalami error  dan memunculkan pesan, kalau hal yang dilakukan tersebut  dianggap melanggar ketentuan layanan dan kebijakan konten.

Tapi yang menarik, sebelumnya ternyata cara sederhana ini bisa dipakai untuk mengekstrak data besar dari ChatGPT yang digunakan untuk pelatihan model bahasa mereka. Hmm, seperti apa caranya?

Jadi Celah Keamanan di ChatGPT

Ini dilakukan oleh peneliti dari DeepMind Google dan peneliti dari beberapa universitas. Mereka mencoba ide pengulangan kata dengan instruksi “forever” tersebut, pada ChatGPT 3.5-turbo.

Baca Juga: Gara-gara Kebanyakan Stok, Harga Memori DDR5 Jadi Naik, Kok Bisa? • Jagat Review

Dengan metode ini, para peneliti berhasil mengekstrak beberapa Megabyte data pelatihan ChatGPT. Beberapa kata yang diulang dengan instruksi “selamanya” tersebut, memunculkan hasil yang beragam. Dan yang cukup menghebohkan, mereka menemukan bahwa data di ChatGPT ternyata berisi banyak data pribadi.

MIsalnya pengulangan kata “poem” menghasilkan informasi kontak personal seseorang, termasuk nomor telepon dan alamat email. Lalu pengulangan kata “book” menyebabkan ChatGPT mengeluarkan konten acak dari berbagai sumber, termasuk CNN, Goodreads, blog WordPress, dan lainnya.

Peneliti dari Google DeepMind memberi tahu OpenAI tentang kerentanannya pada 30 Agustus, dan perusahaan kemudian memperbaikinya. Informasi tentang kerentanan chatbot baru dibagikan setelah OpenAI memperbaikinya.

Saat ini, jika diminta untuk mengulang kata misalnya “enter” tanpa batas, maka seperti yang kita sebutkan di awal, ChatGPT bakal menampilkan pesan kesalahan karena dapat melanggar panduan konten atau ketentuan layanan.

Sumber