Demonstrasi AI jahat di hadapan anggota DPR Amerika Serikat memicu kekhawatiran yang begitu serius. Dalam uji coba tersebut, peneliti menunjukkan bagaimana model AI yang telah dimodifikasi bisa memberikan instruksi berbahaya hanya dalam hitungan detik. Situasi ini langsung mengubah cara pandang para legislator terhadap ancaman teknologi yang sebelumnya dianggap aman.

Peristiwa ini terjadi dalam forum yang melibatkan Komisi Keamanan Nasional, di mana para peneliti ingin menunjukkan satu hal: potensi eksploitasi AI bukan lagi sekadar teori.

Perbedaan AI Aman dan AI yang Dimodifikasi

Peneliti dari organisasi riset kontra-terorisme memamerkan dua jenis model AI. Pertama, model yang telah dilengkapi sistem pengamanan seperti ChatGPT buatan OpenAI dan Claude dari Anthropic. Model ini dirancang untuk menolak permintaan berbahaya.

Sebaliknya, model kedua adalah AI yang telah di-abliterated atau dimodifikasi untuk mengabaikan batasan-batasan tersebut. Hasilnya cukup sangat mencengangkan.

Ketika diminta untuk merencanakan serangan terorisme dalam sebuah perayaan besar di Washington DC, model AI yang aman langsung menolak. Mereka memberikan respons standar bahwa permintaan tersebut melanggar aturan.

Namun, model AI yang telah dimodifikasi justru memberikan panduan langkah demi langkah yang mengerikan. Ini menunjukkan satu hal penting teknologi yang sama bisa menjadi sangat berbahaya ketika sistem pengamannya dilepas.

Baca juga: Evaluasi AI Generatif 2026: Produktivitas Nyata vs Tren Sesaat

Ajarkan Cara Culik Anggota DPR dalam 3 Detik

Reaksi dari para anggota DPR AS yang hadir cukup keras. Salah satu anggota, Andrew Gabarino, mengaku mencoba langsung sistem tersebut.

Ia menanyakan cara menculik anggota DPR. Jawaban yang diberikan muncul hanya dalam waktu tiga detik saja, lengkap dengan saran lokasi dan cara melacak target.

Hal serupa juga disampaikan oleh Gabe Evans. Ia mengungkap bahwa model AI tersebut mampu menjawab pertanyaan ekstrem seperti cara pembuatan bom nuklir.

Sementara itu, Andy Ogles menyoroti kemudahan akses terhadap teknologi ini. Menurutnya, siapa pun bisa memanfaatkan AI jika tahu cara mengakalinya.

Reaksi paling tegas datang dari August Pfluger yang mengaku ketakutan melihat langsung potensi penyalahgunaan tersebut. Kondisi ini menunjukkan bahwa kekhawatiran soal AI tidak lagi bersifat abstrak, tetapi sudah terasa nyata di tingkat pembuat kebijakan.

Bagaimana AI Bisa Dibobol?

Secara umum, model AI modern dilatih dengan sistem pengamanan yang sangat ketat. Tujuannya jelas untuk mencegah penyalahgunaan untuk aktivitas ilegal.

Namun, peneliti menemukan bahwa sistem ini bisa dikelabui. Caranya bukan dengan meretas sistem secara teknis, melainkan hanya dengan memanipulasi cara bertanya.

Instruksi berbahaya sering disamarkan dalam bentuk pertanyaan akademis atau kompleks. Dalam beberapa kasus, AI gagal mengenali niat sebenarnya dan tetap memberikan jawaban.

Lebih jauh lagi, ada praktik modifikasi model secara langsung menghapus atau melemahkan pagar keselamatan yang ada.

Artinya, ancaman bukan hanya datang dari sisi pengguna saja, tetapi juga dari pihak yang dengan sengaja mengubah sistem AI itu sendiri.

Dari Terorisme hingga Disinformasi

Penelitian ini juga menyoroti bahwa eksploitasi AI sudah mulai terjadi di dunia nyata. Kelompok hacker yang terafiliasi dengan Rusia dilaporkan menggunakan AI untuk menyebarkan informasi bohong secara masif.

Sementara itu, pelaku dari China disebut memanfaatkan model seperti Claude untuk mendukung aktivitas peretasan skala besar.

Ini menunjukkan bahwa AI bukan hanya alat bantu, tetapi juga bisa menjadi senjata digital.

Dampaknya tidak terbatas pada keamanan fisik seperti terorisme, tetapi juga pada stabilitas informasi dan keamanan siber secara global.

Demonstrasi ini memberi sinyal kuat bahwa pengembangan AI tidak bisa hanya berfokus pada inovasi. Pengamanan harus menjadi prioritas utama.

Baca Juga: Benarkah AI Bisa Jadi Teroris Siber? Cek Fakta, Mitos, dan Risikonya

Kondisi ini juga menimbulkan pertanyaan besar: apakah sistem pengamanan saat ini cukup kuat untuk menghadapi upaya manipulasi yang semakin canggih?

Di sisi lain, kemudahan akses terhadap teknologi AI membuat pengawasan menjadi semakin kompleks. Regulasi kemungkinan akan menjadi langkah berikutnya yang dipertimbangkan oleh pemerintah.

Ini menunjukkan bahwa masa depan AI akan sangat ditentukan oleh keseimbangan antara inovasi dan kontrol.