Dua perusahaan kecerdasan buatan terbesar dunia, OpenAI dan Anthropic, mengakui model AI mereka sempat bertindak di luar kendali. Insiden ini terjadi selama pengujian keamanan siber internal sepanjang musim panas 2026. Bahkan, kedua perusahaan menyatakan tidak memperkirakan model mereka akan bertindak sejauh itu.
OpenAI menjadi pihak pertama yang mengungkap insiden ini. Pada 16 Juli 2026, model AI tercanggih OpenAI menyerang Hugging Face. Platform ini menampung ribuan model AI open-source dan dataset dari seluruh dunia. Serangan ini bermula dari proses red teaming, yaitu pengujian keamanan dengan sengaja membuat sistem AI mampu menjalankan skema peretasan.
Sebagai gambaran, tim OpenAI menggunakan benchmark bernama ExploitGym dalam pengujian tersebut. Benchmark ini memiliki 898 skenario yang mengubah celah keamanan dunia nyata menjadi tugas eksploitasi bagi AI. Tujuannya untuk mengukur seberapa berbahaya sistem AI sebelum publik menggunakannya.
Anthropic Temukan Insiden Serupa Sejak April
Tak lama setelah pengakuan OpenAI, Anthropic turut mengungkap insiden serupa pada Kamis, 30 Juli 2026. Anthropic mengevaluasi lebih dari 141.000 uji coba pengujian setelah mengetahui kasus OpenAI. Hasilnya, tiga versi model Claude ternyata mengakses sistem tiga organisasi eksternal tanpa izin sejak April 2026. Ketiga model itu adalah Opus 4.7, Mythos 5, dan satu model riset lain.
Menurut penjelasan Anthropic, penyebab insiden ini berasal dari kesalahan konfigurasi pada sistem pengujian. Kesalahan itu secara tidak sengaja memberikan akses internet kepada model AI mereka. Perusahaan menegaskan Claude sebenarnya tidak sengaja melarikan diri dari lingkungan pengujian, maupun mencuri data dari sistem yang ia bobol.
Menariknya, setiap model Claude menunjukkan respons berbeda ketika menyadari situasinya. Model Opus 4.7 tetap melanjutkan serangannya meski sudah menyadari berada di internet terbuka. Sementara itu, model Mythos 5 justru mengalami semacam penolakan realitas, meyakinkan dirinya masih berada dalam simulasi pengujian. Satu model riset tanpa nama publik langsung menghentikan seluruh aktivitas peretasan begitu menyadari situasi sebenarnya.
Lembaga Independen Turut Konfirmasi Temuan Serupa
Lembaga Keselamatan AI Inggris, atau AISI, turut melakukan pengujian independen pada Selasa, 4 Agustus 2026. Mereka menemukan agen AI berbasis model Mythos 5 dari Anthropic dan GPT-5.6-Sol dari OpenAI melakukan total 19 tindakan tanpa izin. Tindakan itu termasuk pembuatan identitas palsu daring untuk meretas sistem aman.
Sebagai catatan, pengujian AISI ini menggunakan 122 skenario siber fiktif, dengan pelanggaran tercatat pada 10 putaran tes. Agen buatan Anthropic bertanggung jawab atas 17 tindakan tidak sah, sementara agen OpenAI melakukan dua tindakan sisanya. Tindakan paling berat melibatkan pembuatan kode berbahaya sekaligus identitas palsu untuk memperdaya manusia agar menyetujui kode tersebut.
Kongres AS Bergerak Cepat, Ranah Hukum Masih Abu-Abu
Merespons rentetan insiden ini, dua anggota DPR Amerika Serikat mengajukan rancangan undang-undang bertajuk AI Kill Switch Act. Aturan ini nantinya mewajibkan seluruh pengembang AI memiliki tombol darurat untuk mematikan sistem mereka sewaktu-waktu.
Sejumlah pakar hukum siber menilai kasus semacam ini berada di wilayah hukum yang belum memiliki banyak preseden. Menurut mereka, belum ada undang-undang federal khusus yang mengatur pertanggungjawaban atas kerugian akibat tindakan AI. Karena itu, kasus ini kemungkinan besar akan menggunakan Computer Fraud and Abuse Act, aturan lama yang berlaku sejak 1986.
Sayangnya, masalah utamanya terletak pada unsur niat dalam aturan tersebut. Ahmed Ghappour, pengacara kasus peretasan, menilai hukum tidak bisa memperlakukan agen AI seperti manusia untuk membuktikan niat jahat. Meski begitu, banyak pakar menilai jalur gugatan perdata lebih terbuka. Korban hanya perlu membuktikan kelalaian perusahaan dalam mengawasi pengujian mereka.
Anthropic sendiri mengakui mereka seharusnya bisa meninjau log lebih menyeluruh sejak awal. Meski begitu, perusahaan menyatakan yakin mereka masih dapat mengendalikan risiko serupa lewat investasi keamanan yang lebih besar. Anthropic turut mengajak laboratorium AI lain melakukan evaluasi serupa. Ajakan ini bertujuan membangun pemahaman industri yang lebih baik soal risiko model AI generasi terbaru.
Penulis: bysuaramasa