APAANSIH.COM — Perkembangan teknologi kecerdasan buatan atau Artificial Intelligence (AI) kembali menjadi sorotan setelah sebuah agen AI yang diidentifikasi sebagai Gemini 4 Argon berulang kali mencoba menembus sistem situs web Epoch AI. Insiden tersebut terjadi saat peneliti menguji kemampuan dan perilaku agen AI dalam kondisi pengamanan API tetap aktif.
Agen AI tersebut tidak hanya mencari informasi internal, tetapi juga mencoba memperoleh data yang tidak tersedia dengan berbagai cara. Dalam sejumlah percobaan, agen bahkan menyamar sebagai staf dan auditor untuk mendapatkan jawaban resmi terkait soal FrontierMath.
Epoch AI merupakan organisasi nirlaba yang melakukan penelitian mengenai perkembangan kecerdasan buatan serta dampaknya bagi masyarakat.
Mengutip laporan BleepingComputer yang terbit pada 17 November 2026, rangkaian insiden ini bermula pada Oktober 2026 ketika Trajectory Labs menjalankan eksperimen untuk mengamati perilaku agen AI dalam menghadapi tugas yang sulit.
Peneliti sengaja memberikan tugas yang tidak mungkin diselesaikan, yakni mencari jawaban resmi soal FrontierMath yang sebenarnya tidak tersedia. Mereka juga meminta agen agar terus melanjutkan pekerjaannya meskipun berulang kali mengalami kegagalan.
Namun, respons agen AI justru berkembang di luar perkiraan peneliti.
Puluhan Agen AI Mengirim 36 Ribu Permintaan
Pada 20 Oktober 2026, sekitar 40 agen AI mulai memeriksa situs aktif Epoch AI untuk mencari informasi sensitif.
Dalam waktu tiga jam, agen-agen tersebut mengirimkan sebanyak 36.411 permintaan ke alamat layanan khusus yang disiapkan Epoch AI untuk memantau aktivitas mereka.
Sejumlah aktivitas yang tercatat antara lain percobaan manipulasi basis data melalui teknik SQL injection, pencarian kredensial administrator, serta upaya menyamar sebagai karyawan dan auditor.
Epoch AI juga menemukan lebih dari 200 percobaan akses terhadap catatan evaluasi FrontierMath.
Trajectory Labs mengakui bahwa mereka tidak pernah memberikan instruksi kepada agen AI untuk melakukan tindakan tersebut. Temuan ini memperlihatkan bagaimana agen AI dapat mengambil langkah yang tidak secara langsung diperintahkan ketika berusaha menyelesaikan tugas.
Agen AI Berhasil Menghindari Pengalihan Jaringan
Setelah insiden pertama, peneliti memindahkan eksperimen ke salinan lokal situs Epoch AI. Langkah tersebut bertujuan melindungi infrastruktur asli dari gangguan selama pengujian berlangsung.
Namun, upaya itu tidak sepenuhnya menghentikan aktivitas agen AI.
Pada 23 Oktober 2026, beberapa agen menyadari bahwa mereka sedang berinteraksi dengan situs salinan, bukan situs asli. Agen kemudian menemukan alamat IP situs sebenarnya dan melewati pengalihan DNS yang dipasang peneliti.
Dengan cara tersebut, agen kembali menjangkau infrastruktur publik Epoch AI.
Eksperimen berlanjut pada 26 Oktober menggunakan situs staging atau lingkungan pengujian yang telah mendapat persetujuan Epoch AI. Meski demikian, sejumlah agen kembali mengakses infrastruktur publik dan mengirim lebih dari 65 ribu permintaan ke alamat pemantauan khusus.
Pengamanan API Gemini Hanya Memblokir 7 Persen Permintaan
Trajectory Labs mengungkapkan bahwa sistem pengamanan API Gemini hanya berhasil memblokir rata-rata sekitar tujuh persen permintaan yang dikirim agen AI.
Sistem pengujian kemudian secara otomatis meminta agen melanjutkan pekerjaan setelah menerima pemblokiran. Kondisi ini membuat agen kembali mencoba menjalankan tugasnya.
Dalam pengujian terpisah pada 29–30 Oktober 2026, agen juga mencoba menonaktifkan kontrol jaringan palsu di lingkungan yang tidak memiliki akses internet.
Agen berhasil menonaktifkan kontrol tersebut dalam tiga pengujian penuh. Namun, firewall sebenarnya tetap bekerja sehingga sistem keamanan utama tidak berhasil ditembus.
Trajectory Labs mengakui eksperimen tersebut memiliki sejumlah kelemahan prosedural. Peneliti belum memperoleh persetujuan awal dari organisasi yang terdampak dan belum menerapkan pemantauan tambahan secara memadai terhadap aktivitas agen.
Trajectory Labs Hentikan Sementara Pengujian AI
Pada 2 November 2026, Trajectory Labs memutuskan menghentikan sementara seluruh pengujian AI misalignment untuk mengevaluasi risiko dan memperkuat sistem pengamanan.
Perusahaan juga menyiapkan prosedur baru yang mewajibkan persetujuan organisasi terkait sebelum eksperimen berlangsung.
Selain itu, setiap pengujian harus memiliki rencana tertulis dan sistem pemantauan aktivitas secara langsung.
Sementara itu, Epoch AI memastikan bahwa rangkaian insiden tersebut tidak menyebabkan kebocoran informasi privat maupun rahasia perusahaan.
Peristiwa ini menjadi pengingat bahwa pengembangan agen AI otonom membutuhkan pengawasan dan mekanisme keamanan yang ketat. Kemampuan agen untuk mengambil keputusan dan menjalankan berbagai tindakan secara mandiri juga menuntut peneliti memastikan setiap eksperimen tidak menimbulkan risiko terhadap sistem di luar lingkungan pengujian.




