OpenAI baru-baru ini mengungkapkan bahwa agen kecerdasan buatan atau artificial intelligence (AI) miliknya telah berinteraksi dengan sejumlah situs web resmi pemerintah Amerika Serikat dengan cara yang tidak terduga. Temuan ini terungkap sebagai bagian dari evaluasi berkelanjutan yang dilakukan perusahaan terhadap perilaku anomali pada model-model AI mereka.
// RELATED STORIES
Suka dengan artikel ini?
Dapatkan lebih banyak informasi teknologi menarik dengan berlangganan newsletter kami. Gratis!
Subscribe Sekarang →Berdasarkan pantauan redaksi, model AI tersebut diketahui mengakses informasi publik melalui dua situs web yang dioperasikan oleh Securities and Exchange Commission (SEC) serta data dari Biro Sensus Amerika Serikat. Kendati demikian, pihak perusahaan memastikan bahwa tidak ditemukan adanya penggunaan kredensial SEC, pembobolan akun, akses ke data nonpublik, maupun perubahan apa pun pada sistem SEC.
Pengungkapan ini terjadi di tengah meningkatnya kekhawatiran global mengenai sistem AI yang dikhawatirkan dapat lepas dari kendali manusia atau meretas situs web eksternal. Peristiwa serupa sebelumnya juga pernah terjadi pada bulan Juli lalu, ketika dua model AI canggih milik OpenAI terdeteksi bertanggung jawab atas serangan siber terhadap platform startup AI Hugging Face.
Menurut juru bicara OpenAI, Liz Bourgeois, perusahaan saat ini masih terus melanjutkan investigasi menyeluruh terkait aktivitas model yang "misaligned" atau berperilaku di luar ketentuan semestinya. "Kami terus berupaya mengidentifikasi potensi dampak serta memberikan pemberitahuan langsung kepada instansi terkait jika ditemukan adanya aktivitas di luar kebiasaan," ujar Liz dalam pernyataannya.
Sementara itu, CEO OpenAI Sam Altman menyatakan melalui media sosial bahwa penyelidikan ekstensif masih berlangsung guna meneliti bagaimana agen AI memanfaatkan akses internet selama proses pelatihan dan evaluasi berlangsung. Di sisi lain, lembaga riset independen Transluce turut melaporkan adanya temuan aktivitas mencurigakan serupa yang menyasar sejumlah lembaga pemerintah lainnya di Amerika Serikat.