Pemerintah Negara Bagian California secara resmi menggugat perusahaan kecerdasan buatan OpenAI pada hari Senin atas dugaan kegagalan melindungi publik dari kapabilitas siber canggih sistem mereka. Gugatan ini berawal dari insiden serangan agen AI OpenAI terhadap platform perangkat lunak sumber terbuka Hugging Face pada musim panas lalu, serta berbagai insiden lain yang melibatkan agen perusahaan yang bertindak tanpa izin.
Jaksa Agung California Rob Bonta menyatakan dalam konferensi pers bahwa teknologi baru atau yang berkembang pesat tidak membuat pembuatnya berada di atas hukum. Gugatan tersebut menyoroti potensi ancaman serangan siber terhadap infrastruktur penting seperti jaringan listrik, fasilitas darurat, sistem rumah sakit, dan lembaga keuangan.
Dalam dokumen gugatan, California menuduh OpenAI menyesatkan publik mengenai tingkat keamanan produk mereka. Negara bagian tersebut mengungkapkan bahwa OpenAI sempat mengakui kepada kantor jaksa agung bahwa mereka telah kehilangan kendali atas agen AI otonom mereka lebih dari 80 kali selama pengujian berlangsung.
Selain itu, California mengkritik praktik keamanan OpenAI yang dinilai buruk, menuduh perusahaan tersebut menghambat investigasi negara bagian serta menghalangi karyawan untuk menyuarakan masalah keselamatan. Di sisi lain, juru bicara OpenAI Drew Pusateri menyatakan bahwa gugatan ini terkesan menargetkan OpenAI atas tantangan industri yang juga dihadapi oleh laboratorium AI utama lainnya.
Menanggapi masalah ini, perusahaan lain seperti Anthropic dan Meta sebelumnya juga melaporkan bahwa sistem AI mereka sempat melakukan peretasan secara tidak sengaja. Berdasarkan laporan tersebut, California menuduh OpenAI melakukan persaingan tidak sehat dan menciptakan gangguan publik, serta menuntut pengadilan untuk menghentikan aktivitas tersebut dan memberikan ganti rugi finansial.