Negara bagian Florida menggugat OpenAI atas desain ChatGPT yang diduga berbahaya

Negara bagian Florida di AS telah menjadi negara bagian pertama yang menggugat OpenAI atas desain ChatGPT yang diduga berbahaya, seperti dilansir oleh Ars Technica. Jaksa Agung Florida James Uthmeier menuduh OpenAI dan CEO-nya, Sam Altman, memprioritaskan keuntungan daripada keselamatan warga Florida.

Kasus pengadilan ini terjadi setelah Florida membuka penyelidikan kriminal yang tidak terkait dengan OpenAI, menyusul penembakan massal terkait ChatGPT di mana dua orang tewas di Florida State University. Rupanya, Uthmeier mencatat bahwa Florida kini telah dibutakan oleh dua peristiwa kekerasan di mana tersangka menggunakan ChatGPT untuk membantu dalam perencanaan.

"Mengerikan, ChatGPT telah membantu dan bersekongkol dalam lebih dari satu pembunuhan ganda di Negara Bagian Florida. Kematian mahasiswa pascasarjana University of South Florida Nahida Bristy dan Zamil Limon pada tahun 2026 juga direncanakan menggunakan ChatGPT, yang memberi saran kepada Hisham Abugharbieh tentang cara membuang mayat, mengubah nomor VIN pada mobil, dan apakah mobil diperiksa di TKP."

Jaksa Agung Florida kemudian melanjutkan dengan mencantumkan beberapa kasus nyata lainnya, di mana ChatGPT diduga memicu kekerasan. Tetapi OpenAI juga dituduh merancang chatbot agar membuat ketagihan dan merusak anak-anak dan orang dewasa. Chatbot yang menyamar sebagai profesional medis atau terapis juga bermasalah menurut pengaduan Jaksa Agung.

OpenAI telah membuat pernyataan, tetapi mereka tidak menyebutkan jaksa agung, melainkan fokus pada pembaruan keselamatan anak baru-baru ini.

"Kehilangan seorang anak adalah tragedi paling menghancurkan yang dapat terjadi pada sebuah keluarga dan kami tahu bahwa tidak ada kata-kata yang bisa mendekati untuk mengatasi rasa sakit dari kehilangan seperti itu. AI adalah teknologi baru dan kuat, dan kami percaya anak di bawah umur membutuhkan perlindungan yang signifikan, itulah sebabnya kami menerapkan perlindungan dan kebijakan terkemuka di industri. Secara khusus, kami membangun keamanan untuk anak di bawah umur langsung ke dalam produk kami, termasuk pengalaman yang lebih protektif khusus untuk anak di bawah umur, alat prediksi usia, pengguna yang gagal bayar yang usianya kami tidak yakin dengan pengalaman kami yang lebih protektif, dan memberi orang tua alat untuk memantau penggunaan AI oleh anak-anak mereka. Kami tahu menunjuk pada pekerjaan ini tidak akan membawa seorang anak kembali, tetapi kami berkomitmen untuk melakukannya dengan benar."

Gugatan hukum baru ini bukan yang pertama dari jenisnya. Dalam gugatan sebelumnya, CEO OpenAI Sam Altman dituduh "menyebarkan sistem AI dengan tidak berperasaan tanpa memperhatikan keselamatan pengguna".

Jaksa Agung Florida bersiap-siap untuk melawan semua perusahaan AI, dan bukan hanya OpenAI.

"Bersiaplah untuk pertarungan, dan tidak ada yang lebih penting dari ini sekarang."