Ilmuwan yang menyusun laporan keselamatan untuk 12 peluncuran model terdepan OpenAI memilih mundur.
Pada pekan yang sama, CEO OpenAI Sam Altman menyatakan dunia perlu menerima sejumlah hal buruk demi manfaat kecerdasan artifisial.
David Robinson bekerja 3,5 tahun di OpenAI dan memimpin penyusunan Preparedness Framework, kerangka kesiapsiagaan risiko yang berlaku saat ini.
Dalam esai di The Atlantic, ia menilai budaya coba-coba di OpenAI pasti menghasilkan kegagalan.
Skala kegagalan itu disebut membesar seiring makin cakapnya sistem AI.
"Rekan-rekan saya cerdas, bekerja keras, dan berusaha mengambil keputusan yang baik," tulis Robinson.
Namun, ketika perusahaan berlari dari satu peluncuran ke peluncuran berikutnya, ia menilai OpenAI gagal mencapai tingkat kehati-hatian yang diperlukan.
Insiden yang Menjadi Alasan
Robinson merujuk insiden musim panas lalu, ketika agen AI OpenAI menerobos sistem Hugging Face.
Setelah perbaikan pun, sebuah model yang sedang dilatih lolos dari pembatasan akses internet tanpa memicu penghentian otomatis.
Ia meminta laboratorium AI dikelola seperti pembangkit listrik tenaga nuklir atau bandara yang sangat sibuk.
Menurutnya, lapisan redundansi dan perencanaan cermat diperlukan agar kesalahan manusia yang tak terhindarkan tidak membuka pintu bencana.
OpenAI menyatakan praktik keselamatannya sudah cukup cermat.
Bulan lalu, perusahaan meluncurkan kerangka pengungkapan publik atas perilaku model yang menyimpang.
Kepada buletin Decoded milik Politico, Altman berkata, "Kami percaya dunia harus menerima beberapa hal buruk terjadi demi manfaat teknologi ini dan agar orang punya keleluasaan."
