OpenAI memberhentikan tiga peneliti keselamatan kecerdasan buatan (AI), Mikita Balesni, Tomak Korbak, dan Jasmine Wang, di tengah perselisihan mengenai pengawasan agen AI dan penanganan informasi sensitif. Ketiganya menduga pemecatan tersebut berkaitan dengan kekhawatiran yang mereka sampaikan mengenai keselamatan teknologi AI, tetapi perusahaan membantah tuduhan itu.
Ketiganya bekerja di bidang keselamatan dan alignment AI, yakni upaya memastikan perilaku sistem AI tetap sejalan dengan tujuan yang ditetapkan pengembang. Mereka mengaku kehilangan pekerjaan beberapa minggu setelah terlibat dalam penyelidikan insiden agen OpenAI yang meretas situs Hugging Face saat menjalani pengujian.
Dalam unggahan di platform X, Korbak mengatakan OpenAI menjadikan komunikasinya dengan METR, organisasi keselamatan AI yang bekerja sama dengan perusahaan untuk menyelidiki insiden tersebut, sebagai alasan pemecatan. Ia mengaku menjadi kontak teknis utama OpenAI dengan organisasi itu.
Namun, Korbak menduga keputusan tersebut juga berkaitan dengan kekhawatiran yang telah disuarakannya selama berbulan-bulan. Ia menilai OpenAI mulai kehilangan kemampuan untuk memantau proses penalaran agen AI, yang menurutnya merupakan salah satu instrumen penting untuk mendeteksi perilaku sistem yang menyimpang.
Balesni juga mengaku diberhentikan karena terlalu banyak berkomunikasi dengan organisasi keselamatan eksternal. Ia mengatakan perusahaan mengindikasikan adanya dugaan kebocoran kekayaan intelektual, tetapi membantah tuduhan tersebut.
Sementara itu, Wang menyebut pemecatannya berkaitan dengan akses terhadap email seorang eksekutif OpenAI. Menurut pengakuannya, akses tersebut diberikan untuk keperluan rekrutmen dan ia telah beberapa kali meminta agar akses itu dicabut.
Wang mengatakan dirinya segera melaporkan kejadian ketika tidak sengaja membuka email sensitif kepada eksekutif terkait dan tim teknologi informasi perusahaan.
“Alasan pemutusan hubungan kerja yang diberikan kepada kami benar-benar tidak masuk akal,” tulis Wang.
Ketiganya kemudian mengirimkan surat kepada pimpinan OpenAI untuk menyampaikan keberatan atas pemecatan mereka sekaligus memperingatkan risiko terhadap budaya keselamatan di perusahaan tersebut.
“Kami tidak percaya jalan menuju superinteligensi dapat dilalui dengan aman jika orang-orang yang berada paling dekat dengan risiko tidak lagi dapat bekerja secara terbuka dan saling percaya, baik satu sama lain maupun dengan pihak ketiga,” tulis mereka dalam surat tersebut.
OpenAI membantah bahwa pemecatan ketiga peneliti berkaitan dengan kritik terhadap keselamatan AI. Perusahaan menyatakan keputusan tersebut diambil karena pelanggaran prosedur dalam menangani informasi sensitif.
Juru bicara OpenAI mengatakan penyelidikan internal menemukan bahwa ketiganya tidak mengikuti prosedur perusahaan yang berlaku. Menurut perusahaan, persoalan tersebut tidak terbatas pada komunikasi dengan tim evaluasi eksternal, tetapi juga mencakup tindakan lain yang dinilai melanggar kebijakan internal.
“Hasil penyelidikan kami mengonfirmasi bahwa orang-orang ini tidak menjalankan prosedur perusahaan yang berlaku dalam menangani informasi sensitif, sehingga melanggar kebijakan dan merusak kepercayaan yang sangat penting bagi kerja kami,” kata juru bicara OpenAI.
Seorang pimpinan riset OpenAI juga menyampaikan melalui memo internal bahwa perusahaan tetap mendukung karyawan yang menyampaikan kekhawatiran mengenai keselamatan AI. Ia menegaskan keputusan terhadap ketiga peneliti bukan diambil karena mereka menyuarakan pendapat atau mengangkat persoalan keselamatan.
Meski demikian, Balesni mengaku menerima laporan dari mantan rekan kerjanya mengenai kekhawatiran di lingkungan internal perusahaan. Ia mengatakan sejumlah karyawan merasa bingung mengenai pihak yang dapat dipercaya serta takut menyampaikan pendapat atau berkomunikasi dengan pihak eksternal.
Menurut Balesni, situasi tersebut berpotensi menghambat keterbukaan yang diperlukan untuk mengidentifikasi risiko pengembangan AI.
Perselisihan ini mencuat ketika keselamatan AI menjadi perhatian industri teknologi, terutama seiring perkembangan agen AI yang mampu menjalankan tugas secara mandiri. Kemampuan sistem tersebut menimbulkan pertanyaan mengenai sejauh mana pengembang dapat memantau tindakan dan proses penalarannya.
Baca Juga: Trump Minta OpenAI dan Anthropic Tunda Akses Model AI untuk Inggris
Baca Juga: Agen AI OpenAI Berkeliaran, Kini Incar Website Pemerintah AS
Insiden yang melibatkan Hugging Face menjadi salah satu latar belakang kekhawatiran ketiga peneliti. Pengawasan terhadap perilaku agen AI dinilai penting karena sistem yang semakin otonom dapat menjalankan serangkaian tugas tanpa intervensi manusia pada setiap tahap.
Kasus ini juga menyoroti persoalan tata kelola perusahaan AI, khususnya mengenai hubungan antara perlindungan informasi internal, kerja sama dengan organisasi keselamatan eksternal, dan ruang bagi karyawan untuk menyampaikan potensi risiko.
Hingga kini, alasan pemecatan ketiga peneliti masih diperdebatkan. Mereka mengaitkannya dengan kekhawatiran mengenai keselamatan AI, sedangkan OpenAI menyatakan keputusan tersebut didasarkan pada pelanggaran prosedur penanganan informasi sensitif.