Eksekutif Puncak OpenAI Mengundurkan Diri, Mengatakan Keselamatan Telah Menjadi Prioritas Utama Perusahaan

Daftar Isi

Pengumuman Leike yang dilontarkan melalui serangkaian tweet mengungkapkan bahwa keputusannya untuk hengkang tidaklah mudah. Ia merefleksikan pencapaian timnya selama tiga tahun terakhir

Open AI

Jan Leike, kepala penyelarasan, pemimpin penyelarasan super, dan eksekutif di OpenAI, mengumumkan pengunduran dirinya pada 17 Mei 2024. Kepergiannya menandai berakhirnya era penting dalam penelitian dan pengembangan AI di organisasi tersebut.

Pengumuman Leike yang dilontarkan melalui serangkaian tweet mengungkapkan bahwa keputusannya untuk hengkang tidaklah mudah. Dia merefleksikan pencapaian timnya selama tiga tahun terakhir, termasuk meluncurkan model bahasa RLHF (Reinforcement Learning from Human Feedback) yang pertama dengan InstructGPT. Timnya juga membuat kemajuan dalam pengawasan yang terukur pada model bahasa besar (LLM) dan memelopori kemajuan dalam interpretasi otomatis dan generalisasi lemah ke kuat.

“Saya mencintai tim saya,” cuit Leike, mengungkapkan rasa terima kasihnya kepada individu-individu berbakat yang bekerja bersamanya baik di dalam maupun di luar tim superalignment. Dia menyoroti kecerdasan, kebaikan, dan efektivitas bakat OpenAI.

Namun kepergian Leike dipicu oleh kekhawatiran mendalam terhadap arah perusahaan. Dia mengungkapkan ketidaksepakatan yang sedang berlangsung dengan pimpinan OpenAI mengenai prioritas inti organisasi. “Kita perlu segera mencari cara untuk mengarahkan dan mengendalikan sistem AI yang jauh lebih cerdas dari kita,” katanya, menekankan pentingnya fokus pada model AI generasi berikutnya, keamanan, pemantauan, kesiapsiagaan, keselamatan, ketahanan permusuhan, penyelarasan, kerahasiaan. , dan dampak sosial.

Leike mengungkapkan kekhawatirannya bahwa bidang-bidang penting ini tidak mendapat perhatian dan sumber daya yang diperlukan. “Masalah-masalah ini cukup sulit untuk diselesaikan, dan saya khawatir kita belum berada pada jalur yang tepat untuk mencapainya,” cuitnya, seraya menambahkan bahwa timnya sering menghadapi tantangan dalam mengamankan sumber daya komputasi yang diperlukan untuk penelitian mereka.

Ia juga menyuarakan keprihatinan mengenai potensi bahaya pengembangan mesin yang lebih pintar dari manusia, dan menekankan bahwa OpenAI mempunyai tanggung jawab yang besar terhadap kemanusiaan. Dia mengkritik perusahaan karena memprioritaskan "produk cemerlang" dibandingkan budaya dan proses keselamatan, dan menyerukan peralihan ke arah perusahaan AGI (Artificial General Intelligence) yang mengutamakan keselamatan.

Dalam pesan terakhirnya kepada karyawan OpenAI, Leike mendesak mereka untuk bertindak dengan keseriusan yang sesuai untuk membangun AGI dan menerima perubahan budaya yang diperlukan. “Dunia mengandalkan Anda,” tulisnya.

Pengunduran diri Jan Leike menggarisbawahi sifat kompleks dan kritis dari pengembangan AI serta perlunya pertimbangan yang cermat terhadap implikasi keselamatan dan etika seiring dengan kemajuan teknologi.