CEO OpenAI Jan Lake mengundurkan diri - mengatakan "keamanan" tidak lagi menjadi prioritas

Baru-baru ini, Jan Lake, salah satu direktur tim Superalignment OpenAI, mengumumkan kepergiannya dari perusahaan. Langkah ini merupakan pukulan besar bagi OpenAI, yang selama ini berada di garis depan dalam penelitian dan pengembangan AI. Peluncuran Like sangat penting mengingat peran sistem AI dalam memastikan keamanan dan menyelaraskan dengan kebutuhan manusia. Dalam pernyataan perpisahannya, dia menyatakan keprihatinan serius mengenai prioritas OpenAI. Perusahaan telah mengabaikan pedoman budaya dan keselamatan internal, dan sekarang berfokus pada peluncuran produk-produk yang “menarik perhatian” dengan kecepatan tinggi.

OpenAI mendirikan Superalignment Group pada Juli 2023, yang tujuan utamanya adalah memastikan bahwa sistem AI dengan “kecerdasan super” dan “lebih pintar dari manusia” mengikuti keinginan manusia. Pada awal berdirinya, OpenAI berkomitmen untuk menginvestasikan 20% daya komputasinya selama empat tahun ke depan untuk memastikan keamanan model AI-nya. Inisiatif ini dipandang sebagai langkah penting menuju pengembangan teknologi AI yang bertanggung jawab dan andal.

Kekerasan terbaru terhadap OpenAI

Pengunduran diri Like terjadi di tengah gejolak terkait OpenAI. Di tahun Pada November 2023, seluruh karyawan OpenAI mengancam akan keluar dari pemimpin terguling Sam Altman dan mengikutinya ke Microsoft. Langkah ini sebagai tanggapan atas keputusan dewan untuk mencopot Altman sebagai CEO. Mereka menyebutkan bahwa hubungan dengan dewan pada saat itu tidak tulus. Situasi ini akhirnya terselesaikan ketika Altman kembali, disertai dengan perombakan dewan direksi badan nirlaba perusahaan tersebut.

Tanggapan dari pimpinan OpenAI

Menanggapi kekhawatiran tersebut, Greg Brockman dan Sam Altman dari OpenAI bersama-sama menyatakan bahwa mereka telah “meningkatkan pemahaman mereka tentang ancaman AI dan akan terus meningkatkan keamanan di masa depan untuk menghadapi pangsa setiap model baru”. Tanggapan ini menunjukkan bahwa OpenAI menyadari pentingnya keamanan AI dan mengatasi permasalahan ini. Namun pengunduran diri Like dan pembubaran tim SuperLine menimbulkan pertanyaan tentang kemampuan perusahaan dalam memprioritaskan keselamatan dan keamanan dalam mengejar pertumbuhan AI.

Berita Gizchina minggu ini

Kutipan dari tanggapan bersama mereka akan dibacakan

“Kami sangat berterima kasih atas semua yang telah dilakukan Jan untuk OpenAI, dan kami tahu dia akan terus berkontribusi pada misi kami secara eksternal. Mengingat beberapa pertanyaan yang muncul setelah kepergiannya, kami ingin berbagi pemikiran mengenai strategi kami secara keseluruhan.”

Pertama, kami meningkatkan kesadaran akan risiko dan peluang AGI sehingga dunia lebih siap menghadapinya. Kami telah berulang kali menunjukkan kemungkinan besar yang ditawarkan dengan memperluas pembelajaran mendalam dan menganalisis dampaknya. melakukan seruan internasional kepada manajemen AGI (sebelum seruan tersebut menjadi populer); Dan mereka melakukan penelitian di bidang ilmiah untuk menilai risiko terburuk dari sistem AI. Pekerjaan tak berdasar.

Kedua, kami sedang meletakkan dasar untuk menerapkan sistem yang semakin kuat. Tidak mudah untuk membuat teknologi baru menjadi aman untuk pertama kalinya. Misalnya, tim kami melakukan banyak upaya untuk menghadirkan GPT-4 dengan aman ke dunia, dan sejak itu terus meningkatkan pemantauan perilaku dan penyalahgunaan model berdasarkan pembelajaran dari penerapan.

Ketiga, masa depan akan lebih sulit dibandingkan masa lalu. Kita harus terus meningkatkan upaya keamanan agar sesuai dengan risiko dari setiap model baru. Tahun lalu kami mengadopsi kerangka kesiapan untuk mensistematisasikan pendekatan kami terhadap pekerjaan kami…”

Ringkasan

Pengunduran diri Jan Lake merupakan perkembangan signifikan yang menyoroti tantangan dan ketegangan dalam komunitas riset AI. Seiring dengan kemajuan teknologi AI yang pesat, perusahaan seperti OpenAI harus memprioritaskan keamanan. Merek-merek ini harus menjaga tingkat keamanan yang tinggi untuk memastikan teknologi ini beroperasi secara bertanggung jawab. Kekhawatiran serupa juga menjadi pengingat akan perlunya transparansi dan akuntabilitas mengenai perubahan prioritas OpenAI. Merek AI harus menunjukkan komitmen terhadap praktik etis dalam penelitian dan pengembangan AI.

Penafian: Kami mungkin mendapat kompensasi dari beberapa perusahaan yang produknya kami diskusikan, namun artikel dan opini kami selalu merupakan opini jujur ​​kami. Untuk lebih jelasnya, Anda dapat memeriksa pedoman editorial kami dan mempelajari cara kami menggunakan tautan afiliasi.

Link Sumber: https://www.gizchina.com

Location:

Berbagi :