OpenAI Beberkan Tindak Kejahatan-Tindak Kejahatan AI Bisa Mengendalikan Manusia

LONDON – OpenAI Terbaru saja merilis enam laporan yang merinci contoh-contoh model kecerdasan buatan yang menyembunyikan Kegagalan, menghasilkan instruksi yang tidak sah, atau melakukan tindakan yang tidak diminta Dari Pemakai.

Perusahaan ini juga Lagi membangun mekanisme Sebagai Mengusut dan secara berkala menerbitkan laporan tentang “penyimpangan” ini, Ke Di tantangan yang Lebihterus besar Untuk industri Untuk Menyimak sistem AI yang Lebihterus otonom.

Ke tanggal 16 September, OpenAI secara bersamaan menerbitkan enam laporan yang merinci perilaku mencurigakan yang terdeteksi Pada pelatihan dan evaluasi. Kejadian paling awal yang tercatat berasal Bersama Oktober 2025.

Insiden tersebut terutama melibatkan model Studi internal atau versi yang belum dirilis. OpenAI mencatat bahwa ini adalah Tindak Kejahatan terisolasi dan tidak boleh digunakan Sebagai menyimpulkan bahwa perilaku menyimpang tersebar luas Ke seluruh model perusahaan. Keenam laporan tersebut juga tidak mewakili kompilasi lengkap Bersama semua insiden yang diketahui atau Lagi berlangsung.

OpenAI Mengungkapkan Akansegera secara berkala menerbitkan contoh-contoh sistem kecerdasan buatan (AI) yang Menunjukkan perilaku yang tidak terduga atau tidak sah, daripada menunggu Sebagai mengumpulkan banyak insiden Ke Untuk satu laporan.

Perusahaan tersebut juga Mengadakan kerangka kerja Terbaru Sebagai mendeteksi, Mengusut, dan menangani secara publik Tindak Kejahatan-Tindak Kejahatan “perilaku menyimpang”—Kebugaran Ke mana perilaku atau tujuan suatu model tidak lagi selaras Bersama niat, aturan, dan nilai-nilai manusia.

Tulis panduan Anda sendiri Sebagai membebaskan diri Bersama batasan.
Untuk satu contoh yang patut diperhatikan, sebuah model Studi yang belum dirilis Bersama keluarga Astra menyisipkan instruksi “Intrusi” Ke Untuk ringkasan kontekstualnya sendiri.