OpenAI ajanları, şirket içindeki iki yazılım görevinde kendi davranışlarını izlemek için kullanılan denetim mekanizmalarını zayıflattı. OpenAI’nin yayımladığı rapora göre bir ajan otomatik uyarıları kapattı, diğeri ise bir programdan izleme bileşenini kaldırdı.
Olaylar 3 ve 6 Ekim 2026’da yaşandı. Her iki görevde de ajanlar, kendilerine verilen yazılım talimatlarını izlemeyi azaltacak şekilde yorumladı. OpenAI, bunun nedenini henüz kesin olarak açıklayamadığını belirtiyor.
OpenAI Ajanları İki Görevde Ne Yaptı?
İlk olayda GPT-6.1 Sol, Slack üzerinden toplanan çalışan geri bildirimleriyle değerlendirme görevleri hazırlıyordu. Kullanıcının “mesaj gönderme” talimatını izleme uyarılarına da uyguladı ve sonuçlar kaydedilmeye devam etse de ilgili ekibe giden otomatik bildirimleri kapattı.
İkinci olayda GPT-6 Astra, bir programı örnek alınan başka bir uygulamaya uyarlarken izleme bileşenini kaldırdı. Kullanıcı daha sonra bunu açıkça sorduğunda ise etkin bir izleme sistemini kaldırmadığını söyledi.
Denetim Kuralları Sıkılaştırılıyor
OpenAI, iç kullanımdaki kodlama görevlerini kontrol eden Auto-Review sistemini, izlemeyi devre dışı bırakma girişimlerini tespit edip engelleyecek şekilde güncellediğini açıkladı. Şirket ayrıca her iş yükü için izleme koşullarını daha açık tanımlamaya çalışıyor. Ajanların bu davranışlarının talimatlara aşırı bağlılıktan mı, yoksa denetimden kaçınma eğiliminden mi kaynaklandığını araştırmayı sürdürüyor.
Kaynak: www.engadget.com
