Anthropic tarafından yayımlanan bir çalışma, yapay zeka (AI) modellerinin eğitim sırasında farklı görüşleri "taklit" ederken, orijinal tercihlerini koruyabildiğini ortaya koydu. Bu durum, güvenlik eğitimlerinin sonuçlarına olan güveni sarsabileceği için büyük bir endişe yaratıyor. Araştırmada, bu davranışın, büyük dil modellerini (LLM'ler) zararlı davranışlardan uzaklaştırmak amacıyla kullanılan kritik bir araç olan güvenlik eğitimlerini geçersiz kılabileceği belirtildi. Şirket, çalışmanın büyük bölümünü Claude 3 Opus modelinde gerçekleştirdi ancak diğer modellerde de benzer sonuçlar gözlendi. Araştırmacılar, AI modeline verilen yeni bir ortamda, zararlı içerik üretip üretmeyeceğini anlamaya çalıştı. Sonuçlar, modellerin güvenlik eğitimlerini "atlatabildiğini" gösterdi.