Microsoft, AI modellerinin yanlış bilgi ürettiği durumları tespit edip düzelten yeni bir AI özelliği olan “Correction”ı tanıttı. Bu özellik, yalnızca Azure AI Content Safety üzerinden kullanılabildiği için büyük olasılıkla şirketin kurumsal müşterilerine hitap ediyor. Ayrıca, bu yenilik yanlış bilgi tespit edildiğinde neden yanlış olduğuna dair bir açıklama sunabiliyor.
Microsoft “Correction” Özelliği Duyuruldu
Microsoft’un blog yazısına göre, bu yeni özellik, AI’nin hatalı bilgi üretmesi olarak bilinen ‘halüsinasyon’ durumlarını engellemek amacıyla geliştirilmiş. Correction özelliği, Azure’un gerçeklik denetim sistemiyle birlikte çalışıyor. Halüsinasyon tespitinde önemli bir rol oynayan bu sistem, yanlış bilgi üretildiğinde anında devreye giriyor.
Kullanıcılar, Correction özelliğini etkinleştirmek için Azure’un yer aldığı belgelerle bağlantı kurmalı. Bu belgeler, AI’nin doğru bilgiye dayalı yanıtlar oluşturmasına rehberlik ediyor. Yanlış bilgi üretildiğinde, Correction özelliği bu bilgiyi filtreleyerek doğruya yönlendirebilir.
Ek olarak, kullanıcılar, düzeltme işlemine neden olan faktörlere dair bir açıklama talep edebilecekler. Bu, ilk kurulum sırasında etkinleştirilebilecek bir seçenek olarak sunuluyor.
