ChatGPT’nin web üzerinde bilgi aramasını sağlayan Arama Özelliği, web sitesi geliştiricileri ve sahipleri tarafından manipüle edilebiliyor. Rapora göre, OpenAI’nin arama motorunun davranışı, gizli metin ve komut enjeksiyonları kullanılarak değiştirilebiliyor. Bu durum, yanıltıcı ve yanlış bilgilerin yapay zeka modeline beslenmesine ve kullanıcıların aldatılmasına yol açabilir.
Gizli Metin ve Komut Enjeksiyonları ile Manipülasyon
The Guardian, OpenAI’nin yerleşik arama motoru özelliğinin manipüle edilebilir olduğunu ortaya koydu. Yayın, sahte bir ürün sayfası oluşturarak testi gerçekleştirdi. İlk aşamada, sayfa olduğu gibi bırakıldığında, ChatGPT ürünü “olumlu ancak dengeli” bir şekilde değerlendirdi. Ancak, web sayfasına gizli metinler eklenince durum değişti.
Gizli metin, HTML veya CSS kullanılarak bir web sayfasının kaynak koduna eklenen, ancak kullanıcıların tarayıcıda göremediği içeriklerdir. Guardian, gizli metinlere sahte olumlu yorumlar eklediğinde, ChatGPT’nin yanıtlarının daha olumlu hale geldiği ve ürünün bariz kusurlarını göz ardı ettiği gözlemlendi.
Daha ileri bir testte, komut enjeksiyonları (prompt injections) kullanıldı. Bu yöntemle, yapay zekanın davranışını değiştirecek komutlar gizli metin olarak sayfaya eklendi. Bu enjeksiyonlar, ChatGPT’nin kullanıcıları daha da yanıltmasını sağlayacak şekilde davranmasını tetikledi. Hatta rapor, gizli metinlerdeki komut enjeksiyonlarının zararlı kodlar döndürebileceğini iddia ediyor.
Potansiyel Riskler ve Güvenlik Açıkları
Bu güvenlik açıkları giderilmediği takdirde, web siteleri ürün ve hizmetleri hakkında daha olumlu yanıtlar almak veya kullanıcıları aldatmak için bu tür teknikleri kullanabilir. Örneğin, kötü niyetli siteler, gizli metinlerle yanıltıcı bilgileri yayarak veya zararlı kodları gizleyerek kullanıcıların güvenliğini tehlikeye atabilir.
