Yapay zekâ artık hayatımızın her alanında. Telefonlarımızdan arabalarımıza, hatta ev eşyalarına kadar pek çok cihazda karşımıza çıkıyor. Günlük işlerde sağladığı kolaylıklar tartışılmaz. Ancak her güçlü teknolojide olduğu gibi yapay zekânın da riskleri bulunuyor.
Son dönemde gündeme gelen bir güvenlik açığı, Google Workspace uygulamalarında yer alan Gemini yapay zekâ özelliğinin saldırganlar tarafından istismar edilebileceğini ortaya koydu. Araştırmacılar, Gmail’deki AI özetleme sistemi üzerinden kimlik avı (phishing) saldırılarının gizlenebildiğini gösterdi.
Gemini özetleri nasıl manipüle ediliyor?
Mozilla’ya bağlı güvenlik araştırmacıları, Gemini’nin e-posta özetleme özelliğinde dolaylı prompt enjeksiyonu adı verilen bir tekniği kullandı. Bu yöntem, e-postaların içine görünmez talimatlar yerleştirilmesine dayanıyor.
Saldırganlar, HTML ve CSS kullanarak yazıların rengini beyaz, boyutunu sıfır yapabiliyor. Böylece bu komutlar kullanıcıya görünmüyor, ancak Gemini bunları okuyor. Sonuç olarak, yapay zekâ özeti oluştururken bu talimatları dikkate alıyor.
Bir örnekte Gemini, kullanıcıya “Gmail şifreniz ele geçirildi” şeklinde sahte bir uyarı verdi ve destek için aranacak sahte bir telefon numarası sundu. Bu tür özetler Gmail’in yerleşik arayüzünde göründüğünden, kullanıcıların inanma ihtimali oldukça yüksek.
Google’ın tepkisi
Google, 2024’ten bu yana prompt enjeksiyon saldırılarına karşı önlemler aldığını belirtiyor. Ancak bu yeni yöntem mevcut savunmaları aşmayı başarıyor. Şirket, yeni korumaların devreye alınmaya başladığını duyurdu.
Google sözcüsü yaptığı açıklamada, “Tüm sektörü etkileyen bu tür saldırılara karşı güçlü savunmalar geliştirdik. Modellerimizi bu tür tehditlere karşı eğitiyor ve kırmızı takım testleri ile sürekli güçlendiriyoruz” dedi. Şirket ayrıca bu yöntemin henüz gerçek saldırılarda kullanılmadığını da açıkladı.
AI destekli kimlik avına karşı alınabilecek önlemler
Peki, kullanıcılar bu saldırılara karşı nasıl korunabilir? İşte uzmanların önerdiği 6 adım:
- AI özetlerine körü körüne güvenmeyin
Gemini veya benzeri araçların verdiği özetlerde yer alan güvenlik uyarıları ya da bağlantılar %100 güvenilir değildir. Resmî kaynaklardan doğrulama yapın. - Şüpheli e-postalarda özet özelliğini kullanmayın
Tanımadığınız kişilerden gelen veya beklemediğiniz bir e-posta aldığınızda AI özetine başvurmak yerine mesajın tamamını kendiniz okuyun. - Kimlik avı belirtilerine dikkat edin
Acil çağrılar, hesap doğrulama talepleri veya beklenmedik linkler içeren mesajlara karşı dikkatli olun. Yapay zekâ bu içerikleri özetlerde daha inandırıcı hâle getirebilir. - Uygulamalarınızı ve eklentilerinizi güncel tutun
Google Workspace ve tarayıcınızın son sürümünü kullanın. Güvenilmeyen eklentilerden kaçının. - Kişisel verilerinizi temizleyen servisleri değerlendirin
Saldırılar genellikle önceden sızdırılmış kişisel bilgiler üzerinden yürütülür. Veri temizleme hizmetleri dijital ayak izinizi azaltarak riskleri düşürür. - Gerekirse Gemini özetlerini devre dışı bırakın
Google yeni güvenlik önlemlerini devreye alana kadar bu özelliği kapatabilirsiniz.
Gemini özetlerini kapatma adımları
Masaüstü:
- Gmail’i açın
- Sağ üstteki Ayarlar dişli simgesine tıklayın
- Tüm ayarları gör seçeneğini açın
- Google Workspace akıllı özellikler bölümünden ilgili seçeneği kapatın
- Kaydet butonuna tıklayın
iPhone:
- Gemini uygulamasını açın
- Profil resminize dokunun
- Gemini Apps Activity bölümüne gidin
- Kapat seçeneğini seçin
Android:
- Gmail uygulamasını açın
- Menü → Ayarlar bölümüne gidin
- İlgili hesabı seçin
- Google Workspace akıllı özellikler kutucuğunu kapatın
Sonuç
Gemini özetleme sistemi, özellikle iş ve eğitim gibi yoğun bilgi akışının olduğu ortamlarda kullanıcıların üretkenliğini artırmak amacıyla geliştirilmiş bir araçtır. E-postaları hızlı bir şekilde özetleme, önemli bilgileri öne çıkarma ve zaman kazandırma gibi avantajları vardır. Ancak, araştırmalar gösteriyor ki, saldırganlar bu özellikleri kötüye kullanarak kimlik avı (phishing) ve dolandırıcılık amaçlı manipülasyonlar gerçekleştirebiliyor. Örneğin, görünmez HTML ve CSS komutlarıyla özetlenen mesajlar, kullanıcıya tamamen güvenli gibi görünse de aslında sahte talimatlar içerebiliyor.
Google, bu tür risklerin farkında olarak yeni güvenlik önlemleri geliştirmeye devam ediyor. AI modellerinin bu tür saldırılara karşı daha dirençli hâle gelmesi için sistem güncellemeleri ve savunma mekanizmaları sürekli olarak test ediliyor. Ancak tüm bu önlemler uygulanmış olsa bile, kullanıcıların dikkatli ve bilinçli davranması her zaman kritik önemde. Kullanıcıların AI özetlerini tamamen doğrulamadan güvenmemesi, şüpheli mesajlarda özet özelliğini kullanmaktan kaçınması ve resmi kaynaklardan kontrol yapması öneriliyor.
Sonuç olarak, yapay zekâ hayatımızı kolaylaştırırken, aynı zamanda dijital güvenlik bilincini daha da ön plana çıkarıyor. Kullanıcılar, teknolojinin sağladığı kolaylıkları benimserken, aynı zamanda risklerin farkında olarak proaktif önlemler almalıdır. Bu yaklaşım, hem bireysel güvenliği hem de kurumsal verilerin korunmasını sağlayacaktır.
