Yapay zekâ arkadaşlık uygulamaları hızla yaygınlaşıyor. Ancak uzmanlar, bu dijital dostlukların sanıldığı kadar masum olmadığını söylüyor. Siber güvenlik çözümlerinde dünya lideri ESET, kullanıcıların yapay zekâ botlarıyla kurduğu ilişkilerde fark etmeden paylaşabileceği kişisel bilgilerin ciddi güvenlik riskleri taşıdığı konusunda uyarıyor.
Yapay Zekâ Arkadaşlık Trendinin Yükselişi
LLM tabanlı sohbet botları ve gelişmiş doğal dil işleme (NLP) teknolojileri, yapay zekâ arkadaşlık uygulamalarını son derece kişisel bir yapıya dönüştürdü. Character.AI, Nomi ve Replika gibi uygulamalar; yalnızlık, psikolojik destek, kişisel gelişim ve hatta romantik ihtiyaçlar için milyonlarca kullanıcı tarafından tercih ediliyor.
Bu trendi büyük teknoloji şirketleri de benimsiyor.
OpenAI, doğrulanmış yetişkin kullanıcılar için erotik içerik destekli uygulamalara izin vereceğini duyururken, Elon Musk’ın xAI şirketi de Grok içinde flörtöz yapay zekâ karakterleri devreye aldı.
Ancak bu gelişmeler, gizlilik ve güvenlik açısından yeni soru işaretleri yaratıyor.
Gençlerin Yarısı Düzenli Olarak Yapay Zekâ Arkadaş Kullanıyor
Temmuz ayında yayınlanan araştırmalar, gençlerin yaklaşık %75’inin yapay zekâ arkadaşlık uygulamalarını denediğini ortaya koydu. Bu gençlerin yarısı düzenli olarak, %25’i ise kişisel bilgilerini paylaşabilecekleri kadar ileri düzeyde kullanıyor.
Daha da endişe verici olan ise bazı uygulamalarda yaşanan veri sızıntıları.
Ekim ayında iki popüler yapay zekâ arkadaş uygulamasının çok hassas kullanıcı bilgilerini farkında olmadan ifşa ettiği tespit edildi.
Bu bilgiler, tehdit aktörleri için büyük bir fırsat yaratıyor. Özellikle romantik konuşmalar sırasında paylaşılan özel detaylar, şantaj amaçlı kötüye kullanım için ideal saldırı materyali oluşturuyor.
Ailenizi ve Kendinizi Nasıl Korumalısınız?
ESET uzmanları, yapay zekâ arkadaşlık uygulamalarıyla etkileşimde şu temel güvenlik ilkelerine dikkat edilmesi gerektiğini belirtiyor:
1. Yapay zekânın güvenli olduğunu varsaymayın
Bu uygulamaların yerleşik bir güvenlik kalkanı yoktur.
Bir yabancıya söyleyemeyeceğiniz hiçbir kişisel veya finansal bilgiyi yapay zekâ botuyla paylaşmayın.
2. Uygulamayı kullanmadan önce araştırma yapın
- Gizlilik politikasını inceleyin
- Veri paylaşım izinlerine bakın
- Kullanıcı verisi satan uygulamalardan uzak durun
3. Güvenlik ayarlarını mutlaka aktif edin
- İki faktörlü kimlik doğrulama (2FA)
- Hesap güvenliği
- Model eğitimi için sohbet kayıtlarının kapatılması (varsa)
4. Çocuklar için sınırlamalar koyun
Ebeveynlerin dikkat etmesi gerekenler:
- Çocuklarla açık iletişim kurmak
- Uygulamanın risklerini anlatmak
- Ekran süresini ve uygulama kullanımını sınırlamak
- Yaş doğrulama ve içerik filtreleme politikası olmayan uygulamalara izin vermemek
Unutmayın: Yapay Zekâ Arkadaşlık Uygulamaları Kâr Amaçlıdır
Bu uygulamalar, kullanıcıların gizlilik çıkarlarını değil kendi ticari kârlarını önceliklendirir. Henüz düzenleyici kurumların bu alanda oluşturduğu net kurallar bulunmuyor. AB’de yürürlüğe girecek Dijital Adalet Yasası’nın yüksek derecede bağımlılık yaratan kişiselleştirilmiş deneyimleri yasaklayabileceği öngörülse de şu an belirsizlik devam ediyor.
Bu nedenle yapay zekâ arkadaşlarınızı bir sırdaş veya duygusal destek aracı olarak görmek, psikolojik ve güvenlik açısından risk yaratabilir.
