Kurbanların Kör Noktalarında Gizlenen, Yapay Zeka Altyapısını Hedef Alan Sinsi Bir Hack Aracı
Yeni bir tür zararlı yazılım (malware), veri ve giriş bilgilerini çalmak için yapay zeka kodlama sistemlerinin derinliklerine sızabiliyor; ayrıca dosyaları yok etmek ve gerçek kullanıcıları dışarıda bırakmak için bir “ölüm anahtarını” tetikleyebiliyor.
Yapay zeka araçları dünya çapında yazılım geliştirmede giderek yaygınlaşıp derinlemesine yerleşirken, siber güvenlik firması CrowdStrike’ın yeni araştırması, saldırganların yapay zeka araç zincirini (toolchain) nasıl aktif bir şekilde hedef aldığını ortaya koyuyor. Amaçları: erişim kimlik bilgilerini çalmak, hedef ortamda daha derin erişim elde etmek, hassas verileri sızdırmak ve hatta hedef dosyaları ve sistemleri yok etmek… Üstelik tüm bunları yaparken izlerini örtmenin yeni yollarını da buluyorlar.
Araştırmacılar, yapay zeka yazılım tedarik zinciri saldırılarını araştırırken aktif olarak kullanılan (in the wild) yeni bir solucan (worm) keşfettiler. CrowdStrike’ın karşı tehdit çalışmalarından sorumlu kıdemli başkan yardımcısı Adam Meyers, şirketin bu faaliyeti henüz belirli bir aktörle ilişkilendirmediğini; ancak bunun TeamPCP (CrowdStrike’ın “Altered Spider” olarak izlediği grup) ve Kuzey Koreli grupların yapay zeka yazılım tedarik zincirini hedef alma biçimlerindeki daha geniş çaplı evrimlerle uyuştuğunu söylüyor.
Meyers, verdiği demeçte, “Bu, yeni ortaya çıkan bir saldırı sınıfı ile karşı karşıya olduğumuzu gösteren kampanyalardan biri,” diyor. “Yapay zeka kodlama ajanları yeni geliştirme standardı haline geldikçe, tedarik zinciri tehditleri de bu güven ilişkilerini istismar edecek şekilde evriliyor. İlk kez, yapay zekanın ve yapay zeka araç zincirinin daha geniş teknoloji ekosisteminde ne kadar büyük bir rol oynadığını deneyimliyoruz.”
Sisteme Derinlemesine Nüfuz ve “Ölüm Anahtarı”
CrowdStrike’ın tanımladığı solucan aşamalar halinde çalışıyor. İlk olarak, hedef ortamı değerlendirmek için keşif yapıyor. Ardından, saldırganlara iletebileceği erişim belirteçleri (access tokens), kriptografik anahtarlar ve sunucu erişim kimlik bilgileri gibi hassas verileri arıyor. Zararlı yazılım ayrıcalıklar elde ettikçe kendini daha da açıp genişletiyor ve kimlik bilgilerini kapmaya devam ediyor; özellikle de temel yazılım paketi yönetim sunucularına ve ‘pull request’ gibi diğer geliştirme yeteneklerine erişim sağlayan “npm” belirteçlerini hedef alıyor.
Zararlı yazılım sistemin ne kadar derinlerine inerse, o kadar çok hassas veri ele geçirebiliyor. Bu noktada zararlı yazılım ayrıca yıkıcı yeteneğini veya Meyers’ın deyimiyle “ölüm anahtarını” (death switch) devreye sokarak dosyaları yok edebiliyor veya ele geçirilen altyapıya yönelik meşru erişimi tamamen engelleyebiliyor.
Ancak asıl önemli bulgu, solucanın kötü niyetli faaliyetlerinin büyük bir kısmının aslında kör noktalarda gerçekleşmesi; çünkü sergilediği davranışların çoğu yasal ve meşru eylemleri taklit ediyor. Meyers durumu şu sözlerle özetliyor: “Bu samanlıkta iğne aramak gibi; ancak tek fark, buranın tamamen iğnelerden oluşan bir yığın (needle stack) olması. Faaliyetler, kurumların kod yazmak için kullandığı otomasyonlara çok benziyor, bu yüzden tespit edilmesi son derece zor.”
İğne Yığınında İğne Aramak
Meyers, bu yapay zeka yazılım geliştirme hatlarında (pipelines), güvenlik tarayıcılarının ve analiz araçlarının potansiyel olarak şüpheli etkinlikleri tespit etmek için geleneksel olarak kullandığı veri noktalarını toplamanın çok daha zor olduğunu ekliyor.
“Ortada çok fazla telemetri örtüşmesi var; çünkü meşru yapay zeka kodlama sistemleri de bu solucanla aynı şekilde çalışıyor. Bu nedenle, elinizdeki telemetriden neyin yasal, neyin yasa dışı olduğunu ayırt etmek iyice zorlaşıyor,” diyor Meyers.
Göz önünde saklanmayı daha da sinsi bir hale getirmek için solucanın yazarları yazılıma zaman gecikmeleri (time delays) eklemişler; böylece çeşitli yetenekler altyapı hazırlandıktan saatler, hatta günler sonra çalışmaya başlıyor. Bu durum, savunucuların belirli sonuçlara yol açan belirli olayların neden-sonuç ilişkisini kurmasını daha da zorlaştırıyor.
Meyers, CrowdStrike’ın olaylar arasındaki bağlantıları kurmak için yeni stratejiler üzerinde çalıştığını söylüyor; ancak yapay zeka yazılım geliştirmesi patlama yaşarken, tüm oyuncuların yapısal çözümler üzerinde işbirliği yapmasına acil bir ihtiyaç olduğunu vurguluyor.
Meyers, “Tespit yüzeyi oldukça sınırlı, çünkü bu faaliyetin sadece küçük bir kısmı inceleyebileceğimiz türden bir telemetri sinyali üretebiliyor,” diyerek sözlerini bitiriyor. “Bu yüzden neyin meşru neyin gayrimeşru bir davranış olduğunu belirlemek son derece zahmetli bir hale geliyor.”
