OpenAI, Microsoft, Google, Meta ve diğerleri dahil olmak üzere önde gelen yapay zeka şirketleri, yapay zeka araçlarının çocukları istismar etmek ve çocuk cinsel istismarı materyali (CSAM) üretmek için kullanılmasını önlemek için ortaklaşa taahhütte bulundular. Girişim, çocuk güvenliği grubu Thorn ve sorumlu teknolojiye odaklanan kar amacı gütmeyen bir kuruluş olan All Tech Is Human tarafından yürütüldü.
Girişimin amacı, çocukları içeren cinsel içerikli materyallerin oluşturulmasını önlemek ve bunları sosyal medya platformlarından ve arama motorlarından kaldırmak. Thorn, sadece 2023 yılında ABD’de 104 milyondan fazla şüpheli çocuk cinsel istismarı dosyasının rapor edildiğini söylüyor.
Thorn’un veri biliminden sorumlu başkan yardımcısı Rebecca Portnoff, “Bu proje, elinizi eteğinizi çekmenize gerek olmadığını açıkça ortaya koymayı amaçlıyordu. Bu teknolojinin gidişatını, bu teknolojinin mevcut zararlarının dizlerinden kesileceği şekilde değiştirebilmek istiyoruz.”
Portnoff, bazı şirketlerin, modellerinin ikisini birleştirmesini önlemek için çocukların yer aldığı görüntü, video ve sesleri yetişkinlere yönelik içerik içeren veri setlerinden ayırmayı kabul ettiklerini söyledi. Diğerleri de yapay zeka tarafından üretilen içeriği tanımlamak için filigranlar ekliyor, ancak bu yöntem kusursuz değil, filigranlar ve meta veriler kolayca kaldırılabilir.
Kaynak: www.engadget.com
