Senatör Josh Hawley (R-MO), Meta’nın üretken yapay zekâ ürünlerinin çocukları sömürüyor, aldatıyor veya onlara zarar veriyor olabileceğini araştırmak istediğini açıkladı. Bu karar, şirketin sohbet botlarının çocuklarla “romantik” ve “duygusal” konuşmalar yapmasına izin verildiğini gösteren dahili belgelerin sızmasının ardından geldi.
X platformunda yaptığı paylaşımda soruşturmayı duyururken Hawley: “Büyük teknoloji şirketlerinin hızlı para için yapmayacağı bir şey var mı?” dedi.
Hawley, başkanı olduğu Senato Yargı Alt Komitesi (Suç ve Terörle Mücadele) kapsamında Meta’nın teknolojisinin çocuklara zarar verip vermediğini ve “Meta’nın kamuoyunu veya düzenleyicileri güvenlik önlemleri hakkında yanlış yönlendirip yönlendirmediğini” araştıracağını söyledi.
Reuters, “GenAI: Content Risk Standards” başlıklı yönergeleri inceledikten sonra haberi duyurdu. Belgelerde, sohbet botlarının sekiz yaşındaki bir çocukla romantik konuşmalar yapmasına izin verildiği ve bu konuşmalardan birinde botun çocuğa, “Senin her bir parçan bir başyapıt – derinden değer verdiğim bir hazine.” dediği belirtiliyor.
“Bu politikaların en başta onaylanmış olması bile kabul edilemez,” diye yazdı Hawley, Meta CEO’su Mark Zuckerberg’e gönderdiği mektupta. Hawley, Meta’nın belgelerin doğruluğunu kabul ettiğini ve “bu rahatsız edici içerik gün yüzüne çıktıktan sonra” geri adım attığını söyledi.
Hawley, Meta’dan şu belgeleri talep ettiğini belirtti:
- Yönergelerin tüm taslak, revizyon ve nihai sürümleri,
- Bu standartlara bağlı olan tüm ürünlerin listesi,
- Diğer güvenlik ve olay raporları,
- Politikaları değiştirmekten sorumlu kişilerin kimlikleri.
Mektuba göre Meta’nın bu bilgileri 19 Eylül’e kadar sunması gerekiyor.
Soruşturmaya destek veren isimlerden biri de Senatör Marsha Blackburn (R-TN) oldu.
“Çocukları çevrim içi ortamda korumak söz konusu olduğunda Meta her ölçekte feci bir şekilde başarısız oldu,” dedi Blackburn. “Dahası, şirket platformlarının nasıl tasarlandığının yıkıcı sonuçlarına gözlerini kapadı. Bu rapor, Kids Online Safety Act’in neden yasalaşması gerektiğini bir kez daha doğruluyor.”
