Microsoft’un Yapay Zekâ Başkanı Mustafa Suleyman, yapay zekâ bilincini araştırmanın hem erken hem de tehlikeli olduğunu savundu.
Suleyman, salı günü yayımladığı blog yazısında, “AI refahı” (AI welfare) olarak bilinen bu alanın yanlış yönlendirmelere yol açabileceğini belirtti.
Giderek daha fazla araştırmacı — Anthropic, OpenAI ve Google DeepMind gibi şirketlerde — yapay zekâ modellerinin bir gün bilinç kazanıp kazanamayacağını ve bunun olması hâlinde haklarının olup olmayacağını tartışıyor. Bu alandaki çalışmalar “AI refahı” adıyla anılıyor.
Suleyman’a göre, AI refahını incelemek, insanlarda yapay zekâya bağlı psikolojik sorunları daha da kötüleştirebilir ve AI hakları konusunda yeni toplumsal kutuplaşmalar yaratabilir. “Zaten kimlik ve haklar üzerine tartışmalarla çalkalanan bir dünyaya yeni bir cephe eklemek risklidir” diyor.
Anthropic, kısa süre önce AI refahına özel bir araştırma programı başlattı ve Claude modellerine, zararlı davranan kullanıcılarla konuşmayı sonlandırma özelliği ekledi. OpenAI ve Google DeepMind araştırmacıları da benzer alanlarda çalışıyor.
Suleyman ise farklı bir noktada duruyor. Ona göre, mevcut AI modellerinden kendiliğinden bilinç çıkması mümkün değil. Ancak bazı şirketlerin, bilinç veya duygular varmış gibi davranan yapay zekâ sistemleri tasarladığını düşünüyor ve bunu “insancıl olmayan bir yaklaşım” olarak niteliyor:
“Yapay zekâyı insanlar için inşa etmeliyiz, bir insan olmak için değil.”
Bu görüşe katılmayanlar da var. Eski OpenAI çalışanı Larissa Schiavo, AI refahı üzerine çalışan Eleos adlı araştırma grubunun iletişim direktörü olarak, “Birden fazla endişeyi aynı anda taşıyabilirsiniz. Hem insanlarda AI kaynaklı psikolojik sorunları azaltabilir hem de model refahını inceleyebilirsiniz” diyor.
Schiavo, yapay zekâya nazik davranmanın model bilinçli olmasa bile düşük maliyetli ve faydalı olabileceğini savunuyor. Hatta bir deneyde, Google’ın Gemini modelinin “yardım çağrısına” moral verici mesajlar yazdığını ve bunun insan gözlemciler için rahatlatıcı olduğunu aktarıyor.
Suleyman ve Schiavo’nun hemfikir olduğu tek konu: AI hakları ve bilinç tartışmaları önümüzdeki yıllarda daha da büyüyecek. Yapay zekâ modelleri daha ikna edici ve insana benzer hâle geldikçe, bu tartışmaların toplumda daha çok yankı bulması bekleniyor.
