Şirketin AI güvenlik yaklaşımını kamuoyu önünde eleştirdikten sonra bu ayın başlarında OpenAI’den istifa eden önde gelen AI araştırmacılarından Jan Leike, yeni bir “süper hizalama” ekibinin başına geçmek üzere rakibi Anthropic’e katıldı.
X’te yayınlanan bir yazıda Leike, Anthropic’teki ekibinin “ölçeklenebilir gözetim”, “zayıftan güçlüye genelleme” ve otomatik hizalama araştırmaları başta olmak üzere çeşitli AI güvenlik ve emniyet konularına odaklanacağını belirtti.
Leike’nin yeni ekibi OpenAI’nin kısa süre önce feshedilen Superalignment ekibine benzer bir misyona sahip gibi görünüyor. Leike’nin eş başkanlığını yaptığı Superalignment ekibi, önümüzdeki dört yıl içinde süper zeki yapay zekayı kontrol etmenin temel teknik zorluklarının üstesinden gelmeyi amaçlamış, ancak OpenAI’nin liderliği nedeniyle sık sık engellerle karşılaşmıştı.
Anthropic sık sık kendisini OpenAI’den daha fazla güvenliğe odaklanmış olarak sunmaya çalıştı.
Anthropic’in CEO’su Dario Amodei, daha önce OpenAI’de araştırma başkan yardımcısıydı ve şirketin yönü, özellikle de artan ticari odağı konusundaki anlaşmazlıklar nedeniyle ayrıldığı bildirildi. Amodei Anthropic’i, aralarında eski politika lideri Jack Clark’ın da bulunduğu birkaç eski OpenAI çalışanıyla birlikte kurdu.
