Dünyanın önde gelen açık kaynak çözümleri sağlayıcısı Red Hat, üretken yapay zekâ (gen AI) çıkarım iş yüklerini hızlandıran yazılım ve algoritmalarda öncü olan Neural Magic’i satın aldı. Red Hat, Neural Magic ile çıkarım performansı mühendisliği ve model optimizasyonu alanındaki uzmanlığını artıracak. Söz konusu satın alma, şirketin hibrit bulutta ihtiyaç duyulan her yerde benzersiz müşteri kullanım durumlarıyla doğrudan eşleşen yüksek performanslı yapay zeka iş yükleri vizyonunu ilerletmeye yardımcı olacak.
Üretken yapay zekâ (gen AI) kullanım durumlarının temelini oluşturan yenilikçi büyük dil modelleri (LLM’ler), şirketlerin etkili bir şekilde kullanması için yoğun kaynak gerektiriyor. Bu zorluğun üstesinden gelmek için Red Hat, bilgi işlem mimarileri ve dağıtım ortamları genelinde açık inovasyonla yönlendirilen daha küçük, optimize edilmiş ve açık kaynak lisanslı modelleri, yapay zekâ stratejilerinin gelecekteki başarısının anahtarı olarak görüyor.
Neural Magic, Optimize Edilmiş ve Verimli Yapay Zekâ Modellerini Gerçeğe Dönüştürmeyi Taahhüt Ediyor
Neural Magic’in optimize edilmiş ve verimli yapay zekâ modellerini gerçeğe dönüştürme konusundaki taahhüdü, Red Hat’in bu yapay zekâ vizyonunu gerçekleştirme yeteneğini daha da güçlendiriyor. Neural Magic, ayrıca UC Berkeley tarafından açık model sunumu için geliştirilen açık kaynaklı bir proje olan vLLM’nin önde gelen katkı sağlayıcılarından biri. O nedenle bu gelişme kurumların yapay zekâ iş yüklerini oluşturma ve devreye alma yöntemlerinde daha fazla seçenek ve erişilebilirlik sunulmasına katkı sağlayacak.
Hibrit buluta hazır üretken yapay zekanın geleceği
Neural Magic’in teknoloji ve performans mühendisliği uzmanlığı ile Red Hat, yapay zekânın dönüştürücü gücüne erişimi daha da demokratikleştirmek için açık kaynak inovasyonunu kullanıyor ve geniş ölçekli kurumsal yapay zekânın zorluklarını aşmayı hedefliyor:
- Kurumsal veri merkezlerinde, çoklu bulutlarda ve uçta olmak üzere hibrit bulutta ihtiyaç duyulan her yerde çalışabilen, 1B’den 100’lerce milyar parametre ölçeğine kadar açık kaynak lisanslı modeller.
- Kurumların LLM’leri kendi özel verilerine ve kullanım durumlarına göre daha güçlü bir güvenlik ayak iziyle daha kolay özelleştirmelerini sağlayan ince ayar yetenekleri;
- Daha fazla operasyonel ve altyapı verimliliği ile sonuçlanan çıkarım performansı mühendisliği uzmanlığı,
- İş ortağı ve açık kaynak ekosistemi ile LLM’ler ve araçlardan sertifikalı sunucu donanımına ve temel çip mimarilerine kadar daha geniş seçeneklere olanak tanıyan destek yapıları.
- Neural Magic’in uzmanlığı ve yetenekleri, Red Hat’in üretken YZ platform portföyü olan Red Hat AI’ye entegre edilecek. Hibrit bulut göz önünde bulundurularak tasarlanan Red Hat AI şunları kapsıyor:
- Red Hat Enterprise Linux AI (RHEL AI): Linux sunucu dağıtımlarında kurumsal uygulamalarda IBM Granite ailesine ait açık kaynak lisanslı büyük dil modellerini (LLM’ler) daha sorunsuz bir şekilde geliştirmek, test etmek ve çalıştırmak için bir temel model platformu.
- Red Hat OpenShift AI: Makine öğrenimi modellerini hızlı bir şekilde geliştirmek, eğitmek, sunmak ve izlemek için araçlar sunan bir yapay zeka platformu. Bu platform, şirket içi, genel bulut veya uç noktadaki dağıtılmış Kubernetes ortamlarıyla uyumlu olarak çalışıyor.
- InstructLab: Red Hat ve IBM tarafından oluşturulan, açık kaynak lisanslı Granite LLM’lerin InstructLab’ın ince ayar teknolojisi ile iş birliği içinde geliştirilmesini sağlayarak gen AI’nin geleceğini şekillendirme imkânı sunan kullanıcı dostu bir açık kaynak yapay zeka topluluk projesi.
vLLM, LLM Compressor, önceden optimize edilmiş modeller ve daha fazlası, Red Hat AI’ye entegre edilecek ve bu da Neural Magic’i Red Hat’in yapay zeka platformu tekliflerinin ayrılmaz bir parçası haline getirecek.
