Red Hat, Red Hat AI ile hibrit bulutta kurumsal yapay zekaya güç katıyor

Yapay zeka portföyü, yapay zeka stratejilerinin operasyonel hale getirilmesine yardımcı olmak için Red Hat OpenShift AI ve Red Hat Enterprise Linux AI’ya geliştirmeler ekleniyor.

Dünyanın önde gelen açık kaynak çözümleri sağlayıcısı Red Hat, Inc., hibrit bulutta yapay zeka çözümlerinin geliştirilmesini ve dağıtımını hızlandırmaya yardımcı olmak için tasarlanan ürün ve hizmet portföyü Red Hat AI’daki en son güncellemeleri duyurdu. Red Hat AI, model eğitimi ve çıkarımı için daha fazla verimlilik, basitleştirilmiş bir deneyim ve hibrit bulut ortamında her yere dağıtma esnekliği sunan kurumsal bir yapay zeka platformu sağlıyor.

İşletmeler, artan sayıda kullanım senaryosu sorusuna cevap bulmak için büyük dil modellerini (LLM’ler) geniş ölçekte dağıtmanın maliyetlerini azaltmanın yollarını ararken bile, bu modelleri bu kullanım senaryolarını yönlendiren özel verileriyle entegre etme ve aynı zamanda bu verilere bir veri merkezinde, genel bulutlarda veya hatta uçta nerede olursa olsun erişebilme zorluğuyla karşı karşıya kalıyorlar.

Hem Red Hat OpenShift AI hem de Red Hat Enterprise Linux AI’yı (RHEL AI) kapsayan Red Hat AI, kullanıcıların daha verimli ve optimize edilmiş modelleri benimsemelerini sağlayan, işletmeye özgü veriler üzerinde ayarlanmış ve daha sonra çok çeşitli hızlandırılmış bilgi işlem mimarilerinde hem eğitim hem de çıkarım için hibrit bulutta dağıtılabilen bir kurumsal AI platformu sağlayarak bu endişeleri gideriyor.

Red Hat OpenShift AI

Red Hat OpenShift AI, makine öğrenimi operasyonları (MLOps) ve LLMOps yetenekleri dahil olmak üzere hibrit bulut genelinde tahmine dayalı ve üretken yapay zeka yaşam döngülerini yönetmek için eksiksiz bir yapay zeka platformu sağlıyor. Platform, veri bilimi ve model işlem hatları ile model izlemeden yönetişim ve daha fazlasına kadar yapay zeka model yönetimini basitleştiren araçlarla birlikte tahmine dayalı modeller oluşturma ve genel yapay zeka modellerini ayarlama işlevselliği sağlıyor.

Platformun en son sürümü olan Red Hat OpenShift AI 2.18, Red Hat AI’ın hibrit buluta daha iyi optimize edilmiş ve daha verimli AI modelleri getirme hedefini desteklemek için yeni güncellemeler ve yetenekler ekliyor. Temel özellikleri şöyle:

• Dağıtılmış hizmet: vLLM çıkarım sunucusu aracılığıyla sunulan dağıtılmış hizmet, BT ekiplerinin model hizmetini birden fazla grafik işlem birimine (GPU) bölmesini sağlıyor. Bu, tek bir sunucu üzerindeki yükü azaltmaya yardımcı oluyor, eğitimi ve ince ayarı hızlandırıyor ve yapay zeka modelleri için hizmetlerin düğümler arasında dağıtılmasına yardımcı olurken bilgi işlem kaynaklarının daha verimli kullanılmasını sağlıyor.
• Uçtan uca bir model ayarlama deneyimi: InstructLab ve OpenShift AI veri bilimi işlem hatlarını kullanan bu yeni özellik, LLM’lerin ince ayarını basitleştirmeye yardımcı olarak onları büyük üretim ortamlarında daha ölçeklenebilir, verimli ve denetlenebilir hale getirirken aynı zamanda Red Hat OpenShift AI kontrol paneli aracılığıyla yönetilebilirlik sağlıyor.
• AI Guardrails: Red Hat OpenShift AI 2.18, hem kullanıcı giriş etkileşimlerini hem de model çıktılarını izlemek ve daha iyi korumak için AI Guardrails’in teknoloji incelemesi yoluyla LLM doğruluğunu, performansını, gecikmesini ve şeffaflığını artırmaya yardımcı oluyor. AI Guardrails, BT ekiplerinin potansiyel olarak nefret dolu, küfürlü veya saygısız konuşmaları, kişisel olarak tanımlanabilir bilgileri, rekabet bilgilerini veya kurumsal politikalarla sınırlı diğer verileri tanımlamasına ve azaltmasına yardımcı olmak için ek algılama noktaları sunuyor.
• Model değerlendirmesi: Modelin genel kalitesi hakkında önemli bilgiler sağlamak için dil modeli değerlendirme (lm-eval) bileşenini kullanan model değerlendirme, veri bilimcilerin LLM’lerinin performansını mantıksal ve matematiksel akıl yürütmeden düşmanca doğal dile ve daha fazlasına kadar çeşitli görevlerde karşılaştırmalarını sağlıyor ve sonuçta daha etkili, duyarlı ve uyarlanmış yapay zeka modelleri oluşturmaya yardımcı oluyor.

RHEL AI

Red Hat AI portföyünün bir parçası olan RHEL AI, kurumsal uygulamaları güçlendirmek için LLM’leri daha tutarlı bir şekilde geliştirmek, test etmek ve çalıştırmak için bir temel model platformu. RHEL AI, müşterilere önyüklenebilir bir Red Hat Enterprise Linux sunucu görüntüsü olarak paketlenmiş ve hibrit bulutta dağıtılabilen Granite LLM’ler ve InstructLab model hizalama araçları sağlıyor.

Şubat 2025’te piyasaya sürülen RHEL 1.4, aşağıdakiler de dahil olmak üzere çeşitli yeni geliştirmeler ekledi:

·Açık kaynak lisanslı Granite model ailesinin en son üyesi için Granite 3.1 8B model desteği. Model, çıkarım ve taksonomi/bilgi özelleştirmesi için çok dilli desteğin (geliştirici önizlemesi) yanı sıra gelişmiş özetleme sonuçları ve Retrieval-Augment Generation (RAG) görevleri için 128k bağlam penceresi ekliyor.

·Veri alımını ve yığın oluşturmayı basitleştirmenin yanı sıra kullanıcıların bir yapay zeka modeline kendi becerilerini ve katkılarını nasıl ekleyeceklerini kolaylaştırmak için geliştirici önizlemesi olarak mevcut olan beceriler ve bilgi katkıları için yeni bir grafik kullanıcı arayüzü.

·İlgili, özel veriler üzerinde ince ayarlanmış yapay zeka modellerinin aynı ayarlanmamış temel modellerin performansıyla daha kolay karşılaştırılması için Document Knowledge-bench (DK-bench).

IBM Cloud üzerinde Red Hat AI InstructLab
İşletmeler, doğruluk ve veri güvenliğine öncelik veren, aynı zamanda maliyetleri ve karmaşıklığı mümkün olduğunca düşük tutan yapay zeka çözümlerini giderek daha fazla arıyor. IBM Cloud üzerinde bir hizmet olarak dağıtılan Red Hat AI InstructLab, AI modellerinin eğitimi ve dağıtımı için basitleştirmek, ölçeklendirmek ve güvenlik ayak izini iyileştirmeye yardımcı olmak üzere tasarlandı. Kurumlar, InstructLab model ayarlamasını basitleştirerek, verilerinin kontrolünü ellerinde tutarken kuruluşların benzersiz ihtiyaçlarına göre uyarlanmış daha verimli modeller oluşturabiliyorlar

Ücretsiz Yapay Zeka Temelleri eğitimi
Yapay zeka, işletmelerin çalışma ve rekabet etme biçimlerini yeniden tanımlayan dönüştürücü bir fırsattır. Red Hat, bu dinamik ortamda kuruluşları desteklemek için artık hiçbir ücret ödemeden AI Foundations çevrimiçi eğitim kursları sunuyor. Red Hat, hem deneyimli üst düzey liderler hem de yapay zekaya yeni başlayanlar için tasarlanmış iki yapay zeka öğrenme sertifikası sunarak, her seviyeden kullanıcının yapay zekanın iş operasyonlarını dönüştürmeye, karar vermeyi kolaylaştırmaya ve inovasyonu teşvik etmeye nasıl yardımcı olabileceği konusunda eğitilmesine yardımcı oluyor. AI Foundations eğitimi, kullanıcılara Red Hat AI kullanırken bu bilgileri nasıl uygulayacakları konusunda rehberlik ediyor.

Ulaşılabilirlik
Red Hat OpenShift AI 2.18 ve Red Hat Enterprise Linux AI 1.4 artık genel kullanıma sunulmuştur. Ek özellikler, iyileştirmeler, hata düzeltmeleri ve Red Hat OpenShift AI’nin en son sürümüne nasıl yükseltileceği hakkında daha fazla bilgiye buradan, RHEL AI’nin en son sürümüne ise buradan ulaşabilirsiniz.

IBM Cloud üzerinde Red Hat AI InstructLab bu bahar kullanıma sunulacak.

Red Hat’in AI temelleri eğitimi şu anda müşterilere sunuluyor.

Konuyla ilgili olarak Red Hat Başkan Yardımcısı ve Yapay Zeka İş Birimi Genel Müdürü Joe Fernandes,

“Red Hat, işletmelerin üretime daha fazla kullanım senaryosu getirdikçe ve geniş ölçekte çalıştıkça, üretken yapay zeka dağıtımlarının artan maliyetini yönetmenin yollarına ihtiyaç duyacağını biliyor. Ayrıca, yapay zeka modellerini özel kurumsal verilerle entegre etme zorluğunun üstesinden gelmeleri ve bu modelleri verilerinin yaşayabileceği her yerde dağıtabilmeleri gerekiyor. Red Hat AI, kurumların kendi verileri üzerinde eğitilmiş, daha verimli, amaca yönelik oluşturulmuş modellerden yararlanmalarını ve şirket içi, bulut ve uç ortamlarda esnek çıkarım yapmalarını sağlayarak bu zorlukların üstesinden gelmelerine yardımcı oluyor” dedi.