Red Hat OpenShift AI, hibrit bulutta tahmine dayalı, üretken yapay zekanın esnekliğini artırıyor

 

Red Hat OpenShift AI, kurum içi veri merkezlerinden çoklu genel bulutlara ve uç noktalara kadar, kurumların akıllı iş yükü patlamasına yetişebilmeleri için kişiselleştirme ve seçim yapmalarına yardımcı oluyor.

Dünyanın önde gelen açık kaynak çözümleri sağlayıcısı Red Hat, Inc, Red Hat OpenShift üzerine inşa edilen ve işletmelerin hibrit bulutlarda geniş ölçekte yapay zekâ özellikli uygulamalar oluşturmasını ve sunmasını sağlayan açık bir hibrit yapay zeka (AI) ve makine öğrenimi (ML) platformu olan Red Hat OpenShift AI’daki gelişmeleri duyurdu. Bu güncellemeler, Red Hat’in yapay zekâ vizyonunu vurguluyor ve Red Hat’in müşteri seçimine olan bağlılığını, temel donanımdan platform üzerinde oluşturmak için kullanılan Jupyter ve PyTorch gibi hizmetlere ve araçlara kadar akıllı iş yükleri dünyasına taşıyor. Bu sayede daha hızlı inovasyon, daha fazla üretkenlik ve bulut ortamları kullanılsın ya da kullanılmasın hem öngörülü (tahmine dayalı) hem de üretken modellere olanak tanıyan daha esnek, ölçeklenebilir ve uyarlanabilir bir açık kaynak platformu aracılığıyla yapay zekayı günlük iş operasyonlarına dahil etme kapasitesi sağlanıyor.

Müşteriler, yapay zekâ modellerini deneme aşamasından üretime taşırken artan donanım maliyetleri, veri gizliliği endişeleri ve verilerini SaaS tabanlı modellerle paylaşma konusunda güven eksikliği gibi birçok zorlukla karşılaşıyor. Üretken Yapay Zekâ (GenAI) hızla değişiyor ve birçok kurum, şirket içinde veya bulutta çalışabilen güvenilir bir çekirdek Yapay Zeka platformu kurmakta zorlanıyor.

IDC’ye1 göre, yapay zekadan başarılı bir şekilde yararlanmak için işletmelerin mevcut birçok uygulamayı ve veri ortamını modernize etmesi, mevcut sistemler ve depolama platformları arasındaki engelleri yıkması, altyapının sürdürülebilirliğini iyileştirmesi ve bulut, veri merkezi ve uç konumlar arasında farklı iş yüklerinin nereye dağıtılacağını dikkatlice seçmesi gerekecek. Red Hat’e göre bu, yapay zekâ platformlarının, yapay zekayı benimseme yolculuklarında ilerledikçe ve ihtiyaçları ve kaynakları uyarlandıkça kurumları desteklemek için esneklik sağlaması gerektiğini gösteriyor.

Red Hat’in yapay zekâ stratejisi, hibrit bulutta esneklik sağlayarak, önceden eğitilmiş veya seçilmiş temel modelleri müşteri verileriyle geliştirme olanağı ve çeşitli donanım ve yazılım hızlandırıcılarını etkinleştirme özgürlüğü sunuyor. Red Hat OpenShift AI’ın yeni ve geliştirilmiş özellikleri, en son AI/ML yeniliklerine erişim ve geniş bir AI merkezli iş ortağı ekosisteminin desteği ile bu ihtiyaçları karşılıyor. Platformun en son sürümü olan Red Hat OpenShift AI 2.9 şunları sunuyor:

Uçta model hizmeti, yapay zekâ modellerinin dağıtımını tek nodlu OpenShift kullanarak uzak konumlara kadar genişletiyor. Kesintili veya hava boşluklu ağ erişimine sahip kaynak kısıtlı ortamlarda çıkarım yetenekleri sağlıyor. Bu teknolojinin önizleme özelliği sayesinde kurumlar çekirdekten buluta ve uca kadar ölçeklenebilir, tutarlı bir operasyonel deneyim ve kullanıma hazır gözlemlenebilirlik yeteneği elde ediyor.

Geliştirilmiş model sunumu tüm model türleri için hizmet sunmayı düzenleyen Kubernetes özel kaynak tanımı KServe desteği, vLLM ve metin oluşturma çıkarım sunucusu (TGIS), LLM’ler için hizmet motorları ve doğal dil işleme (NLP) modellerini ve görevlerini yöneten Caikit-nlp-tgis çalışma zamanı dahil olmak üzere hem tahmine dayalı hem de GenAI’yi desteklemek için birden fazla model sunucusu kullanma becerisi içeriyor. Geliştirilmiş model sunumu, kullanıcıların birden fazla kullanım durumu için tek bir platformda tahmine dayalı ve GenAI çalıştırmasına olanak tanıyarak maliyetleri düşürüp işlemleri basitleştiriyor. Böylece LLM’ler için kullanıma hazır model sunumu sağlanıyor ve çevredeki kullanıcı iş akışı basitleştiriliyor.
Ray ile dağıtılmış iş yüklerinde daha hızlı, daha verimli veri işleme ve model eğitimi için birden fazla küme node’undan faydalanan CodeFlare ve KubeRay kullanılıyor. Ray, yapay zekâ iş yüklerini hızlandırmaya yönelik bir çerçevenin adı; KubeRay ise bu iş yüklerinin Kubernetes üzerinde yönetilmesine yardımcı oluyor. CodeFlare, Red Hat OpenShift AI’nın dağıtılmış iş yükü yeteneklerinin merkezinde yer alıyor ve görev düzenleme ve izlemeyi basitleştirmeye yardımcı olan kullanıcı dostu bir çerçeve sağlıyor. Merkezi kuyruklama ve yönetim özellikleri, optimum düğüm kullanımını mümkün kılar ve GPU’lar gibi kaynakların doğru kullanıcılara ve iş yüklerine tahsis edilmesini sağlıyor.

Şu anda teknoloji önizlemesi olarak sunulan VS Code ve RStudio dahil olmak üzere IDE’leri ve araç takımlarını kullanma esnekliği sağlayan proje çalışma alanları ve ek çalışma alanı görüntüleri aracılığıyla ileri düzey model geliştirme ve çeşitli kullanım durumları ve model türleri için geliştirilmiş CUDA.

Performans ve operasyonel metrikler için model izleme görselleştirmeleri, yapay zekâ modellerinin nasıl performans gösterdiğine dair gözlemlenebilirliği artırıyor.

Yeni hızlandırıcı profilleri, yöneticilerin model geliştirme ve modele hizmet eden iş akışları için kullanılabilen farklı donanım hızlandırıcı türlerini yapılandırmasına olanak tanıyor. Bu, belirli bir iş yükü için uygun hızlandırıcı türüne basit, self servis kullanıcı erişimi sağlıyor.

IBM’in watsonx.ai’sini destekleyen Red Hat OpenShift AI’ya ek olarak, AGESIC ve Ortec Finance de dahil olmak üzere farklı sektörlerdeki işletmeler daha fazla yapay zekâ inovasyonu ve büyümesi için kendilerini Red Hat OpenShift AI ile donatıyor.

Bulutlar hibrit. Yapay zeka da öyle.

30 yılı aşkın bir süredir açık kaynak teknolojileri, hızlı inovasyonu büyük ölçüde azaltılmış BT maliyetleri ve inovasyonun önündeki engellerin azaltılmasıyla eşleştirdi. Red Hat, 2000’li yılların başında RHEL ile açık kurumsal Linux platformları sunmaktan Red Hat OpenShift ile açık hibrit bulut ve bulut-yerlisi bilişimin temeli olarak konteynerleri ve Kubernetes’i yönlendirmeye kadar neredeyse aynı süredir bu alana öncülük ediyor.

Red Hat’in açık hibrit bulutta AI/ML stratejilerine güç vermesiyle devam eden bu itici güç, AI iş yüklerinin ister veri merkezinde ister birden fazla genel bulutta veya uçta olsun, verilerin bulunduğu yerde çalışmasını sağlıyor. Red Hat’in yapay zekâ vizyonu, iş yüklerinin ötesinde, veri egemenliği, uyumluluk ve operasyonel bütünlükle ilgili sınırlamaları daha iyi çözmek için model eğitimi ve ayarlamayı da aynı noktaya getiriyor. Red Hat’in platformlarının bu ortamlarda sağladığı tutarlılık, nerede çalışırlarsa çalışsınlar, yapay zekâ inovasyonunun akışını sürdürmek için çok büyük önem taşıyor.

Red Hat Kıdemli Başkan Yardımcısı ve Baş Ürün Sorumlusu Ashesh Badani,

” Yapay zekayı işletmeye getirmek artık bir ‘eğer’ değil, ‘ne zaman’ meselesi. İşletmelerin üretkenliği artırabilecek, geliri artırabilecek ve pazar farklılaşmasını destekleyebilecek daha güvenilir, tutarlı ve esnek bir yapay zekâ platformuna ihtiyacı var. Red Hat’in büyük ölçekli kurumsal yapay zekâ taleplerine yanıtı Red Hat OpenShift AI’dır ve BT liderlerinin akıllı uygulamaları hibrit bulutun herhangi bir yerinde dağıtmasını mümkün kılarken, üretim uygulamaları ve hizmetlerinin gerçeklerini desteklemek için operasyonları ve modelleri gerektiği gibi büyütüp ince ayar yapmalarını sağlıyor” dedi.

Phoenix Technologies CEO’su Thomas Taroni, “Red Hat’in yapay zekâ vizyonu, kuruluşlara güvenilir ve egemen bir yapay zekâ çözümü sağlama hedefimizle mükemmel bir uyum içinde. Red Hat OpenShift AI ile kvant AI müşterilerimiz benzersiz esneklik, ölçeklenebilirlik ve güvenlikten yararlanıyor. Red Hat OpenShift AI ile birlikte kvant AI ile kurumlar, tahmine dayalı ve üretken modelleri zahmetsizce entegre etmek için mükemmel bir donanıma sahip oluyor ve herkesin güven ve çeviklikle AI uygulamaları oluşturmasını sağlıyor” şeklinde görüş bildirdi.

World Wide Technology Holding Co. Yapay Zekâ ve Veri Uygulama Müdürü Jeff Fonke, Sr., “Eski BT modelleri yapay zekanın karmaşıklığıyla boğuşurken WWT, müşterilerimizin yapay zekanın benimsenmesi söz konusu olduğunda doğru teknoloji kararlarını daha hızlı almalarına yardımcı olmaya kararlıdır. WWT’nin AI Proving Ground’u bunun bir göstergesi. Temel platform olarak Red Hat OpenShift AI ile AI Proving Ground, müşterilerin gerçek dünya iş değeri sağlayan güvenli AI çözümlerini test etmelerini, eğitmelerini, doğrulamalarını ve dağıtmalarını sağlıyor” dedi.

Ortec Finance Teknoloji Uzmanı Joris Cramwinckel, “Red Hat, son iki yıldır Azure Red Hat OpenShift üzerinde konut değerlemeleri için makine öğrenimi modellerini başarıyla sunmamıza yardımcı oldu ve uygulamalarımızda yapay zekâ modeli sunumu için bakım çabalarımızın ve tescilli kodumuzun yerini almak üzere Red Hat OpenShift AI’yı uygulamaktan heyecan duyuyoruz. OpenShift AI ve Azure Red Hat OpenShift’in gücünü birleştirmek, araştırma ve geliştirme ekibimizin müşterilerimizin AI tabanlı çözümlere geçişini hızlandırmasını sağlayarak riskleri daha verimli bir şekilde yönetmemize ve yatırımları iyileştirmemize yardımcı olacak” dedi.

1 Kaynak: IDC, Dijital Altyapının Geleceği, 2024: Yapay Zekaya Hazır Platformlar, İşletim Modelleri ve Yönetişim (#US50614724), 2024

Ek kaynaklar
AI at Red Hat hakkında ayrıntılı bilgiler edinebilirsiniz
Red Hat OpenShift AI hakkında ayrıntılı bilgiler edinebilirsiniz