Run:ai Detayları

Çalıştır:ai Dev

Yapay zeka gelişimini ve pazara çıkış süresini hızlandırın

• Favori araç ve çerçevelerinizle özelleştirilmiş çalışma alanları başlatın.
• Toplu işleri sıraya koyun ve tek bir komut satırıyla dağıtılmış eğitim çalıştırın.
• Çıkarım modellerinizi tek yerden dağıtın ve yönetin.

Ekosistem

GPU kullanılabilirliğini artırın ve AI Yatırımınızın Getirisini artırın

• İş yükleri
• Varlıklar
• Metrikler
• Yönetici
• Kimlik Doğrulama ve Yetkilendirme

Çalıştır:ai API

• İş yükleri
• Varlıklar
• Metrikler
• Yönetici
• Kimlik Doğrulama ve Yetkilendirme

Çalıştır:ai Kontrol Düzlemi

Kendi Altyapınızda Dağıtım Yapın; Bulut. Şirket İçi. Hava Boşluklu.

• Çoklu Küme Yönetimi
• Kontrol Panelleri ve Raporlama
• İş Yükü Yönetimi
• Kaynak Erişim Politikası
• İş Yükü Politikası
• Yetkilendirme ve Erişim Kontrolü

Çalıştır:ai Küme Motoru

Yeni Yapay Zeka Kümenizle Tanışın; Kullanıldı. Ölçeklenebilir. Kontrol Altında.

• Yapay Zeka İş Yükü Zamanlayıcı
• Düğüm Havuzu Oluşturma
• Kapsayıcı Düzenleme
• GPU Parçalara Ayırma
• GPU Düğümleri
• CPU Düğümleri
• Depolama
• Ağ

CLI ve GUI

Run:ai, yapay zeka iş yüklerinizi ve altyapınızı yönetmek için kullanıcı dostu bir komut satırı arayüzü (CLI) ve kapsamlı bir grafik kullanıcı arayüzü (GUI) sağlar. CLI, gelişmiş kontrol ve komut dosyası oluşturma yetenekleri sunarken GUI, platformun izlenmesi, yapılandırılması ve platformla etkileşimde bulunulması için sezgisel bir görsel deneyim sağlar.

Çalışma Alanları

Çalışma alanları, yapay zeka uygulayıcılarının bulunduğu yalıtılmış ortamlardır. Projeleri üzerinde çalışabilirler. Bu çalışma alanları gerekli araçlar, kitaplıklar ve bağımlılıklarla önceden yapılandırılarak kurulum sürecini basitleştirir ve ekipler arasında tutarlılık sağlar. Çalışma alanları, belirli proje gereksinimlerini karşılayacak şekilde özelleştirilebilir ve kolayca kopyalanabilir veya ortak çalışanlarla paylaşılabilir.

Araçlar

Run:ai, işlerin verimliliğini ve üretkenliğini artırmak için tasarlanmış bir araç paketi sağlar. Yapay zeka gelişimi. Araçlar Jupyter Notebook entegrasyonu, TensorBoard görselleştirmesi ve model izleme gibi özellikler sunar. Bu araçlar iş akışlarını kolaylaştırır, veri analizini basitleştirir ve ekip üyeleri arasındaki işbirliğini geliştirir.

Açık Kaynak Çerçeveleri

Run:ai, TensorFlow da dahil olmak üzere çok çeşitli popüler açık kaynaklı AI çerçevelerini destekler. , PyTorch, JAX ve Keras. Bu, geliştiricilerin mevcut kod tabanlarını özel bir platforma uyarlamalarına gerek kalmadan tercih ettikleri araç ve kitaplıklardan yararlanmalarına olanak tanır.

LLM Kataloğu

Run:ai, özel olarak seçilmiş bir LLM Kataloğu koleksiyonu sunar. popüler Büyük Dil Modelleri (LLM'ler) ve bunlara karşılık gelen yapılandırmalar. Bu katalog, son teknolojiye sahip LLM'lerin dağıtımını ve denemelerini kolaylaştırarak gelişmiş dil işleme yeteneklerinden yararlanan yapay zeka uygulamalarının geliştirilmesini hızlandırır.

İş Yükleri

Çalışma: ai platformu, aşağıdakiler de dahil olmak üzere çeşitli AI iş yüklerinin etkili yönetimine olanak tanır:
* **Eğitim:** Çalıştır:ai, dağıtılmış eğitim işlerini optimize ederek birden fazla GPU'daki büyük veri kümeleri üzerindeki modelleri etkili bir şekilde eğitmenize olanak tanır.
* **Çıkarım:** Çalıştır:ai, model dağıtımını ve çıkarımını kolaylaştırarak modelleri gerçek zamanlı tahminler veya toplu işleme için dağıtmanıza olanak tanır.
* **Dizüstü Bilgisayar Çiftlikleri:** Run:ai, ölçeklenebilir dizüstü bilgisayar çiftliklerinin oluşturulmasını ve yönetimini destekleyerek veri araştırması ve model prototipi oluşturma için işbirliğine dayalı bir ortam sağlar.
* **Araştırma Projeleri:** Run:ai, yeni modeller, algoritmalar ve tekniklerle denemeler için bir platform sunarak araştırma faaliyetlerini kolaylaştırmak için tasarlanmıştır.

Varlıklar

Run:ai, kullanıcıların aşağıdakiler de dahil olmak üzere AI varlıklarını yönetmesine ve paylaşmasına olanak tanır:
* **Modeller:** Kolay erişim ve dağıtım için depo ve sürüm eğitimli modeller.
* **Veri kümeleri:** Eğitim işlerinde verimli kullanım için büyük veri kümelerini depolayın ve yönetin.
* **Kod:** Yapay zeka projeleriyle ilgili kodu paylaşın ve üzerinde işbirliği yapın.
* **Deneyler:** Farklı yapay zeka deneylerinin sonuçlarını izleyin ve karşılaştırın.

Metrikler

Run:ai, kapsamlı izleme ve raporlama yetenekleri sunarak kullanıcıların yapay zeka iş yükleri ve altyapılarıyla ilgili önemli metrikleri izlemelerine olanak tanır. Buna aşağıdakiler dahildir:
* **GPU kullanımı:** Küme genelinde GPU kullanımını izleyerek verimli kaynak tahsisi sağlayın.
* **İş yükü performansı:** Eğitim ve çıkarım işlerinin performansını takip ederek darboğazları ve optimizasyon fırsatlarını belirleyin.
* **Kaynak tüketimi:** CPU, bellek ve ağ kullanımını izleyerek kaynak kullanımı ve potansiyel optimizasyon stratejileri hakkında öngörüler sağlayın.

Yönetici

Run:ai, platformu ve kullanıcılarını yönetmek için aşağıdakiler dahil yönetim araçları sunar:
* **Kullanıcı yönetimi:** Farklı kullanıcılar için erişim haklarını ve izinleri kontrol edin veya gruplar.
* **Küme yapılandırması:** Yapay zeka kümesi içindeki donanım ve yazılım kaynaklarını yapılandırın.
* **Politika uygulama:** Adilliği ve verimliliği sağlamak için kaynak tahsisi politikalarını tanımlayın ve uygulayın.

Kimlik Doğrulama ve Yetkilendirme

Run:ai, kaynaklara ve hassas verilere erişimi kontrol etmek için güvenli kimlik doğrulama ve yetkilendirme mekanizmaları sağlar. Buna aşağıdakiler dahildir:
* **Tek oturum açma (SSO):** Sorunsuz kullanıcı kimlik doğrulaması için mevcut kimlik sağlayıcılarla entegrasyon.
* **Rol tabanlı erişim kontrolü (RBAC):** Belirli izinlere sahip rolleri tanımlayarak kaynaklara erişim üzerinde ayrıntılı kontrol sağlayın.
* **Çok faktörlü kimlik doğrulama (MFA):** Kullanıcı girişi için birden fazla faktör gerektirerek güvenliği artırın.

Çoklu Küme Yönetimi

Run:ai, birden fazla AI kümesinin merkezi bir kontrol düzleminden yönetilmesini sağlar. Bu, kuruluşların şunları yapmasına olanak tanır:
* **Kaynakları birleştirin:** Mevcut kapasiteye ilişkin birleşik bir görünüm sağlayarak kaynakları farklı kümeler arasında toplayın.
* **İş akışlarını standartlaştırın:** Birden çok kümede tutarlı politikalar ve yapılandırmalar uygulayın.
* **Kullanımı optimize edin:** Optimum kaynak tahsisi için iş yükü dağıtımını kümeler arasında dengeleyin.

Kontrol Panelleri ve Raporlama

Run:ai, temel ölçümleri görselleştirmek, iş yükü performansını izlemek ve kaynak kullanımına ilişkin öngörüler elde etmek için güçlü kontrol panelleri ve raporlama araçları sağlar. Bu yetenekler şunları içerir:
* **Gerçek zamanlı izleme:** GPU kullanımını, iş yükü ilerlemesini ve kaynak kullanımını gerçek zamanlı olarak izleyin.
* **Geçmiş analizleri:** Trendleri belirlemek, kaynak tahsisini optimize etmek ve iş yükü performansını iyileştirmek için geçmiş verileri analiz edin.
* **Özelleştirilebilir kontrol panelleri:** Belirli ihtiyaçlara ve bakış açılarına göre uyarlanmış özel kontrol panelleri oluşturun.

İş Yükü Yönetimi

Run:ai, aşağıdakiler dahil olmak üzere AI iş yüklerinin yönetimini basitleştirir:
* **Zamanlama:** Eğitim ve çıkarım işlerinin planlanmasını ve yürütülmesini otomatikleştirin.
* **Önceliklendirme:** Kritik görevlerin ilk önce tamamlanmasını sağlamak için iş yüklerine öncelikler atayın.
* **Kaynak tahsisi:** Kaynakları (GPU'lar, CPU'lar, bellek), iş yüklerinin ihtiyaçlarına ve önceliklerine göre tahsis edin.

Kaynak Erişim Politikası

Run:ai, kuruluşların, kullanıcıların küme kaynaklarına nasıl erişebileceğini ve bunları nasıl kullanabileceğini belirleyen kuralları tanımlamasına ve uygulamasına olanak tanıyan esnek bir kaynak erişim politikası motoru sunar. Bu şunları sağlar:
* **Adil paylaşım tahsisi:** Kaynakların kullanıcılar ve ekipler arasında adil bir şekilde dağıtıldığından emin olun.
* **Kota yönetimi:** Aşırı tüketimi önlemek ve verimli tahsisi sağlamak için kaynak kullanımına sınırlar koyun.
* **Öncelik uygulaması:** Kullanıcı rollerine veya iş yükünün önemine göre kaynaklara erişime öncelik verin.

İş Yükü Politikası

Run:ai, iş yükü politikalarının oluşturulmasını, yapay zeka iş yüklerinin yönetilmesine yönelik kuralların ve yönergelerin tanımlanmasını destekler. Bu, kuruluşların şunları yapmasına olanak tanır:
* **İş akışlarını standartlaştırma:** Yapay zeka iş yüklerini çalıştırmak için tutarlı iş akışları ve en iyi uygulamalar oluşturma.
* **Görevleri otomatikleştirin:** Kaynak tahsisi ve zamanlama gibi ortak iş yükü yönetimi işlemlerini otomatikleştirin.
* **Güvenliği artırın:** Güvenlik standartlarına ve düzenlemelerine uygunluğu sağlamak için politikaları zorunlu kılın.

Yetkilendirme ve Erişim Kontrolü

Run:ai, kaynaklara ve verilere erişimi güvenli hale getirmek için güçlü yetkilendirme ve erişim kontrolü mekanizmaları kullanır:
* **Ayrıntılı izinler:* * Kaynaklara erişim üzerinde ayrıntılı kontrol sağlayarak kullanıcılara veya gruplara belirli izinler verin.
* **Denetim ve günlük kaydı:** Güvenlik ve uyumluluk amacıyla bir denetim takibi sağlayarak kullanıcı eylemlerini ve erişim düzenlerini izleyin.
* **Mevcut güvenlik araçlarıyla entegrasyon:** Merkezi yönetim ve kontrol için Run:ai'yi mevcut güvenlik sistemleriyle entegre edin.

Yapay Zeka İş Yükü Zamanlayıcısı

Run:ai'nin Yapay Zeka İş Yükü Zamanlayıcısı, yapay zeka yaşam döngüsünün tamamı için kaynak yönetimini optimize etmek üzere özel olarak tasarlanmıştır ve şunları yapmanızı sağlar:
* **Dinamik planlama:* * Mevcut ihtiyaçlara ve önceliklere göre kaynakları dinamik olarak iş yüklerine tahsis edin.
* **GPU havuzu oluşturma:** GPU kaynaklarını havuzlarda birleştirerek çeşitli iş yüklerine esnek tahsis olanağı sağlayın.
* **Öncelik planlaması:** Kritik görevlere öncelikle kaynaklara atandığından emin olun ve yapay zeka kümesinin genel verimini optimize edin.

Düğüm Havuzu

Run:ai, Düğüm Havuzu kavramını tanıtarak kuruluşların heterojen yapay zeka kümelerini kolaylıkla yönetmesine olanak tanır. Bu özellik şunları sağlar:
* **Küme yapılandırması:** Kaynak tahsisini yönetmek için Düğüm Havuzu düzeyinde kotaları, öncelikleri ve ilkeleri tanımlayın.
* **Kaynak yönetimi:** GPU türü, bellek ve CPU çekirdekleri gibi faktörleri dikkate alarak küme içindeki kaynakların adil ve verimli şekilde tahsis edilmesini sağlayın.
* **İş yükü dağıtımı:** İş yüklerini, kaynak gereksinimlerine göre uygun Düğüm Havuzlarına tahsis edin.

Konteyner Düzenleme

Run:ai, Kubernetes gibi konteyner düzenleme platformlarıyla sorunsuz bir şekilde bütünleşerek, dağıtılmış konteynerleştirilmiş yapay zeka iş yüklerinin konuşlandırılmasına ve yönetilmesine olanak tanır. Bu şunları sağlar:
* **Otomatik ölçeklendirme:** Yapay zeka iş yüklerini talebe göre sorunsuz bir şekilde yukarı veya aşağı ölçeklendirin.
* **Yüksek kullanılabilirlik:** Bireysel düğümler başarısız olsa bile yapay zeka iş yüklerinin kullanılabilir kalmasını sağlayın.
* **Basitleştirilmiş dağıtım:** Taşınabilirliği ve tekrarlanabilirliği teşvik ederek kapsayıcıya alınmış görüntüleri kullanarak AI iş yüklerini dağıtın ve yönetin.

GPU Parçalama

Run:ai'nin GPU Parçalama teknolojisi, tek bir GPU'yu birden fazla parçaya bölmenize olanak tanıyarak, GPU'nun yalnızca bir kısmını gerektiren iş yüklerini çalıştırmak için uygun maliyetli bir yol sunar. kaynaklar. Bu özellik:
* **Maliyet verimliliğini artırır:** GPU kaynaklarını paylaşarak aynı altyapı üzerinde daha fazla iş yükü çalıştırmanıza olanak tanır.
* **Kaynak yönetimini basitleştirir:** GPU kaynaklarının değişen gereksinimlere sahip çeşitli iş yüklerine tahsisini kolaylaştırır.
* **Kullanımı artırır:** GPU kullanımını en üst düzeye çıkararak boşta kalma süresini azaltır ve verimliliği artırır.

GPU Düğümleri

Run:ai, aralarında NVIDIA, AMD ve Intel'in de bulunduğu önde gelen sağlayıcıların sunduğu çok çeşitli GPU düğümlerini destekler. Bu, çeşitli donanım yapılandırmalarıyla uyumluluğu sağlar ve kuruluşların mevcut altyapıyı kullanmasına veya özel ihtiyaçları için en uygun GPU'ları seçmesine olanak tanır.

CPU Düğümleri

GPU düğümlerine ek olarak Çalıştır :ai ayrıca GPU hızlandırması gerektirmeyen görevler için CPU düğümlerini de destekler. Bu, kuruluşların mevcut CPU altyapısından yararlanmasına veya belirli görevler için daha uygun maliyetli CPU kaynaklarından yararlanmasına olanak tanır.

Depolama

Run:ai, NFS, GlusterFS, ceph dahil olmak üzere çeşitli depolama çözümleriyle entegre olur. ve yerel diskler. Bu esneklik, kuruluşların performans, ölçeklenebilirlik ve maliyet gereksinimlerini en iyi karşılayan depolama çözümünü seçmesine olanak tanır.

Ağ

Run:ai, yüksek bant genişliğine sahip ağlarda verimli bir şekilde çalışacak şekilde tasarlanmıştır. Düğümler arasında verimli veri aktarımını ve dağıtılmış yapay zeka iş yüklerinin yürütülmesini sağlar. Run:ai ayrıca internet bağlantısının bulunmadığı hava boşluklu ortamlarda da dağıtılarak hassas verilerin güvenliği ve izolasyonu sağlanabilir.

Talep Üzerine Dizüstü Bilgisayarlar

Run:ai'nin Not Defterleri İsteğe Bağlı özelliği, kullanıcıların Jupyter Notebook, PyCharm ve VS Code gibi favori araçları ve çerçeveleriyle önceden yapılandırılmış çalışma alanlarını başlatmasına olanak tanır. Bu:
* **Kurulumu basitleştirir:** Bağımlılıkları manuel olarak yüklemeye gerek kalmadan çalışma alanlarını hızla başlatın.
* **Tutarlılığı sağlar:** Ekipler ve projeler arasında tutarlı ortamlar sağlar.
* **İşbirliğini geliştirir:** Çalışma alanlarını ekip üyeleriyle sorunsuz bir şekilde paylaşın ve ortak çalışın.

Eğitim ve İnce Ayarlama

Run:ai, yapay zeka modellerinde eğitim ve ince ayar yapma sürecini basitleştirir:
* **Toplu işleri sıraya koyma:** Toplu işleri planlama ve çalıştırma Tek bir komut satırıyla eğitim işleri.
* **Dağıtılmış eğitim:** Modelleri birden fazla GPU'daki büyük veri kümeleri üzerinde etkili bir şekilde eğitin.
* **Model optimizasyonu:** Daha iyi performans için eğitim parametrelerini ve hiperparametreleri optimize edin.

Özel LLM'ler

Run:ai, kullanıcıların belirli uygulamalar için kullanılabilecek, özel olarak eğitilmiş modeller olan kendi özel LLM'lerini dağıtmasına ve yönetmesine olanak tanır. Bu şunları sağlar:
* **Model dağıtımı:** Çıkarım için LLM modellerini dağıtın ve kişiselleştirilmiş yanıtlar oluşturun.
* **Model yönetimi:** Kolay erişim ve güncellemeler için LLM modellerini saklayın, sürümlerini oluşturun ve yönetin.
* **Veri gizliliği:** Kullanıcı verilerini kuruluşun altyapısı dahilinde gizli ve güvende tutun.

NVIDIA ve Run:ai Paketi

Run:ai ve NVIDIA, DGX Sistemleri için tamamen entegre bir çözüm sunmak ve yapay zeka iş yükleri için en performanslı tam yığın çözümü sunmak üzere ortaklık kurdu. Bu paket:
* **DGX performansını optimize eder:** DGX donanımının kullanımını ve performansını en üst düzeye çıkarmak için Run:ai'nin yeteneklerinden yararlanır.
* **Yönetimi basitleştirir:** DGX kaynaklarını ve yapay zeka iş yüklerini yönetmek için tek bir platform sağlar.
* **Yapay zeka gelişimini hızlandırır:** Uyumlu bir çözümle kuruluşların yapay zeka girişimlerini hızlandırmalarına olanak tanır.

Kendi Altyapınızda Dağıtım Yapın; Bulut. Şirket İçi. Hava Boşluklu.

Run:ai, çok çeşitli dağıtım ortamlarını destekleyerek farklı altyapı gereksinimlerine sahip kuruluşlar için esnek seçenekler sunar. Buna aşağıdakiler dahildir:
* **Bulut dağıtımları:** Run:ai'yi AWS, Azure ve Google Cloud gibi büyük bulut sağlayıcılarına dağıtarak onların hizmetlerinden ve kaynaklarından yararlanmanıza olanak tanır.
* **Şirket içi dağıtımlar:** Run:ai'yi kendi donanım altyapınıza dağıtarak AI ortamınız üzerinde tam kontrol sağlayın.
* **Hava boşluklu dağıtımlar:** Run:ai'yi internet bağlantısı olmayan yalıtılmış ortamlarda dağıtarak verilerinizin güvenliğini ve bütünlüğünü sağlayın.

Herhangi bir ML Aracı ve Çerçevesi

Run:ai, aşağıdakiler de dahil olmak üzere çok çeşitli makine öğrenimi araçları ve çerçeveleriyle çalışacak şekilde tasarlanmıştır:
* **TensorFlow:** Çalıştır TensorFlow iş yüklerini etkili bir şekilde yönetin.
* **PyTorch:** PyTorch modellerini eğitim ve çıkarım için dağıtın ve optimize edin.
* **JAX:** Yüksek performanslı yapay zeka hesaplamaları için JAX'tan yararlanın.
* **Keras:** Keras modellerini sorunsuz bir şekilde oluşturun ve eğitin.
* **Scikit-learn:** Makine öğrenimi görevleri için Scikit-learn'den yararlanın.
* **XGBoost:** Gradyan artırma algoritmaları için XGBoost'tan yararlanın.
* **LightGBM:** Verimli degrade güçlendirme için LightGBM'yi kullanın.
* **CatBoost:** Sağlam degrade güçlendirme için CatBoost'tan yararlanın.

Tüm Kubernetes

Run:ai, önde gelen konteyner düzenleme platformu Kubernetes ile sorunsuz bir şekilde bütünleşir. Bu, mevcut Kubernetes ortamlarıyla uyumluluğu sağlar ve kuruluşların aşağıdaki avantajlardan yararlanmasına olanak tanır:
* **Otomatik ölçeklendirme:** Yapay zeka iş yüklerini talebe göre dinamik olarak ölçeklendirin.
* **Yüksek kullanılabilirlik:** Bireysel düğümler başarısız olsa bile yapay zeka iş yüklerinin kullanılabilir kalmasını sağlayın.
* **Konteynerleştirilmiş dağıtımlar:** AI iş yüklerini konteynerler olarak dağıtarak taşınabilirliği ve tekrarlanabilirliği teşvik edin.

Her Yerde

Run:ai her yere dağıtılacak şekilde tasarlanmıştır ve çeşitli altyapı ihtiyaçları olan kuruluşlara esneklik sağlar. Buna aşağıdakiler dahildir:
* **Veri merkezleri:** Maksimum kontrol ve güvenlik için Run:ai'yi kendi veri merkezlerinize dağıtın.
* **Bulut sağlayıcıları:** Ölçeklenebilirlik ve esneklik için Run:ai'yi büyük bulut sağlayıcılarına dağıtın.
* **Edge cihazları:** Gerçek zamanlı yapay zeka uygulamaları için Run:ai'yi uç cihazlarda dağıtın.

Tüm Altyapılar

Run:ai geniş bir altyapı bileşeni yelpazesini destekleyerek ideal yapay zeka ortamınızı oluşturmanıza olanak tanır:
* **GPU'lar:** Yüksek performanstan yararlanın NVIDIA, AMD ve Intel gibi lider satıcıların GPU'ları.
* **CPU'lar:** GPU hızlandırması gerektirmeyen görevler için CPU'ları kullanın.
* **ASIC'ler:** Makine öğrenimi çıkarımı gibi özel görevler için ASIC'leri entegre edin.
* **Depolama:** Performansınızı, ölçeklenebilirliğinizi ve maliyet gereksinimlerinizi en iyi karşılayan depolama çözümlerini seçin.
* **Ağ İletişimi:** Verimli veri iletimi ve dağıtılmış iş yükleri için Run:ai'yi yüksek bant genişliğine sahip ağlara dağıtın.