Detail Run:ai

Jalankan:ai Dev

Mempercepat pengembangan AI dan waktu pemasaran

• Luncurkan ruang kerja yang disesuaikan dengan alat dan kerangka kerja favorit Anda.
• Antrikan tugas batch dan jalankan pelatihan terdistribusi dengan satu baris perintah.
• Menerapkan dan mengelola model inferensi Anda dari satu tempat.

Ekosistem

Tingkatkan ketersediaan GPU dan gandakan Laba atas Investasi AI Anda

• Beban Kerja
• Aset
• Metrik
• Admin
• Otentikasi dan Otorisasi

Jalankan:ai API

• Beban Kerja
• Aset
• Metrik
• Admin
• Otentikasi dan Otorisasi

Jalankan:ai Control Plane

Terapkan pada Infrastruktur Anda Sendiri; Awan. Di Lokasi. Celah Udara.

• Manajemen Multi-Kluster
• Dasbor & Pelaporan
• Manajemen Beban Kerja
• Kebijakan Akses Sumber Daya
• Kebijakan Beban Kerja
• Otorisasi & Kontrol Akses

Jalankan:ai Cluster Engine

Temui Klaster AI Baru Anda; Digunakan. Dapat diskalakan. Di Bawah Kendali.

• Penjadwal Beban Kerja AI
• Penggabungan Node
• Orkestrasi Kontainer
• Fraksi GPU
• Node GPU
• Node CPU
• Penyimpanan
• Jaringan

CLI & GUI

Run:ai menyediakan antarmuka baris perintah (CLI) yang mudah digunakan dan antarmuka pengguna grafis (GUI) yang komprehensif untuk mengelola beban kerja dan infrastruktur AI Anda. CLI menawarkan kemampuan kontrol dan pembuatan skrip tingkat lanjut, sedangkan GUI memberikan pengalaman visual yang intuitif untuk memantau, mengonfigurasi, dan berinteraksi dengan platform.

Ruang Kerja

Ruang kerja adalah lingkungan terisolasi tempat para praktisi AI dapat mengerjakan proyek mereka. Ruang kerja ini telah dikonfigurasi sebelumnya dengan alat, pustaka, dan dependensi yang diperlukan, sehingga menyederhanakan proses penyiapan dan memastikan konsistensi di seluruh tim. Ruang kerja dapat disesuaikan untuk memenuhi kebutuhan proyek tertentu dan dapat dengan mudah dikloning atau dibagikan dengan kolaborator.

Alat

Run:ai menyediakan serangkaian alat yang dirancang untuk meningkatkan efisiensi dan produktivitas Pengembangan AI. Alat tersebut menawarkan fitur seperti integrasi Jupyter Notebook, visualisasi TensorBoard, dan pelacakan model. Alat-alat ini menyederhanakan alur kerja, menyederhanakan analisis data, dan meningkatkan kolaborasi antar anggota tim.

Kerangka Kerja Sumber Terbuka

Run:ai mendukung berbagai kerangka kerja AI sumber terbuka yang populer, termasuk TensorFlow , PyTorch, JAX, dan Keras. Hal ini memungkinkan pengembang untuk memanfaatkan alat dan perpustakaan pilihan mereka tanpa perlu mengadaptasi basis kode yang ada ke platform khusus.

Katalog LLM

Run:ai menawarkan Katalog LLM, kumpulan koleksi yang dikurasi Model Bahasa Besar (LLM) yang populer dan konfigurasinya yang sesuai. Katalog ini mempermudah penerapan dan eksperimen dengan LLM yang canggih, sehingga mempercepat pengembangan aplikasi AI yang memanfaatkan kemampuan pemrosesan bahasa tingkat lanjut.

Beban Kerja

Pelaksanaan: Platform ai memungkinkan pengelolaan beban kerja AI yang beragam secara efektif, termasuk:
* **Training:** Run:ai mengoptimalkan tugas pelatihan terdistribusi, memungkinkan Anda melatih model secara efektif pada kumpulan data besar di beberapa GPU.
* **Inferensi:** Run:ai menyederhanakan penerapan dan inferensi model, sehingga memungkinkan Anda menerapkan model untuk prediksi real-time atau pemrosesan batch.
* **Notebook Farms:** Run:ai mendukung pembuatan dan pengelolaan kumpulan notebook yang dapat diskalakan, menyediakan lingkungan kolaboratif untuk eksplorasi data dan pembuatan prototipe model.
* **Proyek Penelitian:** Run:ai dirancang untuk memfasilitasi aktivitas penelitian, menawarkan platform untuk bereksperimen dengan model, algoritme, dan teknik baru.

Aset

Run:ai memungkinkan pengguna mengelola dan berbagi aset AI, termasuk:
* **Model:** Menyimpan dan membuat versi model terlatih untuk memudahkan akses dan penerapan.
* **Kumpulan Data:** Menyimpan dan mengelola kumpulan data besar untuk penggunaan yang efisien dalam tugas pelatihan.
* **Kode:** Berbagi dan berkolaborasi pada kode yang terkait dengan proyek AI.
* **Eksperimen:** Lacak dan bandingkan hasil eksperimen AI yang berbeda.

Metrik

Run:ai memberikan kemampuan pemantauan dan pelaporan yang komprehensif, memungkinkan pengguna melacak metrik utama yang terkait dengan beban kerja dan infrastruktur AI mereka. Hal ini mencakup:
* **Pemanfaatan GPU:** Memantau penggunaan GPU di seluruh cluster, memastikan alokasi sumber daya yang efisien.
* **Kinerja beban kerja:** Melacak kinerja tugas pelatihan dan inferensi, mengidentifikasi hambatan dan peluang pengoptimalan.
* **Konsumsi sumber daya:** Memantau penggunaan CPU, memori, dan jaringan, memberikan wawasan tentang pemanfaatan sumber daya dan potensi strategi pengoptimalan.

Admin

Run:ai menawarkan alat administratif untuk mengelola platform dan penggunanya, termasuk:
* **Manajemen pengguna:** Mengontrol hak akses dan izin untuk pengguna yang berbeda atau kelompok.
* **Konfigurasi klaster:** Konfigurasikan sumber daya perangkat keras dan perangkat lunak dalam klaster AI.
* **Penegakan kebijakan:** Menentukan dan menegakkan kebijakan alokasi sumber daya untuk memastikan keadilan dan efisiensi.

Otentikasi dan Otorisasi

Run:ai menyediakan mekanisme otentikasi dan otorisasi yang aman untuk mengontrol akses ke sumber daya dan data sensitif. Hal ini mencakup:
* **Single sign-on (SSO):** Integrasikan dengan penyedia identitas yang ada untuk autentikasi pengguna yang lancar.
* **Kontrol akses berbasis peran (RBAC):** Menentukan peran dengan izin khusus, memastikan kontrol terperinci atas akses ke sumber daya.
* **Otentikasi multi-faktor (MFA):** Meningkatkan keamanan dengan mewajibkan banyak faktor untuk login pengguna.

Manajemen Multi-Kluster

Run:ai memungkinkan pengelolaan beberapa kluster AI dari satu bidang kendali pusat. Hal ini memungkinkan organisasi untuk:
* **Mengkonsolidasikan sumber daya:** Menggabungkan sumber daya di berbagai klaster, sehingga memberikan gambaran terpadu tentang kapasitas yang tersedia.
* **Standarisasi alur kerja:** Terapkan kebijakan dan konfigurasi yang konsisten di beberapa cluster.
* **Optimalkan pemanfaatan:** Menyeimbangkan distribusi beban kerja di seluruh cluster untuk alokasi sumber daya yang optimal.

Dasbor & Pelaporan

Run:ai menyediakan dasbor dan alat pelaporan canggih untuk memvisualisasikan metrik utama, melacak kinerja beban kerja, dan mendapatkan wawasan tentang pemanfaatan sumber daya. Kemampuan ini mencakup:
* **Pemantauan waktu nyata:** Melacak pemanfaatan GPU, kemajuan beban kerja, dan penggunaan sumber daya secara waktu nyata.
* **Analisis historis:** Menganalisis data historis untuk mengidentifikasi tren, mengoptimalkan alokasi sumber daya, dan meningkatkan kinerja beban kerja.
* **Dasbor yang dapat disesuaikan:** Buat dasbor khusus yang disesuaikan dengan kebutuhan dan perspektif spesifik.

Manajemen Beban Kerja

Run:ai menyederhanakan pengelolaan beban kerja AI, termasuk:
* **Penjadwalan:** Mengotomatiskan penjadwalan dan pelaksanaan tugas pelatihan dan inferensi.
* **Prioritas:** Tetapkan prioritas pada beban kerja untuk memastikan bahwa tugas-tugas penting diselesaikan terlebih dahulu.
* **Alokasi sumber daya:** Mengalokasikan sumber daya (GPU, CPU, memori) ke beban kerja berdasarkan kebutuhan dan prioritasnya.

Kebijakan Akses Sumber Daya

Run:ai menawarkan mesin kebijakan akses sumber daya fleksibel yang memungkinkan organisasi menentukan dan menegakkan aturan yang mengatur bagaimana pengguna dapat mengakses dan memanfaatkan sumber daya cluster. Hal ini memungkinkan:
* **Alokasi pembagian yang adil:** Memastikan sumber daya dialokasikan secara adil di antara pengguna dan tim.
* **Manajemen kuota:** Tetapkan batas penggunaan sumber daya untuk mencegah konsumsi berlebihan dan memastikan alokasi yang efisien.
* **Penerapan prioritas:** Memprioritaskan akses ke sumber daya berdasarkan peran pengguna atau kepentingan beban kerja.

Kebijakan Beban Kerja

Run:ai mendukung pembuatan kebijakan beban kerja, menetapkan aturan dan pedoman untuk mengelola beban kerja AI. Hal ini memungkinkan organisasi untuk:
* **Standarisasi alur kerja:** Menetapkan alur kerja yang konsisten dan praktik terbaik untuk menjalankan beban kerja AI.
* **Mengotomatiskan tugas:** Mengotomatiskan operasi manajemen beban kerja umum, seperti alokasi sumber daya dan penjadwalan.
* **Meningkatkan keamanan:** Menerapkan kebijakan untuk memastikan kepatuhan terhadap standar dan peraturan keamanan.

Otorisasi & Kontrol Akses

Run:ai menggunakan mekanisme otorisasi dan kontrol akses yang kuat untuk mengamankan akses ke sumber daya dan data, termasuk:
* **Izin terperinci:* * Berikan izin khusus kepada pengguna atau grup, memberikan kontrol terperinci atas akses ke sumber daya.
* **Audit dan logging:** Melacak tindakan pengguna dan pola akses, memberikan jejak audit untuk tujuan keamanan dan kepatuhan.
* **Integrasi dengan alat keamanan yang ada:** Integrasikan Run:ai dengan sistem keamanan yang ada untuk manajemen dan kontrol terpusat.

Penjadwal Beban Kerja AI

Penjadwal Beban Kerja AI Run:ai dirancang khusus untuk mengoptimalkan pengelolaan sumber daya untuk seluruh siklus hidup AI, memungkinkan Anda untuk:
* **Penjadwalan dinamis:* * Alokasikan sumber daya secara dinamis ke beban kerja berdasarkan kebutuhan dan prioritas saat ini.
* **Penggabungan GPU:** Menggabungkan sumber daya GPU ke dalam kumpulan, memungkinkan alokasi fleksibel untuk beragam beban kerja.
* **Penjadwalan prioritas:** Pastikan tugas-tugas penting diberi sumber daya terlebih dahulu, sehingga mengoptimalkan keseluruhan throughput cluster AI.

Node Pooling

Run:ai memperkenalkan konsep Node Pooling, yang memungkinkan organisasi mengelola cluster AI yang heterogen dengan mudah. Fitur ini menyediakan:
* **Konfigurasi cluster:** Menentukan kuota, prioritas, dan kebijakan di tingkat Node Pool untuk mengelola alokasi sumber daya.
* **Manajemen sumber daya:** Pastikan alokasi sumber daya yang adil dan efisien dalam cluster, dengan mempertimbangkan faktor-faktor seperti jenis GPU, memori, dan inti CPU.
* **Distribusi beban kerja:** Alokasikan beban kerja ke Kumpulan Node yang sesuai berdasarkan kebutuhan sumber dayanya.

Orkestrasi Kontainer

Run:ai terintegrasi secara mulus dengan platform orkestrasi kontainer seperti Kubernetes, sehingga memungkinkan penerapan dan pengelolaan beban kerja AI terdistribusi dalam container. Hal ini memberikan:
* **Penskalaan otomatis:** Menskalakan beban kerja AI ke atas atau ke bawah dengan lancar berdasarkan permintaan.
* **Ketersediaan tinggi:** Pastikan beban kerja AI tetap tersedia meskipun setiap node gagal.
* **Penerapan yang disederhanakan:** Terapkan dan kelola beban kerja AI menggunakan gambar dalam container, sehingga mendorong portabilitas dan reproduktifitas.

Fraksionasi GPU

Teknologi Fractioning GPU Run:ai memungkinkan Anda membagi satu GPU menjadi beberapa pecahan, memberikan cara yang hemat biaya untuk menjalankan beban kerja yang hanya memerlukan sebagian dari GPU sumber daya. Fitur ini:
* **Meningkatkan efisiensi biaya:** Memungkinkan Anda menjalankan lebih banyak beban kerja pada infrastruktur yang sama dengan berbagi sumber daya GPU.
* **Menyederhanakan pengelolaan sumber daya:** Menyederhanakan alokasi sumber daya GPU untuk beragam beban kerja dengan berbagai kebutuhan.
* **Meningkatkan pemanfaatan:** Memaksimalkan pemanfaatan GPU, mengurangi waktu menganggur dan meningkatkan efisiensi.

Node GPU

Run:ai mendukung beragam node GPU dari vendor terkemuka, termasuk NVIDIA, AMD, dan Intel. Hal ini memastikan kompatibilitas dengan berbagai konfigurasi perangkat keras dan memungkinkan organisasi untuk memanfaatkan infrastruktur yang ada atau memilih GPU yang paling sesuai untuk kebutuhan spesifik mereka.

Node CPU

Selain node GPU, Run :ai juga mendukung node CPU untuk tugas-tugas yang tidak memerlukan akselerasi GPU. Hal ini memungkinkan organisasi untuk memanfaatkan infrastruktur CPU yang ada atau memanfaatkan sumber daya CPU yang lebih hemat biaya untuk tugas tertentu.

Penyimpanan

Run:ai terintegrasi dengan berbagai solusi penyimpanan, termasuk NFS, GlusterFS, ceph , dan disk lokal. Fleksibilitas ini memungkinkan organisasi memilih solusi penyimpanan yang paling memenuhi persyaratan kinerja, skalabilitas, dan biaya.

Jaringan

Run:ai dirancang untuk bekerja secara efisien pada jaringan bandwidth tinggi, memungkinkan transmisi data yang efisien antar node dan pelaksanaan beban kerja AI terdistribusi. Run:ai juga dapat diterapkan di lingkungan dengan celah udara, yang tidak memiliki konektivitas internet, sehingga memastikan keamanan dan isolasi data sensitif.

Notebook Sesuai Permintaan

Notebook Run:ai Fitur on Demand memungkinkan pengguna meluncurkan ruang kerja yang telah dikonfigurasi sebelumnya dengan alat dan kerangka kerja favorit mereka, termasuk Jupyter Notebook, PyCharm, dan VS Code. Ini:
* **Menyederhanakan penyiapan:** Meluncurkan ruang kerja dengan cepat tanpa perlu menginstal dependensi secara manual.
* **Memastikan konsistensi:** Menyediakan lingkungan yang konsisten di seluruh tim dan proyek.
* **Meningkatkan kolaborasi:** Berbagi dan berkolaborasi di ruang kerja secara lancar dengan anggota tim.

Pelatihan & Penyempurnaan

Run:ai menyederhanakan proses pelatihan dan penyempurnaan model AI:
* **Antrian pekerjaan batch:** Menjadwalkan dan menjalankan batch pekerjaan pelatihan dengan satu baris perintah.
* **Pelatihan terdistribusi:** Melatih model secara efektif pada kumpulan data besar di beberapa GPU.
* **Pengoptimalan model:** Optimalkan parameter pelatihan dan hyperparameter untuk meningkatkan performa.

LLM Pribadi

Run:ai memungkinkan pengguna untuk menyebarkan dan mengelola LLM pribadi mereka sendiri, model yang dilatih khusus dan dapat digunakan untuk aplikasi tertentu. Hal ini memungkinkan:
* **Penerapan model:** Menerapkan model LLM untuk inferensi dan menghasilkan respons yang dipersonalisasi.
* **Manajemen model:** Menyimpan, membuat versi, dan mengelola model LLM untuk kemudahan akses dan pembaruan.
* **Privasi data:** Jaga kerahasiaan dan keamanan data pengguna dalam infrastruktur organisasi.

NVIDIA & Run:ai Bundle

Run:ai dan NVIDIA telah bermitra untuk menawarkan solusi terintegrasi penuh untuk DGX Systems, memberikan solusi full-stack paling berperforma untuk beban kerja AI. Paket ini:
* **Mengoptimalkan kinerja DGX:** Memanfaatkan kemampuan Run:ai untuk memaksimalkan pemanfaatan dan kinerja perangkat keras DGX.
* **Menyederhanakan pengelolaan:** Menyediakan platform tunggal untuk mengelola sumber daya DGX dan beban kerja AI.
* **Mempercepat pengembangan AI:** Memberdayakan organisasi untuk mempercepat inisiatif AI mereka dengan solusi yang kohesif.

Terapkan pada Infrastruktur Anda Sendiri; Awan. Di Lokasi. Air-Gapped.

Run:ai mendukung berbagai lingkungan penerapan, menawarkan opsi fleksibel untuk organisasi dengan kebutuhan infrastruktur berbeda. Hal ini mencakup:
* **Penerapan cloud:** Terapkan Run:ai pada penyedia cloud besar, seperti AWS, Azure, dan Google Cloud, sehingga Anda dapat memanfaatkan layanan dan sumber daya mereka.
* **Penerapan lokal:** Terapkan Run:ai pada infrastruktur perangkat keras Anda sendiri, sehingga memberikan kontrol penuh atas lingkungan AI Anda.
* **Penerapan dengan celah udara:** Terapkan Run:ai di lingkungan terisolasi tanpa konektivitas internet, yang menjamin keamanan dan integritas data Anda.

Alat & Kerangka Kerja ML apa pun

Run:ai dirancang untuk bekerja dengan berbagai alat dan kerangka pembelajaran mesin, termasuk:
* **TensorFlow:** Run dan mengelola beban kerja TensorFlow secara efektif.
* **PyTorch:** Terapkan dan optimalkan model PyTorch untuk pelatihan dan inferensi.
* **JAX:** Memanfaatkan JAX untuk komputasi AI performa tinggi.
* **Keras:** Membangun dan melatih model Keras dengan lancar.
* **Scikit-learn:** Memanfaatkan Scikit-learn untuk tugas pembelajaran mesin.
* **XGBoost:** Manfaatkan XGBoost untuk algoritme peningkatan gradien.
* **LightGBM:** Terapkan LightGBM untuk peningkatan gradien yang efisien.
* **CatBoost:** Manfaatkan CatBoost untuk peningkatan gradien yang kuat.

Semua Kubernetes

Run:ai terintegrasi secara mulus dengan Kubernetes, platform orkestrasi container terkemuka. Hal ini memastikan kompatibilitas dengan lingkungan Kubernetes yang ada dan memungkinkan organisasi memanfaatkan manfaatnya, termasuk:
* **Penskalaan otomatis:** Menskalakan beban kerja AI secara dinamis berdasarkan permintaan.
* **Ketersediaan tinggi:** Pastikan beban kerja AI tetap tersedia meskipun setiap node gagal.
* **Penerapan dalam container:** Menerapkan beban kerja AI sebagai container, sehingga mendorong portabilitas dan reproduktifitas.

Di mana saja

Run:ai dirancang untuk diterapkan di mana saja, memberikan fleksibilitas kepada organisasi dengan beragam kebutuhan infrastruktur. Hal ini mencakup:
* **Pusat data:** Terapkan Run:ai di pusat data Anda sendiri untuk kontrol dan keamanan maksimum.
* **Penyedia cloud:** Terapkan Run:ai pada penyedia cloud utama untuk skalabilitas dan fleksibilitas.
* **Perangkat Edge:** Terapkan Run:ai pada perangkat edge untuk aplikasi AI real-time.

Infrastruktur Apa Pun

Run:ai mendukung berbagai komponen infrastruktur, memungkinkan Anda membangun lingkungan AI ideal Anda:
* **GPU:** Memanfaatkan kinerja tinggi GPU dari vendor terkemuka, seperti NVIDIA, AMD, dan Intel.
* **CPU:** Memanfaatkan CPU untuk tugas yang tidak memerlukan akselerasi GPU.
* **ASIC:** Integrasikan ASIC untuk tugas khusus, seperti inferensi pembelajaran mesin.
* **Penyimpanan:** Pilih solusi penyimpanan yang paling memenuhi persyaratan kinerja, skalabilitas, dan biaya Anda.
* **Jaringan:** Terapkan Run:ai pada jaringan bandwidth tinggi untuk transmisi data yang efisien dan beban kerja yang didistribusikan.