Run:ai Tiedot

Suorita:ai Dev

Nopeuta tekoälyn kehitystä ja markkinoilletuloaikaa

• Käynnistä mukautettuja työtiloja suosikkityökaluillasi ja -kehyksilläsi.
• Joonoa erätöitä ja suorita hajautettua koulutusta yhdellä komentorivillä.
• Ota käyttöön ja hallitse päättelymallejasi yhdestä paikasta.

Ekosysteemi

Paranna GPU-käytettävyyttä ja moninkertaista tekoälysijoituksesi tuotto

• Työmäärät
• Omaisuus
• Tiedot
• Järjestelmänvalvoja
• Todennus ja valtuutus

Suorita:ai API

• Työmäärät
• Omaisuus
• Tiedot
• Järjestelmänvalvoja
• Todennus ja valtuutus

Suorita:ai Control Plane

Ota käyttöön omassa infrastruktuurissasi; Pilvi. On-Prem. Ilmarakoinen.

• Usean klusterin hallinta
• Hallintapaneelit ja raportointi
• Työkuorman hallinta
• Resurssien käyttöoikeuskäytäntö
• Työkuormituskäytäntö
• Valtuutus ja kulunvalvonta

Suorita:ai Cluster Engine

Tutustu uuteen tekoälyklusteriisi; Käytetty. Skaalautuva. Hallinnassa.

• AI Workload Scheduler
• Solmujen yhdistäminen
• Säilön orkestrointi
• GPU-fraktiointi
• GPU-solmut
• CPU-solmut
• Tallennustila
• Verkko

CLI ja GUI

Run:ai tarjoaa käyttäjäystävällisen komentoriviliittymän (CLI) ja kattavan graafisen käyttöliittymän (GUI) tekoälyn työkuormien ja infrastruktuurin hallintaan. CLI tarjoaa edistyneitä ohjaus- ja komentosarjaominaisuuksia, kun taas graafinen käyttöliittymä tarjoaa intuitiivisen visuaalisen kokemuksen alustan seurantaan, määrittämiseen ja vuorovaikutukseen sen kanssa.

Työtilat

Työtilat ovat eristettyjä ympäristöjä, joissa tekoälyn harjoittajat voivat työskennellä projekteissaan. Näihin työtiloihin on esikonfiguroitu tarvittavat työkalut, kirjastot ja riippuvuudet, mikä yksinkertaistaa asennusprosessia ja varmistaa johdonmukaisuuden eri ryhmien välillä. Työtiloja voidaan mukauttaa vastaamaan tiettyjä projektin vaatimuksia, ja ne voidaan helposti kloonata tai jakaa yhteistyökumppaneiden kanssa.

Työkalut

Run:ai tarjoaa joukon työkaluja, jotka on suunniteltu parantamaan projektin tehokkuutta ja tuottavuutta. AI kehitys. Työkaluissa on ominaisuuksia, kuten Jupyter Notebook -integraatio, TensorBoard-visualisointi ja mallin seuranta. Nämä työkalut virtaviivaistavat työnkulkuja, yksinkertaistavat tietojen analysointia ja parantavat tiimin jäsenten välistä yhteistyötä.

Avoimen lähdekoodin kehykset

Run:ai tukee laajaa valikoimaa suosittuja avoimen lähdekoodin tekoälykehyksiä, mukaan lukien TensorFlow , PyTorch, JAX ja Keras. Näin kehittäjät voivat hyödyntää haluamiaan työkaluja ja kirjastoja tarvitsematta mukauttaa olemassa olevaa koodikantaansa erikoisalustalle.

LLM Catalog

Run:ai tarjoaa LLM Catalogin, kuratoidun kokoelman suositut suuret kielimallit (LLM) ja niitä vastaavat kokoonpanot. Tämä luettelo helpottaa uusimpien LLM:ien käyttöönottoa ja kokeilua, mikä nopeuttaa kehittyneitä kielenkäsittelyominaisuuksia hyödyntävien tekoälysovellusten kehitystä.

Työkuormat

Ajo: ai-alusta mahdollistaa erilaisten AI-työkuormien tehokkaan hallinnan, mukaan lukien:
* **Koulutus:** Run:ai optimoi hajautetut harjoitustyöt, jolloin voit kouluttaa malleja tehokkaasti suurissa tietojoukoissa useiden grafiikkasuorittimien välillä.
* **Päättely:** Run:ai virtaviivaistaa mallin käyttöönottoa ja päättelyä, jolloin voit ottaa käyttöön malleja reaaliaikaisia ​​ennusteita tai eräkäsittelyä varten.
* **Notebook Farms:** Run:ai tukee skaalattavien muistikirjatilojen luomista ja hallintaa tarjoten yhteistyöympäristön tietojen tutkimiseen ja mallien prototyyppien luomiseen.
* **Tutkimusprojektit:** Run:ai on suunniteltu helpottamaan tutkimustoimintaa tarjoamalla alustan uusien mallien, algoritmien ja tekniikoiden kokeilulle.

Omaisuus

Run:ai:n avulla käyttäjät voivat hallita ja jakaa tekoälyresursseja, mukaan lukien:
* **Mallit:** Tallenna ja versiota koulutettuja malleja helppoa käyttöä ja käyttöönottoa varten.
* **Tietojoukot:** Tallenna ja hallitse suuria tietojoukkoja käyttääksesi niitä tehokkaasti koulutustöissä.
* **Koodi:** Jaa tekoälyprojekteihin liittyvää koodia ja tee yhteistyötä.
* **Kokeet:** Seuraa ja vertaa eri tekoälykokeiden tuloksia.

Tiedot

Run:ai tarjoaa kattavat seuranta- ja raportointiominaisuudet, joiden avulla käyttäjät voivat seurata keskeisiä mittareita, jotka liittyvät tekoälyn työkuormiin ja infrastruktuuriin. Tämä sisältää:
* **GPU-käyttö:** Tarkkaile GPU-käyttöä klusterissa ja varmista tehokkaan resurssien allokoinnin.
* **Työkuorman suorituskyky:** Seuraa koulutus- ja päättelytöiden suorituskykyä, tunnistamalla pullonkaulat ja optimointimahdollisuudet.
* **Resurssienkulutus:** Valvo suorittimen, muistin ja verkon käyttöä, mikä antaa tietoa resurssien käytöstä ja mahdollisista optimointistrategioista.

Järjestelmänvalvoja

Run:ai tarjoaa hallintatyökaluja alustan ja sen käyttäjien hallintaan, mukaan lukien:
* **Käyttäjien hallinta:** Hallitse eri käyttäjien käyttöoikeuksia ja käyttöoikeuksia tai ryhmiä.
* **Klusterin kokoonpano:** Määritä tekoälyklusterin laitteisto- ja ohjelmistoresurssit.
* **Käytännön täytäntöönpano:** Määritä ja valvo resurssien allokointikäytäntöjä oikeudenmukaisuuden ja tehokkuuden varmistamiseksi.

Todennus ja valtuutus

Run:ai tarjoaa suojattuja todennus- ja valtuutusmekanismeja resurssien ja arkaluontoisten tietojen käytön hallintaan. Tämä sisältää:
* **Single sign-on (SSO):** Integroi olemassa olevien identiteetintarjoajien kanssa saumattoman käyttäjien todennuksen varmistamiseksi.
* **Roolipohjainen kulunvalvonta (RBAC):** Määritä roolit tietyillä käyttöoikeuksilla varmistaen resurssien tarkan hallinnan.
* **Monitekijätodennus (MFA):** Paranna turvallisuutta vaatimalla useita tekijöitä käyttäjän kirjautumiseen.

Multi-Cluster Management

Run:ai mahdollistaa useiden tekoälyklustereiden hallinnan keskusohjaustasolta. Tämän ansiosta organisaatiot voivat:
* **Yhdistää resursseja:** Koota resursseja eri klustereilta, jolloin saadaan yhtenäinen kuva käytettävissä olevasta kapasiteetista.
* **Työnkulkujen standardointi:** Käytä johdonmukaisia ​​käytäntöjä ja määrityksiä useissa klustereissa.
* **Optimoi käyttö:** Tasapainota työtaakan jakautumista klustereiden välillä optimaalista resurssien allokointia varten.

Käyttöpaneelit ja raportointi

Run:ai tarjoaa tehokkaita hallintapaneeleja ja raportointityökaluja tärkeimpien mittareiden visualisoimiseksi, työkuorman suorituskyvyn seuraamiseksi ja näkemysten saamiseksi resurssien käytöstä. Näitä ominaisuuksia ovat:
* **Reaaliaikainen seuranta:** Seuraa GPU:n käyttöä, työkuorman edistymistä ja resurssien käyttöä reaaliajassa.
* **Historiallinen analytiikka:** Analysoi historiallisia tietoja trendien tunnistamiseksi, resurssien kohdistamisen optimoimiseksi ja työkuorman suorituskyvyn parantamiseksi.
* **Muokattavat hallintapaneelit:** Luo mukautettuja hallintapaneeleja, jotka on räätälöity erityistarpeiden ja näkökulmien mukaan.

Työkuorman hallinta

Run:ai yksinkertaistaa tekoälyn työkuormien hallintaa, mukaan lukien:
* **Ajoitus:** Automatisoi koulutus- ja päättelytöiden ajoitus ja toteutus.
* **Priorisointi:** Aseta työkuormille prioriteetit varmistaaksesi, että tärkeät tehtävät suoritetaan ensin.
* **Resurssien allokointi:** Kohdista resurssit (GPU:t, CPU:t, muisti) työkuormille heidän tarpeidensa ja prioriteettien mukaan.

Resurssien käyttöoikeuskäytäntö

Run:ai tarjoaa joustavan resurssien käyttöoikeuskäytäntömoottorin, jonka avulla organisaatiot voivat määritellä ja valvoa sääntöjä, jotka ohjaavat sitä, miten käyttäjät voivat käyttää ja käyttää klusterin resursseja. Tämä mahdollistaa:
* **Reilun jaon:** Varmista, että resurssit jaetaan oikeudenmukaisesti käyttäjien ja tiimien kesken.
* **Kiintiöiden hallinta:** Aseta rajoituksia resurssien käytölle estääksesi liikakulutuksen ja varmistaaksesi tehokkaan allokoinnin.
* **Ensisijainen valvonta:** Priorisoi resurssien käyttö käyttäjien roolien tai työmäärän tärkeyden perusteella.

Työkuormituskäytäntö

Run:ai tukee työtaakkakäytäntöjen luomista, jotka määrittelevät säännöt ja ohjeet tekoälyn työkuormien hallintaan. Näin organisaatiot voivat:
* **standardoida työnkulkuja:** luoda johdonmukaisia ​​työnkulkuja ja parhaita käytäntöjä tekoälyn työkuormien suorittamiseen.
* **Automatisoi tehtävät:** Automatisoi yleiset työkuorman hallintatoiminnot, kuten resurssien allokointi ja ajoitus.
* **Paranna turvallisuutta:** Täytä käytännöt varmistaaksesi turvallisuusstandardien ja -määräysten noudattamisen.

Valtuutus ja kulunvalvonta

Run:ai käyttää vankkoja valtuutus- ja kulunvalvontamekanismeja varmistaakseen pääsyn resursseihin ja tietoihin, mukaan lukien:
* **Tarkkarakeiset käyttöoikeudet:* * Myönnä erityisiä käyttöoikeuksia käyttäjille tai ryhmille, mikä mahdollistaa resurssien käytön tarkan hallinnan.
* **Valvonta ja lokikirjaus:** Seuraa käyttäjien toimia ja käyttötapoja tarjoamalla seurantaketjun turvallisuus- ja vaatimustenmukaisuustarkoituksiin.
* **Integraatio olemassa olevien suojaustyökalujen kanssa:** Integroi Run:ai olemassa oleviin turvajärjestelmiin keskitettyä hallintaa ja ohjausta varten.

AI Workload Scheduler

Run:ain AI Workload Scheduler on suunniteltu erityisesti optimoimaan resurssien hallinta koko tekoälyn elinkaarelle, jolloin voit:
* **Dynaaminen ajoitus:* * Kohdista resurssit dynaamisesti työkuormiin nykyisten tarpeiden ja prioriteettien mukaan.
* **GPU:n yhdistäminen:** Yhdistä GPU-resurssit pooleihin, mikä mahdollistaa joustavan kohdistamisen erilaisiin työkuormiin.
* **Prioriteetin ajoitus:** Varmista, että kriittisille tehtäville osoitetaan ensin resurssit, mikä optimoi tekoälyklusterin yleisen suorituskyvyn.

Solmujen yhdistäminen

Run:ai esittelee Node Pooling -konseptin, jonka avulla organisaatiot voivat hallita heterogeenisiä tekoälyklustereita helposti. Tämä ominaisuus tarjoaa:
* **Klusterin kokoonpano:** Määritä kiintiöt, prioriteetit ja käytännöt solmuvarannon tasolla resurssien allokoinnin hallintaa varten.
* **Resurssienhallinta:** Varmista oikeudenmukainen ja tehokas resurssien allokointi klusterin sisällä ottaen huomioon tekijät, kuten GPU-tyyppi, muisti ja prosessoriytimet.
* **Työkuormien jakautuminen:** Kohdista työkuormat sopiviin solmuryhmiin niiden resurssivaatimusten perusteella.

Container Orchestration

Run:ai integroituu saumattomasti Kubernetesin kaltaisiin konttiorkesterialustoihin, mikä mahdollistaa hajautettujen konttipohjaisten tekoälytyökuormien käyttöönoton ja hallinnan. Tämä tarjoaa:
* **Automaattinen skaalaus:** Skaalaa AI-työkuormia saumattomasti kysynnän mukaan.
* **Korkea saatavuus:** Varmista, että tekoälyn työkuormat ovat käytettävissä, vaikka yksittäiset solmut epäonnistuvat.
* **Yksinkertaistettu käyttöönotto:** Ota käyttöön ja hallitse tekoälyn työkuormia konttikuvien avulla, mikä edistää siirrettävyyttä ja toistettavuutta.

GPU:n fraktiointi

Run:ai:n GPU:n fraktiointitekniikan avulla voit jakaa yhden GPU:n useisiin murto-osiin, mikä tarjoaa kustannustehokkaan tavan suorittaa työkuormia, jotka vaativat vain osan GPU:sta. resursseja. Tämä ominaisuus:
* **Lisää kustannustehokkuutta:** Voit suorittaa enemmän työkuormia samassa infrastruktuurissa jakamalla GPU-resursseja.
* **Yksinkertaistaa resurssien hallintaa:** Virtaviivaistaa grafiikkasuorittimen resurssien kohdistamista erilaisiin työkuormiin, joissa on vaihtelevia vaatimuksia.
* **Parantaa käyttöastetta:** Maksimoi grafiikkasuorittimien käytön vähentäen joutoaikaa ja lisäämällä tehokkuutta.

GPU-solmut

Run:ai tukee laajaa valikoimaa GPU-solmuja johtavilta toimittajilta, mukaan lukien NVIDIA, AMD ja Intel. Tämä varmistaa yhteensopivuuden useiden laitteistokokoonpanojen kanssa ja antaa organisaatioille mahdollisuuden hyödyntää olemassa olevaa infrastruktuuria tai valita sopivimmat GPU:t omiin tarpeisiinsa.

CPU-solmut

GPU-solmujen lisäksi Suorita :ai tukee myös CPU-solmuja tehtäviin, jotka eivät vaadi GPU-kiihdytystä. Tämän ansiosta organisaatiot voivat hyödyntää olemassa olevaa suoritininfrastruktuuria tai käyttää kustannustehokkaampia suoritinresursseja tiettyihin tehtäviin.

Tallennus

Run:ai integroituu useisiin tallennusratkaisuihin, kuten NFS, GlusterFS, ceph , ja paikalliset levyt. Tämän joustavuuden ansiosta organisaatiot voivat valita tallennusratkaisun, joka vastaa parhaiten niiden suorituskykyä, skaalautuvuutta ja kustannusvaatimuksia.

Verkko

Run:ai on suunniteltu toimimaan tehokkaasti suuren kaistanleveyden verkoissa, mahdollistaa tehokkaan tiedonsiirron solmujen välillä ja hajautetun tekoälyn työkuormien suorittamisen. Run:ai:ta voidaan käyttää myös ilmarakoisissa ympäristöissä, joissa ei ole Internet-yhteyttä, mikä varmistaa arkaluontoisten tietojen turvallisuuden ja eristämisen.

Muistikirjat pyynnöstä

Run:ai:n kannettavat tietokoneet on Demand -ominaisuuden avulla käyttäjät voivat käynnistää valmiiksi määritettyjä työtiloja suosikkityökaluillaan ja -kehysillään, mukaan lukien Jupyter Notebook, PyCharm ja VS Code. Tämä:
* **Yksinkertaistaa asennusta:** Käynnistä työtilat nopeasti ilman, että sinun tarvitsee asentaa riippuvuuksia manuaalisesti.
* **Varmistaa johdonmukaisuuden:** Tarjoaa yhtenäiset ympäristöt tiimeille ja projekteille.
* **Tehostaa yhteistyötä:** Jaa ja tee yhteistyötä työtiloissa saumattomasti tiimin jäsenten kanssa.

Koulutus ja hienosäätö

Run:ai yksinkertaistaa AI-mallien harjoittelua ja hienosäätöä:
* **Jonotöitä:** Ajoita ja suorita erätöitä koulutustöitä yhdellä komentorivillä.
* **Hajautettu koulutus:** Kouluta malleja tehokkaasti suurissa tietojoukoissa useiden grafiikkasuorittimien välillä.
* **Mallin optimointi:** Optimoi harjoitusparametrit ja hyperparametrit suorituskyvyn parantamiseksi.

Yksityiset LLM:t

Run:ai:n avulla käyttäjät voivat ottaa käyttöön ja hallita omia yksityisiä LLM:iään, räätälöityjä malleja, joita voidaan käyttää tietyissä sovelluksissa. Tämä mahdollistaa:
* **Mallin käyttöönotto:** Ota LLM-malleja käyttöön johtopäätöksiä varten ja luo henkilökohtaisia ​​vastauksia.
* **Mallien hallinta:** Tallenna, versio ja hallinnoi LLM-malleja helpon pääsyn ja päivitysten saavuttamiseksi.
* **Tietojen tietosuoja:** Pidä käyttäjätiedot luottamuksellisina ja turvassa organisaation infrastruktuurissa.

NVIDIA & Run:ai Bundle

Run:ai ja NVIDIA ovat tehneet yhteistyötä tarjotakseen täysin integroidun ratkaisun DGX-järjestelmille, joka tarjoaa tehokkaimman täyden pinon ratkaisun tekoälyn työkuormille. Tämä paketti:
* **Optimoi DGX:n suorituskyvyn:** Hyödynnä Run:ai:n ominaisuuksia DGX-laitteiston käytön ja suorituskyvyn maksimoimiseksi.
* **Yksinkertaistaa hallintaa:** Tarjoaa yhden alustan DGX-resurssien ja tekoälyn työkuormien hallintaan.
* **Nopeuttaa tekoälyn kehitystä:** Antaa organisaatioille mahdollisuuden nopeuttaa tekoälyaloitteitaan yhtenäisellä ratkaisulla.

Ota käyttöön omassa infrastruktuurissasi; Pilvi. On-Prem. Air-Gapped.

Run:ai tukee monenlaisia ​​käyttöönottoympäristöjä tarjoten joustavia vaihtoehtoja organisaatioille, joilla on erilaiset infrastruktuurivaatimukset. Tämä sisältää:
* **Pilvikäyttöönotot:** Ota Run:ai käyttöön suurissa pilvipalveluntarjoajissa, kuten AWS, Azure ja Google Cloud, jolloin voit hyödyntää heidän palvelujaan ja resurssejaan.
* **Paikalliset käyttöönotot:** Ota Run:ai käyttöön omassa laitteistoinfrastruktuurissasi, mikä mahdollistaa täydellisen hallinnan tekoälyympäristöäsi.
* **Ilmarakoiset käyttöönotot:** Ota Run:ai käyttöön eristetyissä ympäristöissä, joissa ei ole Internet-yhteyttä, mikä varmistaa tietojesi turvallisuuden ja eheyden.

Kaikki ML-työkalut ja -kehykset

Run:ai on suunniteltu toimimaan useiden koneoppimistyökalujen ja -kehysten kanssa, mukaan lukien:
* **TensorFlow:** Suorita ja hallita TensorFlow-työkuormia tehokkaasti.
* **PyTorch:** Ota käyttöön ja optimoi PyTorch-malleja harjoittelua ja päätelmiä varten.
* **JAX:** Käytä JAX:ia tehokkaisiin tekoälylaskelmiin.
* **Keras:** Rakenna ja kouluta Keras-malleja saumattomasti.
* **Scikit-learn:** Käytä Scikit-learnia koneoppimistehtäviin.
* **XGBoost:** Hyödynnä XGBoostia gradienttitehostusalgoritmeihin.
* **LightGBM:** Ota LightGBM käyttöön tehokkaaseen gradientin tehostamiseen.
* **CatBoost:** Käytä CatBoostia vahvaan kaltevuuden tehostamiseen.

Kaikki Kubernetes

Run:ai integroituu saumattomasti Kubernetesiin, johtavaan konttien orkestrointialustaan. Tämä varmistaa yhteensopivuuden olemassa olevien Kubernetes-ympäristöjen kanssa ja antaa organisaatioille mahdollisuuden hyödyntää sen etuja, kuten:
* **Automaattinen skaalaus:** Skaalaa AI-työkuormia dynaamisesti kysynnän mukaan.
* **Korkea saatavuus:** Varmista, että tekoälyn työkuormat ovat käytettävissä, vaikka yksittäiset solmut epäonnistuvat.
* **Säilölliset käyttöönotot:** Käytä tekoälyn työkuormia konteina, mikä edistää siirrettävyyttä ja toistettavuutta.

Anywhere

Run:ai on suunniteltu käytettäväksi kaikkialla, mikä tarjoaa joustavuutta organisaatioille, joilla on erilaisia ​​infrastruktuuritarpeita. Tämä sisältää:
* **Tietokeskukset:** Ota Run:ai käyttöön omissa palvelinkeskuksissasi maksimaalisen hallinnan ja turvallisuuden takaamiseksi.
* **Pilvipalveluntarjoajat:** Ota Run:ai käyttöön suurimmilla pilvipalveluntarjoajilla skaalautuvuuden ja joustavuuden vuoksi.
* **Edge-laitteet:** Ota Run:ai käyttöön reunalaitteissa reaaliaikaisia ​​tekoälysovelluksia varten.

Kaikki infrastruktuurit

Run:ai tukee laajaa valikoimaa infrastruktuurikomponentteja, joiden avulla voit rakentaa ihanteellisen tekoälyympäristösi:
* **GPU:t:** Hyödynnä korkeaa suorituskykyä GPU:t johtavilta toimittajilta, kuten NVIDIA, AMD ja Intel.
* **CPU:t:** Käytä suorittimia tehtäviin, jotka eivät vaadi GPU-kiihdytystä.
* **ASIC:t:** Integroi ASIC:t erikoistehtäviin, kuten koneoppimispäättelyyn.
* **Tallennus:** Valitse tallennusratkaisut, jotka vastaavat parhaiten suorituskykyäsi, skaalautuvuuttasi ja kustannusvaatimuksiasi.
* **Verkkotoiminta:** Ota Run:ai käyttöön suuren kaistanleveyden verkoissa tehokkaan tiedonsiirron ja hajautetun työmäärän saavuttamiseksi.