Roihun large- ja gpularge-osioiden käyttöoikeuden hakeminen

Projektit, joissa ajetaan hyvin skaalautuvia koodeja, voivat hakea käyttöoikeutta Roihu-CPU:n large-osioon (6–60 solmua) hakemalla sitä MyCSC:ssä. Käyttöoikeus Roihu-GPU:n gpularge-osioon (1–10 solmua) haetaan samalla tavalla.

Ensin haetaan 30 päivän testijaksoa large- tai gpularge-osioon. Toiseksi testijakson aikana koodin skaalautuvuus ja rinnakkaissuorituskyky osoitetaan sopivilla testiajoilla. Lopuksi projektin vastuuhenkilö toimittaa tulokset CSC:lle arvioitavaksi.

Prosessi on kuvattu yksityiskohtaisesti alla.

Testikäyttöoikeus Roihun large-osioon

Pyytääksesi 30 päivän testijaksoa toimi seuraavasti:

Kirjaudu MyCSC:hen ja valitse Projects-valikosta projekti, jota haluat muokata.
Avaa Services-listassa Roihu-palvelun asetukset napsauttamalla Configure. Tämä avaa sivun, jolla projektin vastuuhenkilö voi muokata levykiintiöiden asetuksia (Quota settings) ja pyytää käyttöoikeutta large- tai gpularge-osioon kohdissa Large partition settings ja GPU Large partition settings. Avaa Large partition settings.
Napsauta Apply for trial access -painiketta. Kun käyttöoikeus on myönnetty, voit lähettää töitä large- tai gpularge-osioon.

Välitön käyttöoikeus large-/gpularge-osioihin

Heti kun napsautat Apply for trial access -painiketta, saat testikäyttöoikeuden large-osioon. Huomaa, että alla kuvatun osion mukaisia skaalautuvuustuloksia odotetaan 30 päivän kuluttua tästä.

Hae käyttöoikeutta large-osioon vasta sitten, kun tiedät pystyväsi tuottamaan sitä käyttäen skaalautuvuusraportin seuraavien 30 päivän aikana.

Hakemuksen jälkeen CSC ottaa sinuun yhteyttä seuraavien päivien aikana auttaakseen ymmärtämään ohjelmasi ajoaikaisia ominaisuuksia ja tunnistamaan mahdollisia pullonkauloja sen suorituksessa. Sähköpostitse käytävän alustavan keskustelun perusteella voit joko kieltäytyä jatkotuesta tai jatkaa yhteistyötä CSC:n kanssa, jotta ymmärtäisit paremmin rinnakkaissovelluksesi laskentaresurssien käyttöä, kuten muistinkäyttöä sekä CPU:n tai GPU:n käyttöastetta ajon aikana.

Katso lisätietoja CSC:n koodinoptimointipalvelusta.

Skaalautuvuustestaus

Toisessa vaiheessa tehdään testiajoja, joilla osoitetaan skaalautuvuus. Tässä on joitakin yleisiä ohjeita skaalautuvuustestaukseen.

Testaus tulee tehdä vähintään kolmella eri solmumäärällä aina tuotannon tavoitetasoon asti (esimerkiksi 10, 20, 30 ja 40 solmulla Roihu-CPU:ssa tai 1–10 solmulla Roihu-GPU:ssa).
- Valitse pienin solmumäärä pienimmäksi arvoksi, jolla syötedatasi voidaan tallentaa solmuille.
- Syötedatan on oltava sama kaikissa ajoissa.
Testit on ajettava Roihussa Slurmin eräajojärjestelmän kautta.
Testiajojen tulee vastata todellisia tuotantoajoja. Esimerkiksi atomien määrä, hilapisteiden määrä, levy-I/O-kuorma ja muiden olennaisten parametrien tulee olla samankaltaisia kuin tuotannossa käytettävät.
Skaalautuvuustestauksessa sinun ei kuitenkaan odoteta esittelevän ohjelmasi täysiä tuotantoajoja. Valitse testiajo, jossa ajat lyhyen työn minimoimalla esimerkiksi aika-askelten, iteraatioiden jne. määrän, jonka työsi suorittaa.
- Ajoajan tulee silti olla riittävän pitkä, jotta alustaminen ei vaikuta tuloksiin merkittävästi. Tyypillisesti muutama minuutti lyhimmälle ajoajalle (suurin solmumäärä) on sopiva.
- Erityisesti joissakin AI/ML-työvuoissa alustamisvaihe voi kestää pitkään. Valitse parametrisi niin, että alustamisvaihe ei hallitse kokonaisajoaikaa ja että alustamisen jälkeinen ajoaika on riittävän pitkä.
Skaalautuvuuteen vaikuttavia parametreja voidaan muuttaa, ja siihen myös kannustetaan. Katso myös suorituskyvyn tarkistuslista.
Vähimmäisvaatimus on 75 % rinnakkaistehokkuus.
- Tämä tarkoittaa 1,5-kertaista nopeutusta, kun solmujen määrä kaksinkertaistetaan.
- Rinnakkaistehokkuus kuvataan seuraavalla kaavalla:
  - , jossa
  - p_b on prosessointiyksiköiden määrä peruskokoonpanossa
  - p_N on prosessointiyksiköiden määrä skaalatussa tapauksessa, jossa on N solmua
  - T_b on suoritukseen käytetty kokonaisaika peruskokoonpanossa
  - T_N on suoritukseen käytetty kokonaisaika skaalatussa tapauksessa, jossa on N solmua

Päästäksesi alkuun ohjelmasi ajoaikaisten ominaisuuksien keräämisessä, katso CSC:n dokumentaatio suorituskykyanalyysistä.

Raportointi

Skaalautuvuusraportin tulee sisältää:

Lyhyt kuvaus ohjelmistosta ja testitapauksesta
- Jos ohjelmistoa ei ole esiasennettu CSC:llä, sinun odotetaan myös kuvaavan lyhyesti ohjelmistossa käytetyn rinnakkaistamisstrategian sekä sisällyttävän tiedot ohjelman I/O-toteutuksesta ja kuormasta ajon aikana
Seinäkelloajat jokaiselle solmumäärälle testitapauksessasi
- Jos haet käyttöoikeutta gpularge-osioon, sinun tulee myös esittää GPU:n käyttöaste ohjelman ajoajan aikana.
Edustava eräajotyön skripti (liitteenä tai vapaamuotoisessa perustelussa)

Lisäksi, jos sovellus ajettiin hybridillä MPI/OpenMP-rinnakkaistuksella, liitä mukaan yhden ajon stderr, jossa käytetään seuraavia asetuksia:

export OMP_AFFINITY_FORMAT="Process %P level %L thread %0.3n affinity %A"
export OMP_DISPLAY_AFFINITY=true

Testiajojen tulosten tai soveltuvan aiemman skaalautuvuusdatan raportointi tehdään MyCSC-portaalissa seuraavasti:

Kirjaudu MyCSC:hen ja valitse Projects-valikosta projekti, jota haluat muokata.
Avaa Services-listassa Roihu-palvelun asetukset (Configure). Tämä avaa sivun, jolla projektin vastuuhenkilö voi muokata levykiintiöiden asetuksia (Quota settings) ja pyytää käyttöoikeutta large-osioon (Large partition settings). Avaa Large partition settings.
Tuloksia ja perusteluja varten on tekstikenttä sekä mahdollisuus liittää asiakirjoja (muista ladata asiakirjat palveluun sen jälkeen, kun olet valinnut ne). Liitteitä voi olla useita. Lähetä lopuksi perustelu.
CSC:n asiantuntijat arvioivat tulokset ja myöntävät tuotantokäyttöoikeuden large- tai gpularge-osioon. Jos koodin suorituskyvyssä on ongelma, projektin vastuuhenkilöön otetaan yhteyttä.

Tuki

CSC:n asiantuntijat voivat tarvittaessa auttaa käyttäjiä tekemään skaalautuvuustestejä, ja voivat myös antaa neuvoja ohjelmistojen suorituskyvyn parantamiseen. Ota yhteyttä CSC:n Service Deskiin, jos tarvitset apua ohjelmistosi kanssa.