Roihu-supertietokone
Aikataulu
graph LR;
A{{"<b>September 2025</b>
Roihun asennus
käynnissä"}} --> B;
B{{"<b>April 2026</b>
Pilot phase
starts"}} --> C;
C{{"<b>June 2026</b>
Roihun yleinen
saatavuus (GA)"}} --> D;
D{{"<b>End of July 2026</b>
Puhdin <i>laskenta-
palvelut</i> päättyvät"}} --> E;
E{{"<b>End of August 2026</b>
Mahdin <i>laskenta-
palvelut</i> päättyvät"}} --> F;
F{{"<b>Mid October 2026</b>
Puhdin <i>tallennus-
palvelut</i> päättyvät"}} --> G;
G{{"<b>Mid October 2026</b>
Mahdin <i>tallennuspalvelut</i>
päättyvät"}}
style A fill:#dceeceff;
style B fill:#dceeceff;
style C fill:#dceeceff;
style D fill:#dceeceff;
style E fill:#dceeceff;
style F fill:#dceeceff;
style G fill:#dceeceff;
Puhti ja Mahti on poistettu käytöstä 15.10.2026 alkaen, eikä niihin ole enää pääsyä.
Laskenta
Roihussa on yhteensä 486 CPU-solmua ja 132 GPU-solmua. Suorituskykyisen LINPACKin (HPL) suorituskyvyn arvioidaan olevan CPU-solmuille 10,5 PFlop/s ja GPU-solmuille 23,4 PFlop/s, jolloin koko järjestelmän yhteenlaskettu HPL-suorituskyky on 33,9 PFlop/s.
CPU-solmuissa on kussakin kaksi 192-ytimistä AMD Turin 9965 -prosessoria, eli yhteensä 186 624 CPU-ydintä. Prosessorit perustuvat AMD Zen 5 -arkkitehtuuriin, joka tukee AVX-512-vektorikäskykantaa. CPU-solmuista 414:ssä on 768 GiB muistia, kun taas lopuissa 72 solmussa on laajennettu muisti, 1 536 GiB kussakin.
Jokainen GPU-solmu on varustettu neljällä Nvidia GH200 Grace Hopper -supersirulla. Kukin GH200-supersiru sisältää yhden Hopper (H100) -GPU:n ja yhden Grace-CPU:n, jossa on 72 ARM-CPU-ydintä ja jotka on yhdistetty erittäin nopealla liitännällä. Jokaisessa GH200-supersirussa on 120 GiB CPU-muistia ja 96 GiB GPU-muistia, joten solmukohtainen CPU-muistin kokonaismäärä on 480 GiB. Tämä tarkoittaa yhteensä 528 GPU:ta ja 38 016 CPU-ydintä koko GPU-osiossa.
Järjestelmä tarjoaa myös neljä visualisointisolmua, joissa on kussakin kaksi Nvidia L40 -GPU:ta, sekä neljä suuren muistin CPU-solmua, joissa on 6 TiB muistia ja parempi yhden säikeen suorituskyky.
Solmut
Solmujen nimet
Alla olevat solmujen nimet kuvaavat Roihun eri solmutyyppejä. Slurmin eräajon osiot ja allokaatiotyypit voivat käyttää eri nimiä. Katso Slurmin osioiden dokumentaatio saadaksesi lisätietoja siitä, miten näitä resursseja pyydetään Slurmissa.
| Name | Number of nodes | Compute | Cores | Memory (GiB) | Local disk (TB) |
|---|---|---|---|---|---|
| M | 414 | AMD Turin 9965 | 2 x 192 cores (x86) @ 2.25 GHz | 768 | 0.96 |
| L | 72 | AMD Turin 9965 | 2 x 192 cores (x86) @ 2.25 GHz | 1536 | 0.96 |
| XL | 4 | AMD Turin 9555 | 2 x 64 cores (x86) @ 3.20 GHz | 6144 | 15.36 |
| V | 4 | AMD Turin 9335 Nvidia L40 |
2 x 32 cores (x86) @ 3.40 GHz 2 x GPUs |
384 2 x 48 |
15.36 |
| GPU | 132 | Nvidia GH200 | 4 x 72 cores (ARM) 4 x GPUs |
4 x 120 4 x 96 |
0.96 |
CPU- ja GPU-solmujen CPU-arkkitehtuurien erojen vuoksi (x86 ja ARM)
Roihussa on erilliset kirjautumissolmut CPU- ja GPU-työkuormille:
roihu-cpu.csc.fi ja roihu-gpu.csc.fi.
Sen mukaan, kohdistuuko työkuormasi CPU:ille vai GPU:ille, yhdistä oikeaan kirjautumissolmuun ohjelmistojen asentamista tai töiden lähettämistä varten. Lisätietoja yhdistämisestä.
Roihun käyttöjärjestelmä on Red Hat Enterprise Linux 9 (RHEL9).
Tallennus
Rinnakkainen tiedostojärjestelmä
Roihussa on kaksi toisistaan riippumatonta flash-pohjaista DDN EXAScaler Lustre -tiedostojärjestelmää – 6,0 PiB:n Scratch-tila ja 0,5 PiB:n tallennusjärjestelmä projektien sovelluksille ja käyttäjien henkilökohtaisille Home-hakemistoille. Erilliset tiedostojärjestelmät varmistavat Home- ja ProjAppl-alueiden hyvän vasteajan myös silloin, kun Scratch on kovassa käytössä.
Roihu Scratchin huippu-I/O-suorituskyky on noin 560 GB/s lukemisessa ja 280 GB/s kirjoittamisessa. Home- ja ProjAppl-levyalueiden luku- ja kirjoituskaistat ovat vastaavasti 120 GB/s ja 100 GB/s.
Roihu Scratch -levyltä poistetaan säännöllisesti tiedostoja, joita ei ole käytetty viimeisen 180 päivän aikana (90 päivää projekteille, joiden scratch-kiintiö on 5 TiB tai enemmän), jotta järjestelmään ei kertyisi passiivista dataa.
Roihu tarjoaa myös erillisen Dataset-levyalueen aktiivisesti käytetyille
aineistoille, jotka täytyy jakaa useiden laskentaprojektien kesken.
Aineistoprojekti tarjoaa yhteisen levyalueen yhteisille aineistoille polussa
/dataset/<dataset-project-id>, mikä auttaa välttämään päällekkäisiä kopioita
ja yksinkertaistaa projektien välistä käyttöoikeuksien hallintaa.
Katso lisätiedot Roihu-aineistoprojektista.
Paikallisen tallennuksen kapasiteetti
Jokainen Roihun CPU- ja GPU-solmu tarjoaa 960 GB paikallista NVMe-tallennustilaa ajojen aikana luotaville väliaikaistiedostoille.
Suuren muistin (XL) ja visualisointi- (VIZ) solmut tarjoavat lisää kapasiteettia ja nopeamman suorituskyvyn paikallisessa tallennuksessaan, yhteensä 13 TiB paikallista NVMe-tallennustilaa solmua kohden.
Solmukohtaista tallennusta on kahdenlaista. Automaattinen väliaikaistallennus
($TMPDIR) on käytettävissä jokaisessa ajossa ilman varausta ja maksutta.
Varattava paikallinen scratch ($LOCAL_SCRATCH) on käytettävissä vain
XL- ja V-solmuissa, varataan Slurmin --gres=nvme-valinnalla ja kuluttaa
laskutusyksiköitä (BUs). Määrät, joita yksittäinen käyttäjä voi käyttää
ajoissaan, riippuvat käytetystä järjestelmän osiosta:
| Allocation type | Available per user | Read / Write speeds |
|---|---|---|
| R (shared nodes) | 20 GiB | 5000 / 1400 MB/s |
| N (full nodes) | 600 GiB | 5000 / 1400 MB/s |
| G (GPU nodes) | 150 GiB | 5000 / 1400 MB/s |
| Hugemem (XL) nodes | 578 GiB | 6700 / 4000 MB/s |
| V (visualization nodes) | 14 TiB | 6700 / 4000 MB/s |
| Node type | Maximum reservable | Read / Write speeds |
|---|---|---|
| Hugemem (XL) nodes | 13 TiB | 6700 / 4000 MB/s |
| V (visualization nodes) | 6.5 TiB per user | 6700 / 4000 MB/s |
Varattavaa paikallista scratchia ei ole vielä toteutettu visualisointisolmuissa (V).
Kunnes se on saatavilla, näiden solmujen ajot voivat käyttää yllä esitettyä koko
$TMPDIR-allokaatiota.
Kun varattava paikallinen scratch on toteutettu, visualisointisolmujen
käyttäjäkohtaisesti saatavilla olevan $TMPDIR:n määrää pienennetään.
Käyttäjät voivat myös pyytää väliaikaista tallennustilaa jaetusta eriytettyjen NVMe-resurssien poolista, joka tarjoaa noin 180 TB kokonaiskäyttökelpoista kapasiteettia. Tallennustilaa käytetään verkon yli, ja se näkyy paikallisena scratch-tallennuksena Slurm-ajon sisällä. Katso lisätiedot Roihun levyalueiden dokumentaatiosta.
Verkko
Roihun verkko perustuu InfiniBand NDR -yhteenliitäntään. Jokainen CPU-solmu on kytketty verkkoon yhdellä 200 Gb/s linkillä, kun taas GPU-osiossa solmua kohden on neljä 200 Gb/s linkkiä, yksi kutakin GPU:ta kohti.
Ohjelmistot ja ohjelmointiympäristö
Tarjoamme Roihussa kattavan valikoiman valmiiksi asennettuja HPC-kirjastoja ja tieteellisiä ohjelmistoja. Ohjeet sovellusten asentamiseen löytyvät Roihun käytön aloitusoppaasta
Roihun ohjelmointiympäristö sisältää:
- GNU-kääntäjäpinon
- AOCC-kääntäjäpinon
- CUDA:n ja NVIDIA HPC Software Development Kitin (SDK)
- OpenMPI:n pääasiallisena MPI-kirjastona
Roihussa on myös selainkäyttöliittymä helppokäyttöiseen interaktiiviseen käyttöön ja graafisten käyttöliittymien ajamiseen.
Luettelo Roihussa tällä hetkellä tuetuista sovelluksista löytyy sovellussivulta.
Sensitiivisen datan palvelut Roihussa
CSC:n supertietokoneita, mukaan lukien Roihu, ylläpidetään HPC-hallinnan parhaiden käytäntöjen mukaisesti: prosessit suunnitellaan ja dokumentoidaan, järjestelmiä valvotaan jatkuvasti ja tietoturvapäivitykset asennetaan ilman viivettä. Lisäksi kaikki käyttäjät kirjautuvat sisään kaksivaiheisella tunnistautumisella. Näin ollen nämä ympäristöt ovat lähtökohtaisesti varsin turvallisia. CSC ei kuitenkaan voi taata, ettei tietomurron riskiä ole, sillä uusia tietoturvapoikkeamia ilmenee ajoittain.
Käyttötapauksia varten, jotka vaativat korkeampaa turvallisuustasoa, Roihua kehitetään tukemaan työnkulkuja, jotka edellyttävät tehostettuja valvontatoimia sensitiivisen datan ja luottamuksellisen datan käsittelyyn. Roihuun tulee erityisiä ominaisuuksia säänneltyjen datatyövuoiden tueksi.
Sensitiivisen datan ominaisuudet otetaan käyttöön Roihun alkuvaiheen saatavuuden jälkeen. Sensitiivisen laskentaympäristön pilottikäytön arvioidaan tällä hetkellä alkavan syksyllä 2026, ja yleinen saatavuus voisi seurata alkuvuonna 2027 pilotointivaiheen tuloksista ja kokemuksista riippuen.
Käyttäjän työvuon odotetaan muistuttavan CSC:n nykyistä Sensitive Data Desktop -to-HPC job submission -mallia, jossa sensitiivisen datan ajot lähetetään suojatusta ympäristöstä (SD Desktop) ja syöte-/tulostedata käsitellään suojattujen datapalvelujen kautta (SD Connect). Ajot suoritetaan ajokohtaisissa eristetyissä ympäristöissä, joilla ei ole pääsyä internetiin eikä Roihun jaetuille levyalueille.
Lue lisää CSC:n sensitiivisen datan palveluista.
Lisätietoja
- Roihun käytön aloittaminen
- Usein kysytyt kysymykset
- Katso uusimmat Roihu-esityskalvot (päivitetty 2026-06-15)
- Onko sinulla kysyttävää Roihusta? Ole hyvä ja ota yhteyttä CSC:n asiakastukeen, autamme mielellämme!
