Hyppää sisältöön

Roihu-supertietokone

Aikataulu

graph LR;
    A{{"<b>September 2025</b>
        Roihun asennus
        käynnissä"}} --> B;
    B{{"<b>April 2026</b>
        Pilot phase
        starts"}} --> C;
    C{{"<b>June 2026</b>
        Roihun yleinen
        saatavuus (GA)"}} --> D;
    D{{"<b>End of July 2026</b>
        Puhdin <i>laskenta-
        palvelut</i> päättyvät"}} --> E;
    E{{"<b>End of August 2026</b>
        Mahdin <i>laskenta-
        palvelut</i> päättyvät"}} --> F;
    F{{"<b>Mid October 2026</b>
        Puhdin <i>tallennus-
        palvelut</i> päättyvät"}} --> G;
    G{{"<b>Mid October 2026</b>
        Mahdin <i>tallennuspalvelut</i>
        päättyvät"}}
    style A fill:#dceeceff;
    style B fill:#dceeceff;
    style C fill:#dceeceff;
    style D fill:#dceeceff;
    style E fill:#dceeceff;
    style F fill:#dceeceff;
    style G fill:#dceeceff;

Puhti ja Mahti on poistettu käytöstä 15.10.2026 alkaen, eikä niihin ole enää pääsyä.

Laskenta

Roihussa on yhteensä 486 CPU-solmua ja 132 GPU-solmua. Suorituskykyisen LINPACKin (HPL) suorituskyvyn arvioidaan olevan CPU-solmuille 10,5 PFlop/s ja GPU-solmuille 23,4 PFlop/s, jolloin koko järjestelmän yhteenlaskettu HPL-suorituskyky on 33,9 PFlop/s.

CPU-solmuissa on kussakin kaksi 192-ytimistä AMD Turin 9965 -prosessoria, eli yhteensä 186 624 CPU-ydintä. Prosessorit perustuvat AMD Zen 5 -arkkitehtuuriin, joka tukee AVX-512-vektorikäskykantaa. CPU-solmuista 414:ssä on 768 GiB muistia, kun taas lopuissa 72 solmussa on laajennettu muisti, 1 536 GiB kussakin.

Jokainen GPU-solmu on varustettu neljällä Nvidia GH200 Grace Hopper -supersirulla. Kukin GH200-supersiru sisältää yhden Hopper (H100) -GPU:n ja yhden Grace-CPU:n, jossa on 72 ARM-CPU-ydintä ja jotka on yhdistetty erittäin nopealla liitännällä. Jokaisessa GH200-supersirussa on 120 GiB CPU-muistia ja 96 GiB GPU-muistia, joten solmukohtainen CPU-muistin kokonaismäärä on 480 GiB. Tämä tarkoittaa yhteensä 528 GPU:ta ja 38 016 CPU-ydintä koko GPU-osiossa.

Järjestelmä tarjoaa myös neljä visualisointisolmua, joissa on kussakin kaksi Nvidia L40 -GPU:ta, sekä neljä suuren muistin CPU-solmua, joissa on 6 TiB muistia ja parempi yhden säikeen suorituskyky.

Solmut

Solmujen nimet

Alla olevat solmujen nimet kuvaavat Roihun eri solmutyyppejä. Slurmin eräajon osiot ja allokaatiotyypit voivat käyttää eri nimiä. Katso Slurmin osioiden dokumentaatio saadaksesi lisätietoja siitä, miten näitä resursseja pyydetään Slurmissa.

Name Number of nodes Compute Cores Memory (GiB) Local disk (TB)
M 414 AMD Turin 9965 2 x 192 cores (x86) @ 2.25 GHz 768 0.96
L 72 AMD Turin 9965 2 x 192 cores (x86) @ 2.25 GHz 1536 0.96
XL 4 AMD Turin 9555 2 x 64 cores (x86) @ 3.20 GHz 6144 15.36
V 4 AMD Turin 9335
Nvidia L40
2 x 32 cores (x86) @ 3.40 GHz
2 x GPUs
384
2 x 48
15.36
GPU 132 Nvidia GH200 4 x 72 cores (ARM)
4 x GPUs
4 x 120
4 x 96
0.96

CPU- ja GPU-solmujen CPU-arkkitehtuurien erojen vuoksi (x86 ja ARM) Roihussa on erilliset kirjautumissolmut CPU- ja GPU-työkuormille: roihu-cpu.csc.fi ja roihu-gpu.csc.fi.

Sen mukaan, kohdistuuko työkuormasi CPU:ille vai GPU:ille, yhdistä oikeaan kirjautumissolmuun ohjelmistojen asentamista tai töiden lähettämistä varten. Lisätietoja yhdistämisestä.

Roihun käyttöjärjestelmä on Red Hat Enterprise Linux 9 (RHEL9).

Tallennus

Rinnakkainen tiedostojärjestelmä

Roihussa on kaksi toisistaan riippumatonta flash-pohjaista DDN EXAScaler Lustre -tiedostojärjestelmää – 6,0 PiB:n Scratch-tila ja 0,5 PiB:n tallennusjärjestelmä projektien sovelluksille ja käyttäjien henkilökohtaisille Home-hakemistoille. Erilliset tiedostojärjestelmät varmistavat Home- ja ProjAppl-alueiden hyvän vasteajan myös silloin, kun Scratch on kovassa käytössä.

Roihu Scratchin huippu-I/O-suorituskyky on noin 560 GB/s lukemisessa ja 280 GB/s kirjoittamisessa. Home- ja ProjAppl-levyalueiden luku- ja kirjoituskaistat ovat vastaavasti 120 GB/s ja 100 GB/s.

Roihu Scratch -levyltä poistetaan säännöllisesti tiedostoja, joita ei ole käytetty viimeisen 180 päivän aikana (90 päivää projekteille, joiden scratch-kiintiö on 5 TiB tai enemmän), jotta järjestelmään ei kertyisi passiivista dataa.

Roihu tarjoaa myös erillisen Dataset-levyalueen aktiivisesti käytetyille aineistoille, jotka täytyy jakaa useiden laskentaprojektien kesken. Aineistoprojekti tarjoaa yhteisen levyalueen yhteisille aineistoille polussa /dataset/<dataset-project-id>, mikä auttaa välttämään päällekkäisiä kopioita ja yksinkertaistaa projektien välistä käyttöoikeuksien hallintaa.

Katso lisätiedot Roihu-aineistoprojektista.

Paikallisen tallennuksen kapasiteetti

Jokainen Roihun CPU- ja GPU-solmu tarjoaa 960 GB paikallista NVMe-tallennustilaa ajojen aikana luotaville väliaikaistiedostoille.

Suuren muistin (XL) ja visualisointi- (VIZ) solmut tarjoavat lisää kapasiteettia ja nopeamman suorituskyvyn paikallisessa tallennuksessaan, yhteensä 13 TiB paikallista NVMe-tallennustilaa solmua kohden.

Solmukohtaista tallennusta on kahdenlaista. Automaattinen väliaikaistallennus ($TMPDIR) on käytettävissä jokaisessa ajossa ilman varausta ja maksutta. Varattava paikallinen scratch ($LOCAL_SCRATCH) on käytettävissä vain XL- ja V-solmuissa, varataan Slurmin --gres=nvme-valinnalla ja kuluttaa laskutusyksiköitä (BUs). Määrät, joita yksittäinen käyttäjä voi käyttää ajoissaan, riippuvat käytetystä järjestelmän osiosta:

Allocation type Available per user Read / Write speeds
R (shared nodes) 20 GiB 5000 / 1400 MB/s
N (full nodes) 600 GiB 5000 / 1400 MB/s
G (GPU nodes) 150 GiB 5000 / 1400 MB/s
Hugemem (XL) nodes 578 GiB 6700 / 4000 MB/s
V (visualization nodes) 14 TiB 6700 / 4000 MB/s
Node type Maximum reservable Read / Write speeds
Hugemem (XL) nodes 13 TiB 6700 / 4000 MB/s
V (visualization nodes) 6.5 TiB per user 6700 / 4000 MB/s

Varattavaa paikallista scratchia ei ole vielä toteutettu visualisointisolmuissa (V). Kunnes se on saatavilla, näiden solmujen ajot voivat käyttää yllä esitettyä koko $TMPDIR-allokaatiota.

Kun varattava paikallinen scratch on toteutettu, visualisointisolmujen käyttäjäkohtaisesti saatavilla olevan $TMPDIR:n määrää pienennetään.

Käyttäjät voivat myös pyytää väliaikaista tallennustilaa jaetusta eriytettyjen NVMe-resurssien poolista, joka tarjoaa noin 180 TB kokonaiskäyttökelpoista kapasiteettia. Tallennustilaa käytetään verkon yli, ja se näkyy paikallisena scratch-tallennuksena Slurm-ajon sisällä. Katso lisätiedot Roihun levyalueiden dokumentaatiosta.

Verkko

Roihun verkko perustuu InfiniBand NDR -yhteenliitäntään. Jokainen CPU-solmu on kytketty verkkoon yhdellä 200 Gb/s linkillä, kun taas GPU-osiossa solmua kohden on neljä 200 Gb/s linkkiä, yksi kutakin GPU:ta kohti.

Ohjelmistot ja ohjelmointiympäristö

Tarjoamme Roihussa kattavan valikoiman valmiiksi asennettuja HPC-kirjastoja ja tieteellisiä ohjelmistoja. Ohjeet sovellusten asentamiseen löytyvät Roihun käytön aloitusoppaasta

Roihun ohjelmointiympäristö sisältää:

  • GNU-kääntäjäpinon
  • AOCC-kääntäjäpinon
  • CUDA:n ja NVIDIA HPC Software Development Kitin (SDK)
  • OpenMPI:n pääasiallisena MPI-kirjastona

Roihussa on myös selainkäyttöliittymä helppokäyttöiseen interaktiiviseen käyttöön ja graafisten käyttöliittymien ajamiseen.

Luettelo Roihussa tällä hetkellä tuetuista sovelluksista löytyy sovellussivulta.

Sensitiivisen datan palvelut Roihussa

CSC:n supertietokoneita, mukaan lukien Roihu, ylläpidetään HPC-hallinnan parhaiden käytäntöjen mukaisesti: prosessit suunnitellaan ja dokumentoidaan, järjestelmiä valvotaan jatkuvasti ja tietoturvapäivitykset asennetaan ilman viivettä. Lisäksi kaikki käyttäjät kirjautuvat sisään kaksivaiheisella tunnistautumisella. Näin ollen nämä ympäristöt ovat lähtökohtaisesti varsin turvallisia. CSC ei kuitenkaan voi taata, ettei tietomurron riskiä ole, sillä uusia tietoturvapoikkeamia ilmenee ajoittain.

Käyttötapauksia varten, jotka vaativat korkeampaa turvallisuustasoa, Roihua kehitetään tukemaan työnkulkuja, jotka edellyttävät tehostettuja valvontatoimia sensitiivisen datan ja luottamuksellisen datan käsittelyyn. Roihuun tulee erityisiä ominaisuuksia säänneltyjen datatyövuoiden tueksi.

Sensitiivisen datan ominaisuudet otetaan käyttöön Roihun alkuvaiheen saatavuuden jälkeen. Sensitiivisen laskentaympäristön pilottikäytön arvioidaan tällä hetkellä alkavan syksyllä 2026, ja yleinen saatavuus voisi seurata alkuvuonna 2027 pilotointivaiheen tuloksista ja kokemuksista riippuen.

Käyttäjän työvuon odotetaan muistuttavan CSC:n nykyistä Sensitive Data Desktop -to-HPC job submission -mallia, jossa sensitiivisen datan ajot lähetetään suojatusta ympäristöstä (SD Desktop) ja syöte-/tulostedata käsitellään suojattujen datapalvelujen kautta (SD Connect). Ajot suoritetaan ajokohtaisissa eristetyissä ympäristöissä, joilla ei ole pääsyä internetiin eikä Roihun jaetuille levyalueille.

Lue lisää CSC:n sensitiivisen datan palveluista.

Lisätietoja

Roihu-supertietokone – nyt käytettävissä!

Onko tämä sivu hyödyllinen?
Kiitos palautteestasi!
Kiitos! Arvostamme palautettasi.

Kerro meille miten voisimme parantaa tätä sivua ottamalla meihin yhteyttä .