Datan hallinta supertietokoneiden scratch-levyillä¶
Tärkeä tehtävä kaikille CSC:n supertietokoneiden käyttäjille on hallita sitä, mitä dataa sijaitsee projektien
scratch-kansioissa. Ne on tarkoitettu vain väliaikaiseksi tallennustilaksi datalle, joka on
aktiivisessa käytössä. Kaikki muu data tulisi poistaa tai tallentaa muihin tarkoitukseen paremmin
soveltuviin tallennusjärjestelmiin. Käyttäjien ei oleteta käyttävän koko kiintiötään, vaan
enimmäiskiintiö on tarkoitettu vain lyhytaikaisiin käyttöpiikkeihin.
Huomaa myös, että:
- Lustre-rinnakkaistiedostojärjestelmän suorituskyky alkaa heikentyä, kun noin 70 % levytilasta on
käytössä, ja mitä täydemmiksi levyt tulevat, sitä hitaammaksi suorituskyky muuttuu.
CSC on myöntänyt enemmän kiintiötä kuin levytilaa on käytettävissä, joten kaikkien käyttäjien ei
ole edes mahdollista käyttää
scratch-kansioitaan pidempiaikaiseen tallennukseen. scratch-levyalueesta ei ole varmuuskopioita. Älä luota siihen kaiken tutkimusdatasi säilytyspaikkana.- Tiedostojen poistaminen vähentää projektisi Storage BU -kulutusta, koska
scratch-käyttöä laskutetaan TiB-tuntien perusteella.
Pyydämme ystävällisesti kaikkia käyttäjiä auttamaan levytilan käytön pitämisessä hallittavana ja suorituskyvyn kohtuullisena. Tee seuraavat toimenpiteet:
- Poista tiedostot, joita ei enää tarvita projektisi
scratch-kansiossa. Huomaa, että emme voi palauttaa vahingossa poistamiasi tiedostoja, joten tee nämä toimenpiteet huolellisesti! - Pakkaa tiedostot, jos se pienentää tiedostokokoa. ASCII-tekstitiedostot pakkautuvat yleensä erittäin hyvin. Testaa ensin yhdellä tiedostolla. Jos tiedostokoko pienenee 50 %, pakkaa kaikki vastaavat tiedostot. Katso täältä saatavilla olevat pakkaustyökalut.
- Siirrä tiedostot, jotka eivät ole juuri nyt aktiivisessa käytössä mutta joiden täytyy olla myöhemmin projektin aikana saatavilla. Tyypillinen toimintamalli on siirtää tiedostot Altaaseen. Suosittelemme käyttämään a-tools-työkaluja pieniin ja keskisuuriin datansiirtoihin, erityisesti silloin kun sinulla on suuri määrä pieniä tiedostoja. Nämä työkalut tekevät Allaksen käytöstä turvallisempaa ja voivat helpottaa datan hallintaa. Erittäin suuriin datansiirtoihin suosittelemme rclonea. Datansiirron opastus on saatavilla kohdassa Allas HPC -opas.
- Arkistoi tiedostot, joiden tulee olla saatavilla pidempään kuin laskentaprojektien eliniän ajan. Vaihtoehtoja tähän voivat olla esimerkiksi organisaatiosi omat tallennusjärjestelmät tai IDA-turvasäilytys tutkimusdatalle.
Datan sijainnin tunnistaminen¶
Jos sinulla on suuri määrä tiedostoja, sen analysointi, kuinka paljon dataa eri kansioissa on, voi viedä paljon aikaa ja myös kuormittaa tiedostojärjestelmää. Suosittelemamme työkalut, joilla voi näyttää kansioissa olevan datan määrän:
- Vältä käyttämästä
find-valintoja kuten-sizetai vastaavia - Vältä käyttämästä
du - Käytä
lue-työkalua tailfs find --lazy-komentoa
CSC on kehittänyt likimääräisen työkalun nimeltä LUE (Lustre usage explorer) kansioissa olevan
datan määrän raportointiin. Lue LUE:n dokumentaatio ennen sen käyttöä.
lfs find --lazy -komennossa on joitakin reunatapauksia, joissa se voi olla yhtä huono kuin du
tai epäonnistua hiljaisesti oikeiden kokotietojen hakemisessa. Suorita man lfs-find, jos haluat
lisäohjeita ja tietoa sen rajoituksista.
Note
Riippumatta siitä, mitä työkalua käytät, sinun ei koskaan pidä yrittää listata tai käsitellä
kaikkia projektisi tai scratch-kansiosi tiedostoja yhdellä komennolla. Sen sijaan komennot
tulee suorittaa tietyille alihakemistoille, joissa on rajallinen määrä tiedostoja ja dataa.
Käytetyn datan kokonaismäärä on saatavilla csc-workspaces-komennolla.
Tiedostojen automaattinen poistaminen¶
On olemassa käytäntö, jonka mukaan
scratch-alueelta (ei projappl-alueelta) poistetaan tiedostot, jotka ovat vanhempia kuin
180 päivää (scratch-kiintiö alle 5 TiB) tai 90 päivää (scratch-kiintiö
5 TiB tai enemmän), jotta levyllä säilyy vain aktiivisesti käytetty data.
Seuraavassa siivouksessa poistettavat tiedostot luetellaan niin sanotuissa "purge list" -tiedostoissa.
Ne on jaettu projekteittain, ja ne löytyvät Lustresta jostakin alla olevista sijainneista.
Vain projektiryhmien jäsenet voivat käyttää projektihakemistoja.
Jos projektisi on juuri luotu, projektillasi ei ehkä vielä ole omaa alihakemistoa
purge_lists-hakemistossa, jolloin se ei vielä osallistu automaattiseen siivoukseen.
/scratch/purge_lists/<PROJECT NAME>/path_summary.txt
Jos path_summary.txt-tiedostoa ei ole olemassa, projektissasi ei ollut yhtään tiedostoa, joka
vastaisi siivouskriteerejä, eikä siitä näin ollen poisteta mitään. Osoittaakseen, että tiedosto
puuttuu tarkoituksella, CSC sijoittaa projektisi purge_lists-alihakemistoon tiedoston nimeltä
nothing-to-remove-for-your-project, joten tarkista myös tämän tiedoston olemassaolo.
Osana automaattista siivousprosessia tiedostojen nimet muuttuvat. Ennen kuin siivous on alkanut,
jokaisella siivoukseen kuuluvalla projektilla on tiedosto nimeltä path_summary.txt.
Erityistapauksissa, joissa projekti on vapautettu tulevasta siivouksesta tai tarvitsee enemmän aikaa
tiedostojen siirtämiseen, ylläpitäjät nimeävät tiedoston uudelleen joksikin muuksi, yleensä
path_summary.txt-later-delete. Kun projekti on käsitelty automaattisessa siivouksessa,
tiedosto nimetään uudelleen muotoon path_summary.txt-stashed. Nämä tiedostot ovat edelleen
projektien luettavissa, joten listaan voi viitata myös siivouksen jälkeen.
Edellisen kierroksen tiedostot arkistoidaan, kun seuraava siivouskierros on alkamassa.
Voit tarkistaa, onko projektisi purge-lista päivitetty hiljattain, tarkistamalla sen viimeisimmän
muokkauspäivän. Alla olevassa esimerkissä tiedosto on muutaman kuukauden vanha, joten se on
selvästi edelliseltä siivouskierrokselta:
$ stat -c %y /scratch/purge_lists/project_2001659/path_summary.txt-stashed
2023-05-23 00:35:28.000000000 +0300
$ date +%F
2023-08-04
Toinen tiedosto, joka sijoitetaan jokaisen projektin purge_lists-hakemistoon, on total_size.txt.
Tämä tiedosto sisältää ennalta lasketun kokoarvion, joka perustuu path_summary.txt-tiedostojen
lukuihin. Tämä tiedosto on olemassa jokaiselle projektille, ja se luodaan automaattisesti, kun
purge-listat muodostetaan. Tiedosto voi näyttää tältä:
$ cat /scratch/purge_lists/project_2001659/total_size.txt
Total size: 798343125192 bytes = 743.515 GiB = 0.726 TiB
Näiden tietojen avulla voit arvioida, kuinka paljon aikaa datan varmuuskopiointi muualle voi vaatia,
jos haluat säilyttää kaiken purge-listalla olevan scratch-tiedostojärjestelmän ulkopuolella.