Hyppää sisältöön

Docs CSC now features an automatic Finnish translation. Click here for more information.

Warning!

Puhti and Mahti are being decommissioned in stages, and their storage areas will become fully unavailable from 15 October 2026. Clean up unnecessary files and move any data you need to keep by 31 August 2026. See the Roihu data migration guide for instructions on transferring your data to Roihu.

Puhti scratch is very full: keep only active data there and move or delete everything else. No new Puhti scratch quota will be granted.

ncu: GPU:n CUDA-ytimien profilointityökalu

Saatavuus

  • Puhdissa: versio riippuu CUDA-ympäristöstä
  • Mahdissa: versio riippuu CUDA-ympäristöstä
  • Roihu-GPU:ssa: versio riippuu CUDA-ympäristöstä

Lisenssi

Käyttö on mahdollista sekä akateemisiin että kaupallisiin tarkoituksiin.

Käyttö

NVIDIA Nsight Compute on CUDA-ytimien profilointityökalu, joka tarjoaa yksityiskohtaista suorituskykydataa ja ohjeita CUDA-ytimien optimointiin. ncu-profilointi- ja vianmääritystyökalu kerää ja näyttää profilointidataa komentoriviltä. Se on matalan tason CUDA-ytimien profilointityökalu. Sen avulla voidaan kerätä aikajana CUDAan liittyvistä toiminnoista sekä CPU:lla että GPU:lla, mukaan lukien ytimen suoritus, muistosiirrot, muistin asetus sekä CUDA API -kutsut ja CUDA-ytimien tapahtumat tai metriikat.

Profilointi tehdään kahdessa vaiheessa:

  1. Kerää profilointidata suorittamalla sovellus ncu-komentorivityökalulla
  2. Analysoi tulokset ncu-ui-graafisella käyttöliittymällä.

Jotta ncu:ta voidaan käyttää, on ensin ladattava CUDA-moduuli:

module load cuda

Datan keräämiseksi suorita sovelluksesi normaalisti Slurmin kautta ja lisää suoritettavan tiedoston eteen ncu <profiling options>:

#SBATCH ...
...

srun ncu -o profile ./my_executable
Kerättävistä suorituskykymetriikoista riippuen jokainen ytimen käynnistys voidaan toistaa useita kertoja, mikä lisää merkittävästi sovelluksen ajoaikaa. Siksi on suositeltavaa lyhentää sovelluksen kestoa (esimerkiksi suorittaa vain rajallinen määrä aika-askeleita tai iteraatioita) ja kerätä metriikoita vain olennaisimmista GPU-ytimistä. Katso lisätietoja NVIDIAn dokumentaatiosta.

Profilointiraportti (.ncu-rep lisätään -o-valinnalla annettuun tiedostonimeen) analysoidaan ncu-ui-graafisella käyttöliittymällä: 

ncu-ui profile.ncu-rep`

ncu-ui voidaan suorittaa suoraan CSC:n supertietokoneilla (**Huom.: Roihussa graafinen käyttöliittymä ei toimi tällä hetkellä), mutta käyttöliittymän sujuvamman toiminnan vuoksi on suositeltavaa kopioida tulostiedostot omalle työasemalle ja tarkastella niitä Nsight Computen paikallisella asennuksella.

Suomenkielinen tekoälykäännös

Sisällössä voi esiintyä virheellistä tietoa tekoälykäännöksestä johtuen.

Klikkaa tästä antaaksesi palautetta

Ymmärrän.