Hyppää sisältöön

A new version of SD Connect and SD Desktop will be available from Monday, September 28. The major upgrade will introduce significant improvements, but also includes changes that are not compatible with the current version of the service. Click here to review the available support materials.

Warning!

Puhti and Mahti computing services have been decommissioned and no new jobs are accepted or executed on its compute nodes. Puhti and Mahti login nodes and storage services are planned to remain available until 15 October 2026. Clean up unnecessary files and move any data you need to keep by 31 August 2026. See the Roihu data migration guide for instructions on transferring your data to Roihu.

ncu: GPU:n CUDA-ytimien profilointityökalu

Saatavuus

  • Puhdissa: versio riippuu CUDA-ympäristöstä
  • Mahdissa: versio riippuu CUDA-ympäristöstä
  • Roihu-GPU:ssa: versio riippuu CUDA-ympäristöstä

Lisenssi

Käyttö on mahdollista sekä akateemisiin että kaupallisiin tarkoituksiin.

Käyttö

NVIDIA Nsight Compute on CUDA-ytimien profilointityökalu, joka tarjoaa yksityiskohtaista suorituskykydataa ja ohjeita CUDA-ytimien optimointiin. ncu-profilointi- ja vianmääritystyökalu kerää ja näyttää profilointidataa komentoriviltä. Se on matalan tason CUDA-ytimien profilointityökalu. Sen avulla voidaan kerätä aikajana CUDAan liittyvistä toiminnoista sekä CPU:lla että GPU:lla, mukaan lukien ytimen suoritus, muistosiirrot, muistin asetus sekä CUDA API -kutsut ja CUDA-ytimien tapahtumat tai metriikat.

Profilointi tehdään kahdessa vaiheessa:

  1. Kerää profilointidata suorittamalla sovellus ncu-komentorivityökalulla
  2. Analysoi tulokset ncu-ui-graafisella käyttöliittymällä.

Jotta ncu:ta voidaan käyttää, on ensin ladattava CUDA-moduuli:

module load cuda

Datan keräämiseksi suorita sovelluksesi normaalisti Slurmin kautta ja lisää suoritettavan tiedoston eteen ncu <profiling options>:

#SBATCH ...
...

srun ncu -o profile ./my_executable
Kerättävistä suorituskykymetriikoista riippuen jokainen ytimen käynnistys voidaan toistaa useita kertoja, mikä lisää merkittävästi sovelluksen ajoaikaa. Siksi on suositeltavaa lyhentää sovelluksen kestoa (esimerkiksi suorittaa vain rajallinen määrä aika-askeleita tai iteraatioita) ja kerätä metriikoita vain olennaisimmista GPU-ytimistä. Katso lisätietoja NVIDIAn dokumentaatiosta.

Profilointiraportti (.ncu-rep lisätään -o-valinnalla annettuun tiedostonimeen) analysoidaan ncu-ui-graafisella käyttöliittymällä: 

ncu-ui profile.ncu-rep`

ncu-ui voidaan suorittaa suoraan CSC:n supertietokoneilla (**Huom.: Roihussa graafinen käyttöliittymä ei toimi tällä hetkellä), mutta käyttöliittymän sujuvamman toiminnan vuoksi on suositeltavaa kopioida tulostiedostot omalle työasemalle ja tarkastella niitä Nsight Computen paikallisella asennuksella.

Suomenkielinen tekoälykäännös

Sisällössä voi esiintyä virheellistä tietoa tekoälykäännöksestä johtuen.

Klikkaa tästä antaaksesi palautetta

Ymmärrän.