ncu: GPU:n CUDA-ydinprofilointityökalu

Saatavilla

Roihu-GPU: versio riippuu CUDA-ympäristöstä

Lisenssi

Käyttö on mahdollista sekä akateemisiin että kaupallisiin tarkoituksiin.

Käyttö

NVIDIA Nsight Compute on CUDA-ydinprofilointityökalu, joka tarjoaa yksityiskohtaista suorituskykydataa ja ohjeita CUDA-ytimien optimointiin. ncu-profilointi- ja vianmääritystyökalu kerää ja näyttää profilointidataa komentoriviltä. Se on matalan tason CUDA-ydinprofilointityökalu. Sen avulla voidaan kerätä aikajana CUDA:han liittyvistä toiminnoista sekä CPU:lla että GPU:lla, mukaan lukien ytimen suoritus, muistinsiirrot, muistin asetus sekä CUDA API -kutsut ja CUDA-ytimien tapahtumat tai metriikat.

Profilointi tehdään kahdessa vaiheessa:

Kerää profilointidata ajamalla sovellus ncu-komentorivityökalulla
Analysoi tulokset ncu-ui-graafisella käyttöliittymällä.

Jotta ncu:ta voidaan käyttää, on ensin ladattava CUDA-moduuli:

module load cuda

Datan keräämiseksi aja sovelluksesi normaalisti Slurmin kautta ja lisää suoritettavan ohjelman eteen ncu <profiling options>:

#SBATCH ...
...

srun ncu -o profile ./my_executable

Kerättävistä suorituskykymetriikoista riippuen jokainen ytimen käynnistys voidaan toistaa useita kertoja, mikä lisää merkittävästi sovelluksen ajoaikaa. Siksi on suositeltavaa lyhentää sovelluksen kestoa (esimerkiksi ajamalla vain rajallinen määrä aika-askelia tai iteraatioita) ja kerätä metriikoita vain olennaisimmista GPU-ytimistä. Katso lisätietoja NVIDIAn dokumentaatiosta.

Profilointiraportti (.ncu-rep lisätään -o-valinnalla annettuun tiedostonimeen) analysoidaan ncu-ui-graafisella käyttöliittymällä:

ncu-ui profile.ncu-rep`

ncu-ui voidaan ajaa suoraan CSC:n supertietokoneilla (**Huom.: Roihussa graafinen käyttöliittymä ei toimi tällä hetkellä), mutta graafisen käyttöliittymän sujuvamman käytön vuoksi on suositeltavaa kopioida tulostiedostot omalle työasemalle ja tarkastella niitä Nsight Computen paikallisella asennuksella.