MLflow

MLflow on avoimen lähdekoodin alusta, joka on suunniteltu sujuvoittamaan koneoppimisen (ML) elinkaarta. Se auttaa datatieteilijöitä ja insinöörejä hallitsemaan kokeita, seuraamaan mallien suorituskykyä ja ottamaan malleja käyttöön tehokkaasti. Sen joustavuus mahdollistaa integraation suosittuihin ML-kehyksiin, kuten TensorFlow’hun, PyTorchiin ja Scikit-learniin, mikä tekee sen liittämisestä mihin tahansa ML-työvuo'hon helppoa.

Lue lisää virallisesta MLflow-dokumentaatiosta.

MLflow’n käyttöönotto Rahdissa

MLflow’n voi ottaa Rahdissa käyttöön Helmillä joko Rahdin selainkäyttöliittymän Software Catalogissa tai Helm CLI:n kautta. Molemmissa tapauksissa voit lisätä omia arvoja oletusarvoisten Helm chart -arvojen korvaamiseksi, kuten on selitetty kohdassa Oletusarvojen korvaaminen.

Software Catalogin käyttäminen

Luo projekti Rahtiin kohdan Projektin luominen ohjeiden mukaisesti.
Siirry MLflow Helm chartiin Rahdin Software Catalogissa:
- Vasemmanpuoleisessa valikossa napsauta Software Catalog kohdassa Ecosystem.
- Hae MLflow’ta hakukentässä.
- Napsauta MLflow Helm chartia.
Napsauta create-painiketta. Tämä avaa "Create Helm Release" -lomakkeen.
Anna MLflow Helm releasellesi mukautettu nimi "Release name" -valintaikkunassa.
Kohdassa "Configuration via Form view / YAML view" voit lisätä omat arvosi oletusarvoisten Helm chart -arvojen korvaamiseksi. Kentät user ja password ovat pakollisia. Muussa tapauksessa koonti epäonnistuu.
Asenna Helm release napsauttamalla create-painiketta.
Siirry vasemmanpuoleisen valikon kohtaan Helm Releases polussa Ecosystem -> Helm. Siellä näet MLflow release -asennuksesi tilan. Varmista, että olet oikeassa Rahti-projektissa. Jos kaikki meni hyvin, tilasarakkeessa näkyy "Deployed".
Jos MLflow-seurantapalvelin julkaistiin Route-objektin kautta, siirry vasemmanpuoleisen valikon kohtaan Routes osiossa Networking. Täällä näet reitin päätepisteen Location-sarakkeessa. Käytä tätä päätepistettä MLflow-seurantapalvelimen käyttämiseen.

Helm CLI:n käyttäminen

Asenna Helm CLI -työkalu paikalliselle työasemallesi noudattamalla Helmin asennusohjeita.
Kirjaudu Rahtiin oc CLI -työkalulla kohdassa Kirjautuminen oc:lla kuvatulla tavalla.

Luo projekti Rahtiin:

oc new-project <your project name> --description="csc_project: <csc_project_number>"

Lisää cscfi Helm chart -repositorio:
```
helm repo add cscfi https://cscfi.github.io/helm-charts/
```
Varmista ennen jatkamista, että haet repositoriosta uusimmat chartit:
```
helm repo update
```
Asenna MLflow Helm chart cscfi-repositoriosta:
```
helm install <your release name> -n <your project name> cscfi/mlflow
```
Voit lisätä omia arvojasi oletusarvoisten chart-arvojen korvaamiseksi käyttämällä yllä olevassa komennossa --set-valitsinta. Jos mukautettuja arvoja on useita, voit sijoittaa ne kaikki yhteen values.yaml-tiedostoon ja viitata siihen yllä olevassa komennossa -f values.yaml -valitsimella. Kentät user ja password ovat pakollisia. Muussa tapauksessa koonti epäonnistuu.
Helm-käyttöönoton tilan tarkistaminen:
```
helm status <your release name> -n <your project name>
```
Tila-kentässä pitäisi onnistuneen Helm-käyttöönoton tapauksessa näkyä "Deployed".
Jos MLflow-seurantapalvelin julkaistiin Route-objektin kautta, hae seurantapalvelimen päätepiste seuraavalla komennolla:
```
oc get route/mlflow-tracking --namespace=<your project name> -o jsonpath='{.spec.host}'
```
Reitti saa automaattisesti isäntänimen verkkotunnuksen *.rahtiapp.fi alta, esimerkiksi mlflow-tracking-my-project.rahtiapp.fi, jolle luodaan DNS-tietue ja kelvollinen TLS-varmenne. Jos haluat käyttää sen sijaan omaa verkkotunnustasi, katso sivu Mukautetut verkkotunnukset.

Oletusarvojen korvaaminen

cscfi:n MLflow Helm chartissa ja sen riippuvuutena olevassa Bitnamin MLflow chartissa on useita oletusarvoja, joita loppukäyttäjä voi korvata tarpeidensa mukaan. Alla selitetään joitakin yleisesti korvattavia arvoja.

Bitnami-imaget

Tämä chart riippuu Bitnamin charteista. Bitnami on muuttanut kataloginsa ehtoja, mikä vaikuttaa siihen, mitkä imaget pysyvät saatavilla ja päivittyvinä. Katso Rahti-katalogi -sivulta, mitä tämä käytännössä tarkoittaa, ennen kuin otat tämän chartin käyttöön tuotannossa.

Tietokanta

Tietokannan käyttäminen MLflow’n backend-tallennusratkaisuna tarjoaa skaalautuvan, luotettavan ja kyselytehokkaan perustan kokeiden seurantaan ja mallien elinkaaren hallintaan. MLflow Helm chartin riippuvuutena on Bitnamin PostgreSQL-tietokannan Helm chart, joka voidaan ottaa käyttöön, jos seuraava arvo asetetaan:

mlflow.postgresql.enabled=true

Tuotantoympäristöissä on kuitenkin suositeltavaa käyttää ulkoista tietokanta-instanssia, jossa on tavanomaiset yritystason ominaisuudet, kuten varmuuskopiot ja korkea käytettävyys. Ulkoisen tietokannan käyttämiseksi on asetettava seuraavat arvot:

mlflow.externalDatabase.host={DB_PUBLIC_IP}
mlflow.externalDatabase.user={DB_USER}
mlflow.externalDatabase.password={DB_PASSWORD}
mlflow.externalDatabase.database={DB_NAME}

S3-tallennustausta

Objektitallennuksen, kuten Allaksen, käyttäminen S3:n kautta MLflow’n artefaktien tallennustaustana tarjoaa kestävän, erittäin käytettävän ja käytännössä rajattoman tallennustilan suurille malliartefakteille, aineistoille ja lokeille. Se keskittää artefaktien hallinnan kaikille kokeille ja ympäristöille, mahdollistaen skaalautuvan ja kustannustehokkaan säilytyksen sekä artefaktien helpon jakamisen tiimien ja infrastruktuurien välillä.

MLflow Helm chartin arvot, jotka on asetettava S3-yhteyttä varten Allakseen, ovat seuraavat:

mlflow.externalS3.host=a3s.fi
mlflow.externalS3.accessKeyID={ACCESS_KEY}
mlflow.externalS3.accessKeySecret={SECRET_KEY}
mlflow.externalS3.bucket={BUCKET_NAME}
tracking.extraEnvVars[0].name=AWS_REQUEST_CHECKSUM_CALCULATION
tracking.extraEnvVars[0].value=when_required
tracking.extraEnvVars[1].name=AWS_RESPONSE_CHECKSUM_VALIDATION
tracking.extraEnvVars[1].value=when_required

Access key ja secret key ovat Allas-projektisi S3-käyttöoikeustiedot. Katso objektitallennus -sivulta, miten ne luodaan.

Tunnistautuminen

MLflow Helm chart sisältää mahdollisuuden määrittää HTTP Basic -tunnistautuminen NGINX-käänteisvälityspalvelimen avulla. NGINX-image rakennetaan käyttäjän Rahti-projektin sisällä BuildConfig-objektilla. Jos haluat lisätä käyttäjiä HTTP-tunnistautumiseen, lisää arvoon rahti.buildconfig.auth, joka on lista, seuraavan esimerkin mukaisesti:

rahti.buildconfig.auth[0].user=user
rahti.buildconfig.auth[0].password=user

Arvotiedosto

Koska mukautettuja arvoja on useita, on parempi käyttää yhtä arvotiedostoa sen sijaan, että ne asetettaisiin suoraan komentorivillä. Tämä voidaan tehdä käyttämällä values.yaml-tiedostoa alla esitetyllä tavalla ja viittaamalla siihen helm install -komennossa -f-valitsimella.

mlflow:
    externalDatabase:
        host: {DB_PUBLIC_IP}
        user: {DB_USER}
        password: {DB_PASSWORD}
        database: {DB_NAME}
    postgresql:
        enabled: false # true if internal PostgreSQL is required
    externalS3:
        accessKeyID: {ACCESS_KEY}
        accessKeySecret: {SECRET_KEY}
        host: "a3s.fi"
        bucket: {BUCKET_NAME}
    tracking:
        extraEnvVars:
        - name: AWS_REQUEST_CHECKSUM_CALCULATION
          value: when_required
        - name: AWS_RESPONSE_CHECKSUM_VALIDATION
          value: when_required
rahti:
    buildconfig:
        auth:
        - user: "user"
          password: "user"

Lisätietoja

MLflow-dokumentaatio — upstream-viite seurantapalvelimelle ja sen asiakasohjelmille.
Rahti-katalogi — miten Helm chartteja selataan ja asennetaan Rahdissa.
Objektitallennus — Allaksen käyttö Rahdista, mukaan lukien S3-käyttöoikeustietojen hankkiminen.
Mukautetut verkkotunnukset — seurantapalvelimen julkaiseminen oman verkkotunnuksen alla.