Hvordan bruke NVIDIA GPU i Docker -containerne på Debian Top 10

Du kan gjennomgå NVIDIA GPU i Docker -containerne og kjøre CUDA -programmene på NVIDIA GPU fra disse Docker -containerne. Dette er en veldig nyttig funksjon for å lære AI (kunstig intelligens). Å kunne ruan AI -kodene (i.e. Tensorflow) på Docker -containerne sparer deg mye tid. Du kan også prøve ut AI -kodene dine på forskjellige CUDA -versjoner uten å måtte endre CUDA -versjonen på datamaskinen din.

Fikling med NVIDIA -drivere og CUDA -versjoner på datamaskinen din kan forårsake problemer som NVIDIA -sjåførene som ikke fungerer eller etterlater deg en svart/blå dødskjerm. Det er alltid en god idé å forlate systemet ditt som det er og gjøre endringer i et isolert miljø som Docker Containers. Dette holder din viktigste datamaskin ren (av unødvendige utviklingsverktøy).

I denne artikkelen vil vi vise deg hvordan du installerer Docker CE og NVIDIA Docker på Debian 11, slik at du får tilgang til NVIDIA GPU på datamaskinen din fra Docker -containerne og kjører CUDA -programmene på NVIDIA GPU.

Innholdsfortegnelse:

Kontroller om de offisielle NVIDIA GPU -driverne er installert på Debian 11
Installere Docker CE -avhengighetene på Debian 11
Installere Docker CE GPG -nøklene på Debian 11
Installere Docker CE -depotet på Debian 11
Installere Docker CE på Debian 11
Legge til Debian 11 Login -brukeren til Docker Group
Kontroller om Docker CE er installert riktig på Debian 11
Installere NVIDIA Container Toolkit GPG -nøkler på Debian 11
Installere NVIDIA Container Toolkit -depotet på Debian 11
Installere Nvidia-Docker-driverne på Debian 11
Kontroller om NVIDIA GPU er tilgjengelig fra Docker -containerne på Debian 11
Konklusjon
Referanser

Kontroller om de offisielle NVIDIA GPU -driverne er installert på Debian 11

Før du kommer i gang, kjør følgende kommando for å bekrefte at du har en NVIDIA GPU installert på datamaskinen din:

$ LSPCI | grep vga

I dette tilfellet har vi NVIDIA GTX 1050 TI GPU installert på datamaskinen vår. Du vil mest sannsynlig ha en annen NVIDIA GPU installert på datamaskinen din.

Forsikre deg også om at du har de offisielle NVIDIA -driverne installert på ditt Debian 11 -operativsystem med følgende kommando:

$ lsmod | grep nvidia

Hvis de offisielle NVIDIA -driverne er installert på DEBIAN 11 -operativsystemet ditt, vil du se følgende utganger:

Kontroller også om de offisielle NVIDIA GPU -driverne jobber med følgende kommando:

$ nvidia-Smi

Hvis de offisielle NVIDIA GPU -sjåførene fungerer, vil du se følgende utganger. Som du kan se, har vi den offisielle NVIDIA GPU -driverversjonen 470.161.03 Installert på vår Debian 11 -maskin:

Hvis du ikke har de offisielle NVIDIA GPU -driverne installert på Debian 11 -maskinen din, og du trenger noen hjelp med det, sjekk artikkelen om hvordan du installerer NVIDIA -driverne på Debian 11.

Installere Docker CE -avhengighetene på Debian 11

Før du kan installere Docker CE på Debian 11, må du installere de nødvendige Docker CE -avhengighetspakkene på Debian 11.

Oppdater først Apt Package Repository Cache med følgende kommando:

$ sudo apt oppdatering

Apt Package Repository Cache skal oppdateres.

For å installere de nødvendige avhengighetspakkene med Docker CE, kjør følgende kommando:

$ sudo apt-get install ca-certificates curl gnupg lsb-release

For å bekrefte installasjonen, trykk Y og trykk deretter på .

De nødvendige Docker CE -avhengighetspakker skal installeres.

Installere Docker CE GPG -nøklene på Debian 11

I dette avsnittet vil vi vise deg hvordan du installerer GPG -tasten til Docker CE -pakningsoppføret på Debian 11.

Først må du opprette en ny/etc/apt/nøkkelring -mappe med følgende kommando:

$ sudo mkdir -p/etc/apt/nøkkelringer

For å installere GPG -tasten til Docker CE -pakningsreposten på Debian 11, kjør følgende kommando:

$ curl -fssl https: // nedlasting.Docker.com/linux/debian/gpg | sudo gpg - -dearmor -o/etc/apt/nøkkelringer/docker.GPG

Installere Docker CE -depotet på Debian 11

For å installere Docker CE -pakkelageret på Debian 11, kjør følgende kommando:

$ ECHO "Deb [Arch = $ (DPKG-PRINTR-ARCHITECTUR) Signert-By =/etc/Apt/KeyRings/Docker.gpg] https: // nedlasting.Docker.com/linux/debian $ (lsb_release -cs) stabil "| sudo tee/etc/apt/kilder.liste.D/Docker.Liste> /dev /null

Oppdater Apt Package Repository Cache for endringene som skal tre i kraft.

$ sudo apt oppdatering

Installere Docker CE på Debian 11

For å installere den nyeste versjonen av Docker CE på Debian 11, kjør følgende kommando:

$ sudo apt-get install docker-ce docker-ce-cli containerd.IO Docker-Compose-plugin

For å bekrefte installasjonen, trykk Y og trykk deretter på .

Docker CE og de nødvendige avhengighetspakkene lastes ned. Det tar en stund å fullføre.

Docker CE og de nødvendige avhengighetspakkene blir installert. Det tar en stund å fullføre.

Docker CE og de nødvendige avhengighetspakkene skal installeres på dette tidspunktet.

Legge til Debian 11 Login -brukeren til Docker Group

For å opprette Docker -containerne og administrere dem uten å bruke sudo eller uten å logge på som rotbruker, må du legge til påloggingsbrukeren din i Docker -gruppen.

For å legge til påloggingsbrukeren til Debian 11 til Docker -gruppen, kjør følgende kommando:

$ sudo usermod -ag docker $ (whoami)

For at endringene skal tre i kraft, start datamaskinen på nytt med følgende kommando:

$ sudo omstart

Kontroller om Docker CE er installert riktig på Debian 11

Når datamaskinen din starter, kjører du følgende kommando for å bekrefte at du kan få tilgang til Docker uten superbrukerrettigheter:

$ Docker -versjon

Hvis alt fungerer, bør du se følgende utganger.

Som du ser, kjører vi Docker versjon 20.10.23 - Den siste versjonen av Docker CE på tidspunktet for dette forfatterskapet.

Installere NVIDIA Container Toolkit GPG -nøkler på Debian 11

I denne delen vil vi vise deg hvordan du installerer GPG -tasten til NVIDIA Container Toolkit Package Repository på Debian 11.

For å installere GPG -tasten til NVIDIA Container Toolkit Package Repository på Debian 11, kjør følgende kommando:

$ curl -fssl https: // nvidia.github.io/libnvidia-container/gpgkey | sudo gpg--dearmor -o/usr/share/keyrings/nvidia-container-toolkit-keyring.GPG

Installere NVIDIA Container Toolkit -depotet på Debian 11

I denne delen vil vi vise deg hvordan du installerer Nvidia Container Toolkit Package Repository på Debian 11.

Lag først en ny passende kildefil Nvidia-Container-Toolkit.Liste i/etc/apt/kilder.liste.d/ katalog som følger:

$ sudo nano/etc/apt/kilder.liste.D/NVIDIA-CONTAINER-TOUKKIT.liste

I NVIDIA-Container-Toolkit.Liste fil, legg til følgende linje og trykk + X etterfulgt av Y og for å lagre filen:

Deb [signert-by =/usr/share/nøkkelring/nvidia-container-toolkit-keyring.gpg] https: // nvidia.github.IO/Libnvidia-Container/Stabil/Debian11/$ (Arch)/

For at endringene skal tre i kraft, oppdater Apt Package Repository Cache med følgende kommando:

$ sudo apt oppdatering

Installere Nvidia-Docker-driverne på Debian 11

For å installere Nvidia Docker -driverne på Debian 11, kjør følgende kommando:

$ sudo apt install nvidia-docker2

For å bekrefte installasjonen, trykk Y og trykk deretter på .

Nvidia Docker -driverne skal installeres.

For at endringene skal tre i kraft, start datamaskinen på nytt med følgende kommando:

$ sudo omstart

Kontroller om NVIDIA GPU er tilgjengelig fra Docker -containerne på Debian 11

I denne delen vil vi vise deg hvordan du oppretter en Nvidia Cuda Docker -beholder og bekreft at beholderen kan få tilgang til NVIDIA GPU fra datamaskinen din.

For å lage en Nvidia Cuda 12 Docker -beholder basert på Ubuntu 20.04 LTS og kjør NVIDIA-SMI-kommandoen i den når den er opprettet for å bekrefte om den kan få tilgang til NVIDIA GPU fra datamaskinen din, kjør følgende kommando:

$ Docker Run - -RM -GPUS All Nvidia/CUDA: 12.0.0-Base-Ubuntu20.04 NVIDIA-SMI

Docker trekker NVIDIA/CUDA: 12.0.0-Base-Ubuntu20.04 Bilde fra Docker Hub. Det tar en stund å fullføre.

Når Nvidia Cuda Docker-bildet er trukket og en beholder er opprettet, kjører NVIDIA-SMI-kommandoen på den og skriver ut utgangen på konsollen som du kan se i følgende skjermbilde:

Docker -beholderen bruker NVIDIA GPU -driveren 525.78.01^[1] og CUDA versjon 12.0^[2]. Hvis du ser noen lignende utganger, kan Docker -beholderen få tilgang til NVIDIA GPU på datamaskinen din.

Hvis du trenger å bruke de eldre versjonene av CUDA, kan du sjekke NVIDIA/CUDA -bildet på Docker Hub.

Konklusjon

Vi viste deg hvordan du installerer Docker CE -pakkelageret på Debian 11. Vi viste deg også hvordan du installerer den nyeste versjonen av Docker CE på Debian 11. Vi viste deg hvordan du installerer Nvidia Container Toolkit Package Repository på Debian 11, samt hvordan du installerer Nvidia Docker -driveren på Debian 11. Til slutt viste vi deg hvordan du får tilgang til NVIDIA GPU på datamaskinen din fra en Docker -beholder.

Referanser:

https: // dokumenter.nvidia.com/datasenter/sky-native/container-toolkit/install-guide.html
https: // hub.Docker.com/r/nvidia/cuda/tags