Rulare LLM-uri locale ca artefacte Docker cu Docker Model Runner – integrare directă în docker-compose
Echipele care rulează deja infrastructură containerizată (Docker/docker-compose) trebuie de obicei să instaleze Ollama separat, în afara stack-ului Docker, ceea ce complică portabilitatea și versionarea mediului. Docker Model Runner tratează modelele LLM ca artefacte OCI (la fel ca imaginile Docker) — se descarcă, se versionează și se rulează cu comenzi Docker native, integrându-se direct în docker-compose.yml alături de restul serviciilor.