Klargør linux :
Installer Ubuntu server på en disk med mindst 300 GB. og sørg for at installere docker.
docker kan som root installeres med :
sudo snap install docker
Set Root password, og login som root.
Kør
sudo do-release-upgrade
og
sudo apt upgrade
Installer Ollama :
curl -fsSL https://ollama.com/install.sh | sh
Kør derefter :
Ollama serve
Installer nu Open-webui com en docker container på port 3000 :
Hvsi du IKKE har en GPU:
docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama
Hvis du HAR en GPU:
docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama
Åben derefter webgui op http://localhost:3000 og opret en bruger. den bruger du opretter bliver automatisk admin.
Pull evt følgende pakker fra ollamas side:
codegemma
Daves garage
https://www.youtube.com/watch?v=DYhC7nFRL5I