Ollama Setup op Debian 12

Komplett Guide fir d'Installatioun vun Ollama op Debian 12 mat Apache2 Reverse Proxy, SSL-Verschlësselung an HTTP Basic Authentication fir eng sécher ëffentlech API

Debian 12 Ollama Apache2 SSL/TLS API

Wichteg Notizen

Root-Zougang oder sudo-Rechter erfuerderlech
Gëlteg Domain mat DNS-Konfiguratioun erfuerderlech
Firewall-Konfiguratioun fir Porten 80 an 443 erfuerderlech
Staark Passwuert fir API-Authentifikatioun benotzen
Konfiguratiounsfichieren virun Ännerungen séchere
Genuch RAM (min. 8GB) fir Ollama-Modeller

Setup-Schrëtt

Follegt dës Schrëtt an der uginn Reiefolleg fir eng erfollegräich Installatioun.

1

Ofhängegkeeten installéieren

Installéiert d'Basispaketen déi fir d'Ollama-Installatioun gebraucht ginn.

2

Ollama installéieren

Luet Ollama erof, installéiert et a konfiguréiert de Service fir Netzwierkzougang.

3

Apache2 konfiguréieren

Installéiert Apache2 an aktivéiert déi erfuerderlech Moduler fir de Reverse Proxy.

4

SSL-Zertifikat ariichten

Installéiert Certbot a erstellt e gratis SSL-Zertifikat mat Let's Encrypt.

5

Authentifikatioun ariichten

Erstellt HTTP Basic Authentication fir sécheren API-Zougang.

6

Virtual Host konfiguréieren

Erstellt d'Apache Virtual Host Konfiguratioun mat SSL a Proxy-Astellungen.

7

API testen

Test d'Ollama API mat Authentifikatioun fir sécherzestellen datt alles korrekt funktionéiert.

Feelerbehandlung

Léisungen fir heefeg Problemer bei der Installatioun an der Konfiguratioun.

Ollama-Problemer behiewen

Iwwerpréift, ob Port 11434 op ass

$ 
sudo ss -tulpen | grep 11434

Iwwerpréift de Status vum Ollama-Service

$ 
sudo systemctl status ollama

Weist d'Ollama-Loggen an Echtzäit

$ 
sudo journalctl -u ollama -f

Apache-Problemer behiewen

Test d'Apache-Konfiguratioun op Syntaxfeeler

$ 
sudo apache2ctl configtest

Iwwerpréift de Status vum Apache-Service

$ 
sudo systemctl status apache2

Weist d'Apache-Feelerloggen

$ 
sudo tail -f /var/log/apache2/error.log

SSL-Problemer behiewen

Lëscht all SSL-Zertifikater op

$ 
sudo certbot certificates

Test d'automatesch Zertifikatserneierung

$ 
sudo certbot renew --dry-run

Test d'SSL-Verbindung op d'Domain

$ 
openssl s_client -connect llm.chad.lu:443

Installatioun fäerdeg!

Är Ollama-Installatioun ass elo prett. Dir kënnt iwwer déi sécher API op Är KI-Modeller zougräifen.