Ollama connection failed

[JeanOchmann]

Hey, I m getting everytime an error if I want to connect to ollama.
Ollama validation error: connect ECONNREFUSED 127.0.0.1:11434

Can someone support me here?

[clusterzx]

127.0.0.1 does not work in docker from within the container. 127.0.0.1 points into the container.

[JeanOchmann]

Danke hat sich erledigt. Musste noch etwas zusätzlich einstellen.

Mal eine andere Frage, beim processing stürzt der komplette PI immer ab. Hast du hier ggf. eine Lösung?

[clusterzx]

PP-AI könnte auf einem PI Probleme haben wegen des RAG Servers.

[JeanOchmann]

was würde sich denn ggf. besser empfehlen? Für Paperless-ai & ollama

[clusterzx]

Ich muss jetzt mal fragen.... läuft Ollama auf dem RPi?

Die meisten Menschen die ich hier und im privaten angetroffen habe nutzen für so selfhosted tools (abgesehen von HomeAssistant) einen kleinen dedizierten Homeserver bis hin zu richtig potenter Hardware. Ich für meinen Teil habe meinen privaten Server auf 12 Kernen und 128GB RAM aufgestockt.

[JeanOchmann]

Hi,
ja ich hatte ollama auf dem Pi 5 am laufen, lief jedoch was langsam. War vllt ein wenig zu naiv :D
Dann werd ich wohl nur 2 Instanzen von Paperless-ngx drauf laufen haben. Dachte mit ollama und paperless-ai würde ich es noch was hevorheben.
Einen seperaten Server mit soviel Kapaziäten habe ich nicht.

[clusterzx]

Naja so potent wie meiner muss sowas ja auch nicht sein :D war ja nur ein Beispiel.

Aber PPAI + PPNGX + Ollama + Docker + what ever noch auf dem Pi 5 wird halt nichts werden.