Selfhosted - Welche Software und Services verwendet ihr?

[mumpf]

Es ist eine unter Proxmox gehostete VM. Die stellt den KNX-Dongle über virtualhere ins Netz. Liegt daran, dass ich nur noch USB-C am Laptop habe und auf keinen Fall mit einem Adapter C auf A rumlaufen will.
So steckt der Dongle auch immer drin, manchmal eben über VPN .

Gruß, Waldemar

[Stereofeld]

Und die VM ist Linux? Oder ein Raspi-Image?

Thomas

[mumpf]

Ja Linux, irgendwas möglichst kleines. Weiß nicht welches, hat mein Sohn eingerichtet. Ist aber nicht wichtig welches, muss nur Zugriff auf den USB haben.

Gruß, Waldemar

[Tom Bombadil]

Wenn's was wirklich kleines sein soll, empfiehlt sich das Debian-basierte DietPi. Die VM läuft bei mir auf dem NAS mit 1 Kern / 1GB RAM gemütlich als Pi-Hole DNS Server samt AdBlocker (neben einigen anderen, kleineren Netzwerkdiensten) vor sich hin, 'frisst' also im Grunde nix. Die Grundinstallation wurde extrem geschrumpft und bietet einen 'Nachinstaller' für die gängigen Linux-Pakete. Verfügbar für viele Plattformen (siehe Link vorn):

image.png

/tom

[Stereofeld]

Ja Linux, irgendwas möglichst kleines.

Prima! Habe Debian ohne grafische Oberfläche genommen und es läuft. Erstaunlich robust sogar. Danke ...

image.png

Nutzt auch nur 1 GB Ram und 1 CPU ...

Gruß
Thomas

[Amokd0c]

Morgen!
Bei mir läuft zu den o.g. noch Wiki.js und Adguard unter Proxmox.

[Amokd0c]

.. und seit einer Woche paperless-ai mit lokaler Ollama AI ... hat das wer von euch am und ans Laufen gebracht?
Die Verbindung zu paperless-ngx ist da, nur das automatische Prozessing will nicht starten. Manuelles funktioniert allerdings.
paperless-ngx, paperless-ai und ollama laufen auf 3 eigenen LXCs

[Peterich]

Ich hatte das auch am Laufen, hat mich lokal nicht überzeugt leider.Ich hatte das Problem auch... Ich weiß aber nicht mehr woran es gelegen hat....

[Amokd0c]

Aus welchem Grund hat es dich nicht überzeugt?

[Peterich]

Ich hatte das, glaube ich, so 2–3 Stunden lokal getestet und auch meine Datenbank einmal komplett durchlaufen lassen. Tatsächlich ging das relativ gut, aber er hat sich nicht an die Vorgaben gehalten, die ich im Prompt angegeben hatte.
Hab’s dann parallel mit ChatGPT getestet: 10 € aufgeladen, davon sind noch 9 € übrig, und über 1200 Dokumente verarbeitet.

Das ist das Schöne an Proxmox – ich mache vorher ein Backup und wenn’s nicht passt, spiele ich einfach zurück 😄 bzw. nutze einen Snapshot.

Problem lokal ist vielleicht auch, dass ich nur eine 8 GB-Grafikkarte habe, und ich habe nur zwei Modelle probiert. Ich würde sagen: Lokal lag die Trefferquote bei ca. 40 %, ChatGPT schafft dagegen 80–90 %.

Ich habe im Prompt auch angegeben, dass er, wenn etwas unklar ist, ein Tag mit „Prüfen“ setzen soll. Das hat Ollama nicht hinbekommen – teilweise war echt Müll drin.

Das ist allerdings schon 3 Monate her, und da verbessert sich ja ständig was.
Getestet hatte ich übrigens diese zwei Modelle:
grafik.png