Self-Hosting on libcom.de

Lokale KI: Vom Schreibtisch zum Inferenzserver

Tue, 18 Aug 2026 00:00:00 +0000

Die spannendste Kennzahl für lokale KI steht nicht groß auf der Verpackung. Sie heißt Speicherbandbreite, wird in Gigabyte pro Sekunde gemessen und entscheidet, ob ein Modell auf der eigenen Maschine flüssig läuft oder nur ruckelnd vor sich hin stirbt. Wer KI ernsthaft ausprobieren will und sich auf die TOPS- und NPU-Zahlen verlässt, sucht am falschen Ort. Rechenleistung ist billig geworden. Bandbreite ist die knappe Ressource.

Das klingt kontraintuitiv, und das ist sie auch. Deshalb lohnt sich ein genauerer Blick — nicht auf Benchmark-Siegerlisten, sondern auf das, was wirklich im Gehäuse passiert, wenn ein Modell Token für Token zusammensetzt.

Werkzeughoheit

Mon, 17 Aug 2026 00:00:00 +0000

Es gibt einen Satz, der in diesem Jahrzehnt öfter fällt als jeder andere, und der klingt nach Erkenntnis, ist aber eine Kapitulation: Na ja, am Ende ist eh alles transparent.

Damit ist die Stimmung gemeint, die sich eingeschlichen hat wie Feuchtigkeit in einen Keller — die Annahme, jede App melde nach Hause, jedes Gerät funke Telemetrie, jede Cloud könne die Daten ohnehin lesen, und dagegen gebe es schlicht keinen Kampf mehr. Wer so redet, hält sich für realistisch. Eigentlich hat er aufgegeben und sucht dafür eine elegante Formulierung.

Self-Hosting: Souveränität in eigener Hand

Thu, 30 Jul 2026 00:00:00 +0000

Es beginnt meistens mit einer simplen Frage: Kann ich das nicht selbst machen?

Ein Fotoalbum. Eine Dateiablage. Ein Wiki für das Team. Etwas, das man gerade nutzt — bei einem Anbieter, der es bequem anbietet, kostenlos oder billig, mit hübscher Oberfläche. Und dann ein Moment, in dem man merkt: Die Daten liegen irgendwo. Nicht hier. Nicht bei mir. Bei jemandem, den ich nicht kenne, unter Bedingungen, die ich nicht beeinflussen kann.