Lokale KI: Vom Schreibtisch zum Inferenzserver

Tue, 18 Aug 2026 00:00:00 +0000

Die spannendste Kennzahl für lokale KI steht nicht groß auf der Verpackung. Sie heißt Speicherbandbreite, wird in Gigabyte pro Sekunde gemessen und entscheidet, ob ein Modell auf der eigenen Maschine flüssig läuft oder nur ruckelnd vor sich hin stirbt. Wer KI ernsthaft ausprobieren will und sich auf die TOPS- und NPU-Zahlen verlässt, sucht am falschen Ort. Rechenleistung ist billig geworden. Bandbreite ist die knappe Ressource.

Das klingt kontraintuitiv, und das ist sie auch. Deshalb lohnt sich ein genauerer Blick — nicht auf Benchmark-Siegerlisten, sondern auf das, was wirklich im Gehäuse passiert, wenn ein Modell Token für Token zusammensetzt.

Künstliche Intelligenz: Ein Werkzeug, das man lernen muss

Tue, 11 Aug 2026 00:00:00 +0000

Es war ein Freitagabend, kurz vor Feierabend. Eine Log-Analyse, die seit Stunden nicht vorankam — hunderte Zeilen, ein Muster, das offensichtlich und dennoch schwer zu fassen war. Ich kopierte die Ausgabe in ein KI-Werkzeug und stellte eine Frage. Dreißig Sekunden später lag die Antwort da: präzise, korrekt, elegant begründet. Ein Kollege hätte länger gebraucht.

Eine Stunde später wollte ich dasselbe Werkzeug eine einfache YAML-Datei umsortieren lassen. Es halluzinierte ein Feld hinzu, das nie existiert hatte, behauptete steif und fest, es sei erforderlich, und reproduzierte denselben Fehler viermal hintereinander — obwohl ich jedes Mal mit dem Finger genau darauf zeigte.

KI on libcom.de

Lokale KI: Vom Schreibtisch zum Inferenzserver

Künstliche Intelligenz: Ein Werkzeug, das man lernen muss