Lokale KI: Vom Schreibtisch zum Inferenzserver

Tue, 18 Aug 2026 00:00:00 +0000

Die spannendste Kennzahl für lokale KI steht nicht groß auf der Verpackung. Sie heißt Speicherbandbreite, wird in Gigabyte pro Sekunde gemessen und entscheidet, ob ein Modell auf der eigenen Maschine flüssig läuft oder nur ruckelnd vor sich hin stirbt. Wer KI ernsthaft ausprobieren will und sich auf die TOPS- und NPU-Zahlen verlässt, sucht am falschen Ort. Rechenleistung ist billig geworden. Bandbreite ist die knappe Ressource.

Das klingt kontraintuitiv, und das ist sie auch. Deshalb lohnt sich ein genauerer Blick — nicht auf Benchmark-Siegerlisten, sondern auf das, was wirklich im Gehäuse passiert, wenn ein Modell Token für Token zusammensetzt.

Hardware muss auch befreit werden

Fri, 07 Aug 2026 00:00:00 +0000

Es gibt einen Moment, den jeder kennt, der jemals versucht hat, ein älteres Smartphone weiterzubenutzen.

Das Gerät funktioniert. Der Bildschirm ist heil, der Akku hält, die Hardware wäre völlig ausreichend für das, was man braucht — Nachrichten, eine Karte, ein Anruf. Aber das Betriebssystem wird nicht mehr unterstützt. Die Apps stellen ihre Funktion ein. Eine Banking-App verweigert den Dienst. Ein Messenger zeigt eine Warnung, die niemand liest, und funktioniert dann nicht mehr. Und plötzlich liegt ein voll funktionsfähiges Stück Technik in der Schublade — nicht weil es kaputt ist, sondern weil es veraltet wurde.

Hardware on libcom.de

Lokale KI: Vom Schreibtisch zum Inferenzserver

Hardware muss auch befreit werden