Lokale AI: van bureau tot inference-server

Tue, 18 Aug 2026 00:00:00 +0000

De meest onthullende maatstaf voor lokale AI staat niet vetgedrukt op de doos. Hij heet geheugenbandbreedte, wordt uitgedrukt in gigabytes per seconde, en bepaalt of een model soepel draait op je machine of hakkend de dood in stevent. Wie serieus met AI wil experimenteren en leunt op de TOPS- en NPU-cijfers zoekt op de verkeerde plek. Rekenkracht is goedkoop geworden. Bandbreedte is het schaarse goed.

Dat klinkt contra-intuïtief, en dat is het ook. Daarom loont het om nauwkeurig te kijken — niet naar benchmarkranglijsten, maar naar wat er werkelijk in de behuizing gebeurt wanneer een model token voor token samenstelt.

Hardware moet ook bevrijd worden

Fri, 07 Aug 2026 00:00:00 +0000

Er is een moment dat iedereen kent die ooit heeft geprobeerd een oudere smartphone te blijven gebruiken.

Het apparaat werkt. Het scherm is heel, de accu houdt stand, de hardware zou ruim voldoende zijn voor wat u nodig hebt — berichten, een kaart, een gesprek. Maar het besturingssysteem wordt niet meer ondersteund. Apps stoppen met werken. Een bank-app weigert dienst. Een messenger toont een waarschuwing die niemand leest, en werkt dan niet meer. En plotseling ligt een volledig functionerend stuk technologie in een la — niet omdat het kapot is, maar omdat het verouderd werd.

Hardware on libcom.de

Lokale AI: van bureau tot inference-server

Hardware moet ook bevrijd worden