AI on libcom.de

Lokale AI: van bureau tot inference-server

Tue, 18 Aug 2026 00:00:00 +0000

De meest onthullende maatstaf voor lokale AI staat niet vetgedrukt op de doos. Hij heet geheugenbandbreedte, wordt uitgedrukt in gigabytes per seconde, en bepaalt of een model soepel draait op je machine of hakkend de dood in stevent. Wie serieus met AI wil experimenteren en leunt op de TOPS- en NPU-cijfers zoekt op de verkeerde plek. Rekenkracht is goedkoop geworden. Bandbreedte is het schaarse goed.

Dat klinkt contra-intuïtief, en dat is het ook. Daarom loont het om nauwkeurig te kijken — niet naar benchmarkranglijsten, maar naar wat er werkelijk in de behuizing gebeurt wanneer een model token voor token samenstelt.

Kunstmatige intelligentie: een gereedschap dat geleerd moet worden

Tue, 11 Aug 2026 00:00:00 +0000

Het was een vrijdagavond, vlak voor sluitingstijd. Een loganalyse die al uren vastzat — honderden regels, een patroon dat voor de hand lag maar toch ontglipte. Ik plakte de uitvoer in een AI-tool en stelde een vraag. Dertig seconden later lag het antwoord er: precies, juist, elegant onderbouwd. Een collega had langer nodig gehad.

Een uur later wilde ik dezelfde tool een simpele YAML-file laten herschikken. Hij hallucineerde een veld dat nooit had bestaan, hield stijf vol dat het vereist was, en reproduceerde dezelfde fout vier keer achter elkaar — ook al wees ik er elke keer met de vinger recht op.