Behandel de keuze tussen lokale versus cloud-AI als een governancebeslissing per werkstroom, niet als productkeuze. Lokaal levert pas privacywinst op als u de hele datapijplijn auditeert (inference, logging, synchronisatie), edge-omgevingen zelf hardent en per taak vastlegt welke gegevens het apparaat nooit mogen verlaten.
Aanleiding is een concrete productwijziging: Perplexity kondigde begin september 2026 een 'hybrid compute'-functie in zijn Mac-app aan, waarbij een lokale 'privacy gate' op het apparaat bepaalt welke informatie de machine mag verlaten en de rest van de taak naar de cloud gaat. Dat maakt de oude tweedeling lokaal is privé, cloud is dat niet tastbaar onhoudbaar. De rest van dit stuk vertaalt die verschuiving naar beslisregels die u zelf per werkstroom kunt toepassen en aantonen.
Waarom betekent 'lokaal draaien' niet automatisch dat mijn data privé blijft?
Een academische paper op arXiv, Local Is Not a Sufficient Privacy Boundary, analyseert on-device AI als een besturingssysteem-gecentreerd ecosysteem. De auteurs stellen dat privacy niet volgt uit de locatie van de inference, maar uit beperkte informatieflows, gebonden bevoegdheden en auditeerbare besturing. Zij introduceren een zesdelige risicotaxonomie en waarschuwen expliciet dat lokale inference alsnog gevoelige data kan lekken via crashlogs, analytics en permissies als de onderliggende OS- en app-architectuur niet ontworpen en geverifieerd is.
De praktische les: 'lokaal' verplaatst het risico, het verwijdert het niet. Naar onze inschatting is het gevaarlijkste scenario niet de cloud, maar een lokale opstelling die als privé wordt verkocht terwijl analytics, telemetrie of synchronisatie de data alsnog het apparaat af sturen. Wie de belofte serieus neemt, moet de volledige datapijplijn in kaart brengen, niet alleen de plek waar het model rekent. Datzelfde principe geldt bij het controleren waar uw prompts naartoe gaan.
Welke extra beveiligingstaken krijg ik als AI-inference in mijn eigen omgeving draait?
Microsoft Security beschrijft in zijn guidance over het beveiligen van edge-AI in klantomgevingen hoe het beveiligingsmodel kantelt zodra inference in uw eigen omgeving draait in plaats van in een centrale cloud. U krijgt meer controle over hardware, platform en modelweights, maar moet zelf vertrouwen opbouwen in runtimes en artefacten, runtime-beleid afdwingen en gevoelige assets alleen binden aan geattesteerde omgevingen. De guidance noemt prompt-injectie, model-tampering en malafide firmware in dezelfde omgeving als klantdata en credentials.
Concreet betekent dit dat lokale AI verantwoordelijkheid naar u verschuift. Microsoft adviseert attestation, provenance en mediation als governance-lagen. In gewone termen: kunt u aantonen dat het model dat draait ook het model is dat u bedoelde (attestation), waar het vandaan komt (provenance) en dat de acties ervan begrensd zijn (mediation)?
- Harden de runtime en verifieer de herkomst van modelbestanden en updates.
- Beperk wat het model mag doen en waar het bij mag; bind gevoelige gegevens aan geattesteerde omgevingen.
- Leg logging en telemetrie vast, en controleer waar die logs naartoe gaan.
- Behandel elk lokaal apparaat als een eigen kwetsbaarheid onder centraal beleid.
Hoe verdeel ik taken tussen lokale en cloudmodellen volgens 'process local, learn global'?
De praktijkbronnen wijzen alle op hybride architecturen als de reële norm. De Executive Privacy Playbook van Vertu stelt dat de meeste high-end apparaten in 2026 een hybride model gebruiken, waarbij privacy-kritische en latency-gevoelige taken on-device draaien en complexe taken naar de cloud gaan; het waarschuwt tegelijk dat applicaties nog steeds kunnen loggen, synchroniseren en delen via andere kanalen. Ambient.ai beschrijft het patroon 'process local, learn global': edge-apparaten verwerken gereguleerde en tijdkritische data lokaal, terwijl de cloud dient voor geaggregeerde analytics, onder een zero-trust-beleid dat cloud en edge in één governance-systeem vangt.
IntelliSee illustreert de afweging in fysieke beveiliging: continu video naar de cloud streamen creëert afhankelijkheid van netwerk en datacenters, terwijl edge-AI dataminimalisatie en lokale controle mogelijk maakt, maar extra beheer- en hardening-taken introduceert. Dezelfde afweging speelt in andere hoog-trust domeinen zoals zorg, recht en overheid. De redactionele kern: hybride is geen tussenoplossing maar een ontwerpbeslissing die u expliciet moet documenteren.
Welke beslisregels en bewijsstukken leg ik per werkstroom vast?
Vertaal de bovenstaande inzichten naar een korte lijst die u per werkstroom invult. Naar onze inschatting is dit het punt waarop veel organisaties struikelen: ze kiezen wel een architectuur, maar leggen niet vast waarom, en kunnen dat achteraf niet aantonen. Onze aanbevolen checklist:
- Bepaal welke gegevens zo gevoelig zijn dat ze de apparaat- of netwerkgrens nooit mogen overschrijden.
- Stel per taak de latentie- en beschikbaarheidseisen vast die bepalen of cloudinference acceptabel is.
- Leg vast welke logs, attestation en provenance-artefacten beschikbaar moeten zijn om aan privacywetgeving en sectornormen te voldoen.
- Documenteer welke beveiligingscontroles zowel de lokale als de cloudroute dragen, onder één centraal beleid.
- Herzie de instellingen periodiek, zoals de Executive Privacy Playbook adviseert.
Voor wie met vertrouwelijke of hoog-trust informatie werkt, is dit ook een AVG-vraag: het gaat niet alleen om waar de inference plaatsvindt, maar om aantoonbaar beheer van de hele keten. Onze bredere uitleg over de AVG-verantwoordelijkheden per fase van uw AI-workflow en het themahub over AI-privacy en AVG helpt om deze punten op de juiste rollen te beleggen.
Waar past een verificatielaag zoals Vera in dit beeld?
Vera is geen taalmodel en geen chatbot, maar een privacygerichte verificatielaag. De anonimisering op EU-infrastructuur vóór AI-verwerking kan gevoelige documentwaarden vervangen door synthetische, sessiegebonden equivalenten; de architectuur is ontworpen om alleen geanonimiseerde inhoud naar de geselecteerde modellen te sturen, en de workflow is fail-closed: mislukt de privacycontrole, dan wordt het document niet doorgestuurd. Dat maakt controle mogelijk over wat een cloudmodel te zien krijgt, zonder dat het correctheid garandeert of hallucinaties uitsluit. Het professionele eindoordeel blijft bij u.
Bronnen en referenties
- Local Is Not a Sufficient Privacy Boundary: An OS-Centered Framework for On-Device AI
- How to secure edge AI in customer-owned environments
- On-Device AI vs Cloud AI: The Executive Privacy Playbook
- Edge vs. Cloud AI Inference in Physical Security
- Cloud vs On-Premise Security: Why Edge AI Changes the Picture in Physical Security
Bronnen: Het artikel steunt op de arXiv-paper Local Is Not a Sufficient Privacy Boundary, Microsoft Security-guidance over edge-AI en praktijkanalyses van Vertu, IntelliSee en Ambient.ai.