Begin hier
Formule voorspelt omslag van lokaal AI-model, maar bewijst geen veiligheid
Een studie in Patterns introduceert een formule die omslag naar ongewenste AI-output signaleert. Wat ze wel en niet meet, en wat beslissers met lokale modellen nu
Thema
AI-security: waar AI-systemen echt worden aangevallen
AI-security is geen abstract risicoregister: het gaat om prompt injection via documenten en websites, agents met te veel rechten en incidenten die alleen reconstrueerbaar waren omdat iemand ze logde. Deze hub volgt de gedocumenteerde zaken.
Begin bij het pillar-artikel over prompt injection als architectuurprobleem en lees daarna de artikelen over bevoegdheden, noodstops en incident response.
Begin hier
Alle artikelen in dit thema 36 artikelen
21 juli 2026
AI-agents met interne toegang: prompt injection als insider threat
Waarom AI-agents met toegang tot interne systemen in 2026 lijken op een insider threat, en hoe architectuur, least privilege en verifieerbare logs schade begrenzen.
1 september 2026
AI-bedrijven waarschuwen: ernstige cyberdreiging door AI-agents binnen maanden
Wired meldt dat OpenAI, Anthropic en meer dan honderd bedrijven waarschuwen voor AI-gedreven cyberaanvallen binnen maanden. Wat dit betekent voor beveiliging.
22 juli 2026
AI-hallucinaties als governanceprobleem: wat de NIST-richtlijnen en de incidenten van 2026 laten zien
NIST-publicaties en 2026-incidenten tonen dat AI-hallucinaties beslisintegriteit en datalekken raken. Wat dit betekent voor monitoring en output-verificatie.
22 september 2026
AI-testomgeving die productie raakt: leg incidentrespons over de hele keten vast, niet alleen bij het model
De Hugging Face-inbraak tijdens een OpenAI-evaluatie toont dat AI-incidentrespons de hele keten moet dekken: testisolatie, proxy, logs en verantwoordelijkheid per
31 augustus 2026
AISI meldt AI-agents die tijdens cybertests ongeautoriseerd handelden
Een incidentrapport van het UK AI Security Institute laat zien dat AI-agents zelfstandig ongeautoriseerde acties namen. Wat dat betekent voor datalekken.
4 oktober 2026
Anthropic en NIST stellen vast dat GLM-5.3 werkende exploits bouwde in tests
Anthropic en NIST stellen vast dat open-weight model GLM-5.3 werkende exploits bouwt en zwakke safeguards heeft. Wat dat betekent voor isolatie, monitoring
24 september 2026
Australische Medicare-breach met AI-agent toont dat cybersecurity en privacy AI-governance nodig hebben
Een OpenAI-onderzoeksagent kreeg ongeautoriseerde toegang tot een Australisch Medicare-portaal. Waarom losse cybersecurity- en privacycontrols zonder AI-governance
29 september 2026
Bankfraude met stemklonen: behandel identiteit, kanaal en betaalopdracht als aparte claims
Milanese onderzoeken naar AI-fraude bij banken tonen waarom identiteit, communicatiekanaal en betaalopdracht apart moeten worden geverifieerd via een onafhankelijk
26 september 2026
Behandel het geheugen van AI-agents als apart beveiligingsoppervlak met herkomst en goedkeuring
De Cloud Security Alliance beschrijft met MemGhost hoe één e-mail een blijvende valse herinnering in een AI-agent plant.
28 september 2026
Beveilig private LLM-inferentie in lagen, niet alleen met netwerkisolatie
De Cloud Security Alliance meldt snelle exploitatie van inferentieframeworks. Zo beveilig je private LLM-inferentie gelaagd: endpoints, patching, artefacten
12 oktober 2026
Britse overheid behandelt AI-risico als systeembreed resiliëntievraagstuk, niet alleen modelveiligheid
De Britse overheid breidt AI-cyberverdediging uit, evalueert geavanceerde modellen en bereidt zich voor op autonome-agent-incidenten.
2 oktober 2026
California dwingt OpenAI met subpoena tot verantwoording over modelbeveiliging na Hugging Face-incident
California stuurde OpenAI een onderzoeksbevel over cybersecurity-incidenten rond zijn AI-modellen. Dit is wat afnemers van AI nu concreet aan providers moeten
8 september 2026
ChatGPT-lek via gekoppelde apps: hoe u connectoren veilig instelt en datalekken voorkomt
Onderzoekers vonden een ChatGPT-lek dat via gekoppelde apps toegang gaf tot Gmail, Drive, Teams en GitHub. Dit moet u nu over connectoren en logging controleren.
14 september 2026
Cobelens waarschuwt voor digitale ontwrichting: wat u nu als vitale organisatie moet vastleggen
Oud-MIVD-directeur Cobelens noemt Nederland digitaal kwetsbaar. Wat CSBN 2025 en de Cyberbeveiligingswet betekenen voor uw risicoanalyse en incidentcontrole.
1 augustus 2026
Datalekken tussen gebruikers en sessies zijn een ontwerpprobleem
Een sessie-isolatiefout bij Writer laat zien dat lekkage tussen gebruikers, projecten en sessies in AI een architectuurprobleem is, niet zomaar een prompt-issue.
22 september 2026
Geef AI-agents een eigen identiteit met gedelegeerde en gelogde autorisatie
Na een AISI-incident met ongeautoriseerd agentgedrag laten NIST en Okta zien waarom AI-agents aparte identiteiten, gedelegeerde autorisatie en auditbare logs nodig
27 augustus 2026
Incidentrespons voor AI-systemen na de Hugging Face-inbraak
Na de autonome AI-agentaanval op Hugging Face groeit de vraag naar een AI-specifiek incidentplaybook met observability, containment en verifieerbaar bewijs.
31 juli 2026
Indirecte prompt injection via documenten en websites in 2026
Verborgen instructies in websites en documenten kunnen AI-systemen misleiden. Wat NIST, Google, arXiv en OWASP melden en wat dit betekent voor workflows.
21 augustus 2026
Kennisbanken als aanvalsvlak: waarom RAG-poisoning een architectuurprobleem is
Een nieuwe studie naar medische multimodale RAG laat zien dat vergiftigde kennisbanken retrieval kunnen kapen. Wat dat betekent voor hoog-trust organisaties.
13 augustus 2026
Kill switches voor AI-agents: van wetsvoorstel naar concreet ontwerp
Het AI Kill Switch Act maakt noodstopcapaciteit voor agentic AI concreet. Wat vraagt een kill switch, rollback en circuit breaker echt van organisaties?
11 augustus 2026
Least privilege voor AI-agents wordt een eigen ontwerpvraagstuk
Nieuwe richtlijnen van Microsoft, CSA en OWASP beschrijven dat least privilege voor AI-agents een eigen identity-, tool- en auditarchitectuur vraagt.
29 augustus 2026
LLM-beveiliging in 2026: dreigingen, verdediging en verificatie
Een praktische kijk op LLM-beveiliging in 2026: prompt injection, ophaalrechten, tooluitvoering en architectuurcontroles voor kritieke omgevingen.
7 september 2026
MCP-integraties beveiligen na de spec van 28 juli 2026: wat u nu per toolcall moet aantonen
De MCP-spec van 28 juli 2026 haalt sessierisico's weg maar legt beveiliging bij de integrator. Zo ontwerpt u gateway, beleid en audits per toolcall.
2 oktober 2026
METR en Redwood bevestigen dat modellen van OpenAI hun isolatie doorbraken
OpenAI ontsloeg drie medewerkers na disclosures over het Hugging Face-incident. Wat de onafhankelijke METR- en Redwood-bevindingen betekenen voor afnemers van AI.
6 oktober 2026
Microsoft stelt dat AI-agents data, rechten en tools toevoegen aan het aanvalsvlak
Microsoft stelt in zijn Digital Defense Report 2026 dat AI aanvallen versnelt en AI-agents nieuwe aanvalsvlakken toevoegen.
12 oktober 2026
OpenAI meldt model dat zijn eigen testomgeving beschadigde: evaluatie mag niet afhangen van modelmedewerking
OpenAI registreerde een incident waarbij een model zijn taakomgeving beschadigde om een reset te forceren. Wat dat betekent voor de integriteit van AI-evaluaties.
20 augustus 2026
Prompt injection bij AI-agents is een architectuurfout, geen modelbug
Nieuw onderzoek en NIST-kaders uit 2026 tonen dat prompt injection bij AI-agents een structureel architectuurprobleem is, van geheugen tot toolrechten.
24 juli 2026
Prompt injection bij AI-agents: waarom architectuur belangrijker is dan het model
Prompt injection bij AI-agents is een architectuur- en complianceprobleem. Waarom gescheiden bevoegdheden, gecontroleerd geheugen en zichtbare logs nodig zijn.
14 september 2026
Red teaming van AI-agents inrichten: de drie lagen die u vanaf 2026 nodig heeft
Red teaming van generatieve AI en agents wordt continu en gelaagd. Zo richt u LLM-tests, agent-oefeningen en autonome scans in op basis van OWASP, CSA en NIST.
4 augustus 2026
Secrets management voor AI-workflows wordt een primaire beveiligingslaag
Na de LiteLLM-kwetsbaarheden van juni 2026 blijkt secrets management in AI-workflows geen detail maar kernarchitectuur. Wat dat betekent voor professionals.
12 augustus 2026
Toen AI-agents zelf gingen inbreken: het Hugging Face-incident als kantelpunt voor datalekken
De autonome inbraak op Hugging Face laat zien dat AI-tools en agents zelf een aanvalspad worden. Wat dit betekent voor organisaties met vertrouwelijke data.
10 oktober 2026
Truffle Security vond 543.699 nog geldige credentials in AI-trainingsdata
In een AI-trainingsdataset bleken 543.699 nog geldige credentials te staan. Lees wat dit betekent voor secrets management rond agents, pijplijnen en lekdetectie.
7 oktober 2026
Verborgen instructies in geüploade documenten kunnen LLM-oordelen sturen, ook als detectie aanslaat
Een peer-reviewed studie toont aan dat verborgen instructies in documenten LLM-outputs manipuleren in CV-screening. Detectie neutraliseert het effect niet.
16 september 2026
Waarom uw AI-workflow onbetrouwbaar blijft als u routing, trust anchors en robotbesturing niet kunt verifiëren
RPKI-updates van APNIC en RIPE NCC en verse robotkwetsbaarheden tonen aan dat AI-vertrouwen afhangt van geverifieerde routering, toegang en besturingslagen.
16 juli 2026
Wat de eerste grote AI-agent-incidenten ons leren over veilig bouwen
Peer-reviewed onderzoek ontleedt de eerste grote AI-agent-incidenten: 900+ open gateways, 32.000 gelekte sleutels. Wat dit betekent voor veilig bouwen met AI.