Door AI moeten we anders naar security kijken

Dat AI impact heeft op de securitywereld, is de afgelopen maanden wel duidelijk geworden. Denk aan AI-agents die uit hun sandbox breken en inbreken bij andere organisaties. Maar ook de steeds grotere Patch Tuesdays van Microsoft laten duidelijk de gevolgen zien. Microsoft zet vaker AI in om bugs op te sporen, waardoor het met Patch Tuesday steeds meer gaten dicht. In september ging het om maar liefst 974 kwetsbaarheden, het hoogste aantal tot dan toe.

Toch komt AI niet alleen maar met nieuwe risico’s, meent Andress. “De risico’s die we altijd al liepen, bestaan nu ook nog”, vertelt ze. Ze noemt bijvoorbeeld datalekken, die ook voor de komst van generatieve AI al regelmatig voorkwamen. Het grootste verschil is volgens Andress dat de mogelijkheden met AI vooral groter worden én dat AI sneller werkt dan mensen.

“Maar voor mij is een van de grootste risico’s dat we niet altijd begrijpen waarom AI een bepaalde route volgt. Daardoor voert AI acties uit met onbedoelde gevolgen. Er gebeuren mogelijk dingen waar we ons niet helemaal bewust van zijn en waar we geen zicht op hebben”, gaat Andress verder.

Als voorbeeld noemt ze een gebruiker die een agent instrueert een bepaald bestand niet aan te raken. “Dus schreef de agent een script dat wel toegang kreeg tot het bestand. De agent zei vervolgens: ‘Ik als agent heb het bestand niet aangeraakt, dat was het script.’” Met andere woorden: de agent hield zich netjes aan de instructies, maar vond er een weg omheen.

Dergelijke problemen zagen we de afgelopen tijd ook regelmatig bij AI-agents van grote bedrijven die uit hun sandbox wisten te ontsnappen. “Dit is een gebied waarin we nog veel te leren hebben”, vindt Andress. “Je kunt wel een sandbox neerzetten, maar wat betekent dat nu eigenlijk en hoe definieer je een sandbox? En wat als dat niet werkt?”

“Wat mij betreft moeten we AI zien als een technologie die veel doet wat we niet verwachten. Daar moet je op voorbereid zijn”, concludeert ze. “Je moet dus echt nadenken over hoe een AI je opdracht interpreteert en zijn eigen beredenering daarop toepast. Daarmee wordt het gebruik van AI een stuk complexer.”

Dat gegeven vereist een andere benadering van security, stelt Andress. Beginnend met: wees erop voorbereid dat een agent onvoorspelbaar handelt. Want zelfs al bedenk je allerlei manieren waarop een agent een opdracht kan interpreteren, dan nog is de kans groot dat je er wel een paar vergeet. “Je moet je dus voorbereiden op wat er gebeurt als een agent iets probeert wat je niet verwacht.”

Dat betekent dat organisaties over alle potentiële gevolgen moeten nadenken en die moeten aanpakken. Dat is volgens Andress een andere benadering dan we tot nu toe hadden. “We dachten eerder vooral na over de oorzaak van een risico en probeerden die oorzaak te minimaliseren of weg te nemen. Nu moeten we veel meer gaan nadenken over de uitkomst. Dus in het geval van een sandbox moet je zeggen: ja, ik gebruik een sandbox, maar daar vertrouw ik niet volledig op. Ik ga er alvast van uit dat het op een manier uitbreekt. Als dat niet gebeurt, top. Maar als dat wel gebeurt, dan ben ik erop voorbereid.”

Volgens haar geldt die benadering niet alleen voor de omgang met AI, maar voor het gehele securitydomein. AI zorgt er immers ook voor dat cybercriminelen kwetsbaarheden sneller vinden én uitbuiten. “Ik denk niet dat we ooit op het punt komen dat we net zo snel kunnen patchen als er updates verschijnen. We moeten dus aan de slag met het mitigeren van risico’s.”

Bedrijven moeten dus goed naar hun eigen organisatie en processen kijken. “Wat kan er gebeuren en wat mag er absoluut niet gebeuren? Wat is slecht voor onze omzet of reputatie? Welke extra beveiligingslagen kan ik inzetten om een AI-agent te vertragen of af te leiden? We moeten onze beperkte middelen inzetten om de belangrijkste dingen te beveiligen.”

En daar is geen nieuwe aanpak voor nodig, zegt Andress. “We moeten echt terug naar de basis van beveiliging. Denk aan het minimaliseren van privileges en de inzet van zero trust. Het gaat om de basismaatregelen waar we het al jaren over hebben, maar die nooit goed geïmplementeerd zijn.”

De vraag is: als organisaties die maatregelen nooit goed hebben ingevoerd, waarom zouden ze dat nu dan wel doen? “Dat is erg uitdagend, maar ik denk dat we in de komende maanden wel tot het besef komen dat het nodig is.”

De volgende uitdaging is dan om te veranderen. “Dat lukt vrijwel niet binnen korte tijd. Dus komen er eerst meer beveiligingslagen en meer vangrails, zodat we de tijd krijgen om meer directe veranderingen door te voeren”, voorspelt Andress.

Dat lost vooral de problemen van hackende AI’s op. Maar AI’s die onbedoeld acties uitvoeren, daar hebben we nog geen echte verdediging tegen. “Dat proberen we allemaal nog uit te vogelen”, lacht Andress. “Daarom is dit het belangrijkste onderwerp in alle gesprekken die ik tegenwoordig voer. We delen allemaal onze ervaringen en wat we geleerd hebben, omdat we allemaal nog uitzoeken hoe we ons moeten aanpassen aan deze nieuwe wereld.”