Accountants moeten AI-agents gaan beschermen tegen manipulatie

Bedrijven krijgen er nog een kopzorg bij als het gaat over cyberveiligheid. Ze moeten niet alleen de digitale omgeving van hun medewerkers veilig houden, maar tegenwoordig ook hun AI-agents. Dat geldt ook voor accountantskantoren, die steeds meer gebruikmaken van AI.

“AI-agents krijgen steeds vaker toegang tot gevoelige processen en kunnen, net als mensen, worden gemanipuleerd door cybercriminelen”, betoogt Martin J. Krämer, CISO Advisor van KnowBe4. “Wie AI inzet zonder duidelijke beveiligingsgrenzen, creëert een nieuwe ingang voor aanvallers.”

Krämer is een Duitse cybersecurity-expert, onderzoeker en veelgevraagd spreker op het gebied van security awareness, menselijk gedrag in cybersecurity, privacy en AI-risico’s. Hij is vooral bekend vanwege zijn werk rond de menselijke factor in cyberveiligheid.

Dieper probleem
Veel aandacht gaat uit naar de techniek achter deze aanval, maar Krämer betoogt dat het werkelijke probleem dieper zit. “Organisaties geven AI-agents steeds vaker bevoegdheden om klantvragen af te handelen, accounts te beheren en processen uit te voeren. Daarmee worden deze systemen feitelijk digitale medewerkers. Toch worden ze vaak nog behandeld als gewone software, terwijl ze zelfstandig beslissingen nemen en rechtstreeks invloed hebben op bedrijfsprocessen.”

Dat brengt nieuwe risico’s met zich mee, vervolgt Krämer. “Cybercriminelen richten hun social engineering-aanvallen allang niet meer uitsluitend op mensen. Ook AI-agents kunnen worden gemanipuleerd met zorgvuldig geformuleerde instructies. Anders dan traditionele software redeneren deze systemen zelfstandig en kunnen zij afwijken van vooraf vastgestelde beleidsregels wanneer zij worden beïnvloed door misleidende input.”

Beperk wat AI-agents mogen doen
Een AI-agent mag in de ogen van Krämer nooit zelfstandig een nieuw e-mailadres aan een account moeten kunnen toevoegen, zonder verificatie via een bestaand en vertrouwd e-mailadres of telefoonnummer. “Dat is geen gebruikersfout, maar een ontwerpfout. AI-agents mogen uitsluitend toegang krijgen tot de specifieke rechten die nodig zijn om hun taak uit te voeren, en niet meer dan dat.”

“Organisaties moeten daarom hun beveiligingsstrategie aanpassen aan deze nieuwe werkelijkheid. Dat begint met multi-factor authenticatie, sterke wachtwoordhygiëne en continue training over social engineering via alle communicatiekanalen. Daarnaast moeten AI-agents dezelfde beveiligingscontroles krijgen als menselijke medewerkers: duidelijke bevoegdheden, voortdurende monitoring en strikte toegangsrechten.”

“De vraag is niet of cybercriminelen vaker AI-agents gaan manipuleren, maar of organisaties daarop zijn voorbereid. Zolang bedrijven AI meer bevoegdheden geven zonder dezelfde controle, monitoring en beveiliging toe te passen als bij menselijke medewerkers, riskeren zij dat een gemanipuleerde AI-agent toegang verleent tot gevoelige accounts, persoonsgegevens en bedrijfskritische processen.”