Krijgen accountants extra werk door AI-act?

Op 1 augustus 2024 is de Europese Unie’s Artificial Intelligence Act (EU AI Act) in werking getreden. Deze wetgeving is de eerste uitgebreide wet die zich richt op recent ontwikkelde geavanceerde AI-systemen, waaronder generatieve AI (Gen AI). De EU AI Act heeft betrekking op entiteiten binnen en buiten de EU.

• Registeraccountants moeten AI-risico’s beoordelen
• Nalevingsprocedures moeten worden aangepast
• Training nodig voor AI-expertise.

De wetgeving is van toepassing op:
1. Aanbieders van AI-systemen die deze op de markt brengen of in gebruik nemen in de EU, ongeacht hun vestigingsplaats.
2. Gebruikers van AI-systemen met een vestigingsplaats of locatie in de EU.
3. Aanbieders en gebruikers van AI-systemen gevestigd in een derde land, waarvan de output in de EU wordt gebruikt.
4. Importeurs en distributeurs van AI-systemen.
5. Productfabrikanten die AI-systemen op de markt brengen samen met hun producten.
6. Geautoriseerde vertegenwoordigers van aanbieders buiten de EU.
7. Getroffen personen binnen de EU.

[Artikel gaat verder na de volgende advertentie]

Zorg dat uw CFO's het verschil maken

Goed adviseren betekent uw cliënten informeren over relevante informatie en evenementen. Attendeer de CFO’s uit uw netwerk daarom op Leadership in Finance Summit 2024. Op 7 november gaan 300 CFO’s, financieel directeuren en corporate controllers met experts in gesprek over hoe AI de rol van finance leaders herdefinieert.

Wijs uw CFO’s op Leadership in Finance Summit 2024

Definitie van AI-Systemen

De EU AI Act definieert AI-systemen als “een machine-gebaseerd systeem dat is ontworpen om te opereren met variërende niveaus van autonomie en dat na de inzet adaptiviteit kan vertonen, met als doel om van de ontvangen input output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die fysieke of virtuele omgevingen kunnen beïnvloeden.”

Risicogebaseerde benadering

De regelgeving past een risicogebaseerde aanpak toe en beoordeelt risico’s in de volgende categorieën:
– Onaanvaardbaar risico
– Hoog risico
– Beperkt risico
– Minimaal risico

Impact op controle door accountants

De inwerkingtreding van de EU AI Act brengt nieuwe nalevingsvereisten met zich mee voor bedrijven die AI-systemen ontwikkelen of gebruiken. Accountants moeten deze nalevingsvereisten in hun controleprocessen integreren. Toch zijn de specifieke bepalingen van de wetgeving -en hoe deze van toepassing zijn op de AI-systemen die een bedrijf gebruikt- nog onduidelijk, zeggen experts.

Risicobeoordeling van AI-Systemen

Accountants zullen AI-systemen moeten beoordelen op basis van hun risicocategorie zoals gedefinieerd door de EU AI Act. Dit vereist een gedetailleerde analyse van hoe AI-systemen functioneren, welke data ze gebruiken, en welke beslissingen ze nemen. De risicocategorieën variëren van minimaal tot onaanvaardbaar risico, waarbij elk niveau specifieke nalevingsvereisten en controlemaatregelen met zich meebrengt. Dit kan het volgende inhouden:

• Het opstellen van nieuwe controleprogramma’s gericht op AI-risico’s.
• Het integreren van AI-specifieke nalevingscontroles in de standaard controleprocedures.
• Het ontwikkelen van expertise binnen het controleteam op het gebied van AI-technologieën en de bijbehorende risico’s.

Toezicht 

Een belangrijk aspect van de EU AI Act is de nadruk op transparantie en verantwoording in AI-systemen. Controlerend accountants moeten ervoor zorgen dat bedrijven adequate documentatie en controlemechanismen hebben om de werking van hun AI-systemen te verantwoorden. Dit omvat:

1, Het controleren van de datasets die worden gebruikt om AI-modellen te trainen.
2. Het evalueren van de algoritmen en hun beslissingsprocessen.
3. Het beoordelen van de mechanismen die bedrijven gebruiken om de output van AI-systemen te monitoren en te corrigeren.

Boetes

Niet-naleving van de EU AI Act kan leiden tot aanzienlijke financiële boetes, wat een directe impact kan hebben op de financiële positie van een bedrijf. Registeraccountants moeten deze potentiële risico’s in hun financiële verslaggeving opnemen en bedrijven adviseren over hoe ze naleving kunnen waarborgen om boetes te vermijden.