Transparantie en logging bij AI-systemen: wat ISO 42001 en de EU AI Act concreet eisen

Als er iets misgaat met een AI-systeem, is de eerste vraag altijd dezelfde: wat is er precies gebeurd? Welke input kreeg het systeem, welke versie van het model draaide er, en heeft er een mens naar gekeken? Organisaties die deze vragen niet kunnen beantwoorden, hebben een probleem dat groter is dan het incident zelf. Ze kunnen niet reconstrueren, niet leren en niet verantwoorden. Precies daarom stellen zowel ISO 42001 als de EU AI Act eisen aan transparantie en logging van AI-systemen. In dit artikel: wat die eisen inhouden, wat je in de praktijk moet vastleggen en waar het in audits misgaat.

Waarom transparantie en logging bij elkaar horen

Transparantie en logging worden vaak als losse onderwerpen behandeld, maar ze zijn twee kanten van dezelfde medaille. Transparantie gaat over de vraag wat je vooraf en tijdens het gebruik vertelt: aan gebruikers, aan betrokkenen en aan afnemers. Logging gaat over wat je achteraf kunt aantonen: welke beslissing is genomen, op basis waarvan en onder welke omstandigheden. Een organisatie die transparant claimt te zijn maar niets logt, kan haar eigen claims niet onderbouwen. En een organisatie die alles logt maar niemand informeert, voldoet evenmin aan de verwachtingen van de norm en de wet.

Wat ISO 42001 vraagt

ISO 42001 benadert transparantie als een beheersdoel dat door het hele AI-managementsysteem heen loopt. De norm verwacht ten eerste technische documentatie per AI-systeem: wat doet het systeem, voor welk doel is het bedoeld, welke data gebruikt het en wat zijn de bekende beperkingen. Ten tweede verwacht de norm dat relevante belanghebbenden geïnformeerd worden over het gebruik van AI, op een manier die past bij hun rol. Een klant die geautomatiseerd beoordeeld wordt heeft andere informatie nodig dan een interne beheerder. Ten derde vraagt de norm om het vastleggen van gebeurtenissen gedurende de levenscyclus van het systeem, zodat achteraf te reconstrueren is hoe het systeem zich heeft gedragen en welke wijzigingen er zijn doorgevoerd.

Belangrijk is dat de norm geen specifieke techniek voorschrijft. De auditor toetst of de organisatie zelf heeft bepaald wat er per systeem gelogd en gecommuniceerd moet worden, of die keuze aansluit op de risicobeoordeling, en of de praktijk overeenkomt met het beleid. Een risicoarme interne toepassing vraagt om minder dan een systeem dat besluiten over mensen neemt. Die proportionaliteit moet je wel kunnen uitleggen.

De EU AI Act: logging als wettelijke plicht

Voor hoog-risico AI-systemen maakt de EU AI Act logging expliciet verplicht. Artikel 12 eist dat hoog-risico systemen technisch in staat zijn om gebeurtenissen automatisch te registreren gedurende hun levensduur. Doel daarvan is traceerbaarheid: het moet mogelijk zijn om situaties te identificeren die een risico kunnen vormen of die tot substantiële wijziging leiden, en om het functioneren van het systeem achteraf te controleren.

Artikel 13 verplicht aanbieders om gebruiksverantwoordelijken te voorzien van duidelijke gebruiksinformatie: de mogelijkheden en beperkingen van het systeem, de beoogde context, de verwachte nauwkeurigheid en de omstandigheden waarin het systeem niet gebruikt moet worden. Wie AI inkoopt, heeft dus recht op deze informatie en doet er verstandig aan die ook echt op te vragen en te bewaren als onderdeel van de eigen bewijslast.

Ook gebruiksverantwoordelijken zelf hebben verplichtingen. Artikel 26 bepaalt onder meer dat zij de automatisch gegenereerde logs van een hoog-risico systeem bewaren voor een periode die past bij het doel, met een minimum van zes maanden, voor zover de logs onder hun controle vallen. In de praktijk betekent dit dat je bij het inkopen van hoog-risico AI moet regelen dat je die logs überhaupt krijgt of kunt inzien. Dat hoort thuis in het contract, niet in een discussie achteraf.

Daarnaast kent de verordening transparantieverplichtingen die los staan van de risicoclassificatie. Wie een chatbot of ander interactief AI-systeem aanbiedt, moet gebruikers laten weten dat ze met AI communiceren. Synthetische content zoals AI-gegenereerde audio of video moet als zodanig herkenbaar zijn. Deze verplichtingen gelden breed en worden in de praktijk nogal eens vergeten bij toepassingen die verder laag risico zijn.

Wat moet je in de praktijk loggen?

Een werkbare basisset per AI-systeem met betekenisvolle impact ziet er zo uit. Ten eerste de context van elke relevante verwerking: tijdstip, systeemversie en modelversie, en de configuratie of drempelwaarden die actief waren. Ten tweede de input en output op een niveau dat reconstructie mogelijk maakt, waarbij je scherp moet kiezen wat je wel en niet bewaart. Ten derde menselijke tussenkomst: wie heeft een uitkomst beoordeeld, overgenomen of overruled, en wanneer. Ten vierde wijzigingen: hertraining, nieuwe modelversies, aangepaste prompts of drempels, met datum en verantwoordelijke.

Let daarbij op de spanning met de AVG. Logs van AI-systemen bevatten al snel persoonsgegevens, en uitgebreider loggen betekent meer data die je moet beveiligen en op tijd moet verwijderen. Bepaal daarom per systeem een bewaartermijn die zowel de reconstrueerbaarheid dient als de beginselen van dataminimalisatie respecteert, en leg die afweging vast. Loggen is geen doel op zich; het is een beheersmaatregel met een eigen risicoprofiel.

Waar het in audits misgaat

Drie patronen komen wij herhaaldelijk tegen. Het eerste: er wordt wel gelogd, maar niemand heeft vooraf bepaald waarvoor. De logs blijken bij een incident net niet te bevatten wat nodig is, bijvoorbeeld omdat de modelversie ontbreekt of omdat prompts niet zijn bewaard. Het tweede: transparantie bestaat alleen op papier. Er is een mooie privacyverklaring, maar de gebruiker die daadwerkelijk met een AI-systeem te maken krijgt, ziet daar op het beslismoment niets van. Het derde: bij ingekochte AI is nooit geregeld dat de organisatie toegang heeft tot logs van de leverancier, waardoor de wettelijke bewaarplicht praktisch onuitvoerbaar is.

De rode draad: logging en transparantie moeten ontworpen worden, per systeem en vooraf. Wie het als bijproduct behandelt, ontdekt de gaten op het slechtst denkbare moment.

Conclusie

Transparantie en logging zijn de aantoonbaarheidslaag van AI-governance. ISO 42001 vraagt erom vanuit het managementsysteem, de EU AI Act verankert het wettelijk voor hoog-risico systemen en interactieve toepassingen. De organisaties die dit goed doen, hebben per AI-systeem bepaald wat er gelogd wordt en waarom, hebben de bewaartermijnen afgewogen tegen de AVG, en kunnen bij elk relevant besluit reconstrueren wat er is gebeurd. Dat is geen bureaucratie; het is het verschil tussen een beheerst incident en een onbeheersbaar dossier.

Secure Audit helpt organisaties bij het inrichten van aantoonbare AI-governance, van logging- en transparantie-eisen tot een certificeerbaar AIMS onder ISO 42001. Neem contact op voor een vrijblijvend gesprek.