‘Wat verdient mijn baas eigenlijk?’ Een ongemakkelijke vraag aan de bedrijfs-AI. De beslissende tegenvraag is: welke documenten mag het account achter dit verzoek werkelijk lezen?
Een mogelijke fout begint lang vóór de AI.
Stel een fictief bedrijf voor. In een oude personeelsmap staat een salarisoverzicht. Bij een eerdere migratie is de map met een algemene medewerkersgroep gedeeld. Niemand gebruikt de link nog. De gedeelde toegang bestaat nog steeds.
Nu wordt een zoekfunctie voor bedrijfskennis ingevoerd. Als deze bron is aangesloten, technisch verwerkbaar is en toegankelijk is voor het vragende account, kunnen relevante fragmenten in een antwoord terechtkomen. Daarvoor hoeft geen nieuwe beveiligingsbarrière te worden doorbroken. De AI maakt een oude rechtenfout beter zichtbaar.
Dit is een hypothetisch voorbeeld. Het beschrijft geen werkelijk geval van een DAXS-klant en geen algemeen gegarandeerd gedrag van een bepaald product. Zonder passende bron en toegangsmogelijkheid kan de AI het echte bedrag niet betrouwbaar weten; een toch gegeven bedrag kan verzonnen zijn.
Drie personen, drie verschillende uitgangssituaties.
De personeelsverantwoordelijke mag het document voor haar taak lezen. Een andere persoon heeft dat recht niet; diens zoekopdracht moet de bron uitsluiten. Een derde persoon heeft door een onjuiste groepsdeling technisch toegang. Bij die persoon moet de gedeelde toegang zelf worden gecorrigeerd. Het model kan een verkeerde organisatorische beslissing niet betrouwbaar uit een prompt afleiden.
Een juist antwoord kan de verkeerde openbaarmaking zijn.
Veel AI-tests beoordelen of een antwoord juist klinkt en door documenten wordt onderbouwd. Bij vertrouwelijke informatie moet bovendien worden gecontroleerd of juist deze persoon het bewijs mag zien. Een feitelijk juist salarisantwoord kan toch onterecht informatie onthullen die binnen het bedrijf alleen een kleine groep nodig heeft.
Omgekeerd bewijst een geweigerd antwoord nog geen doeltreffende bescherming. Misschien is het document alleen niet gevonden. Toegangstests moeten daarom de bron, de zoekindex, directe opvragingen en indirecte formuleringen omvatten. Eén vriendelijke melding ‘Deze gegevens zijn vertrouwelijk’ is geen betrouwbare rechtencontrole.
Berekeningen vragen dezelfde zorgvuldigheid.
Dit gaat niet alleen over salarissen. Een medewerker kan vragen naar het gefactureerde uurtarief voor zijn werk, de voorwaarden van een klant of een interne projectmarge. Zulke gegevens kunnen in offertes en tabellen staan. Facturatietarief, dekkingsbijdrage en bedrijfswinst zijn verschillende grootheden; uit één gevonden getal kan niet verantwoord de winst op een arbeidsuur worden afgeleid.
Daarom moeten zowel de bronrechten als de kwaliteit van de gevolgtrekking kloppen. Vertrouwelijke opslaglocaties opschonen en de uitvoer inhoudelijk controleren zijn twee afzonderlijke taken.
Wat bedrijven vóór de pilot kunnen controleren.
- Personeels-, financiële en strategische documenten benoemen en verantwoordelijken toewijzen.
- Effectieve rechten controleren, inclusief groepen, overerving en deellinks.
- Testaccounts voorbereiden voor toegestane, geblokkeerde en per ongeluk te ruime toegang.
- Controleren of rechten gelden voordat fragmenten aan het model worden doorgegeven.
- Ingetrokken deelrechten ook in indexen, caches, exports en gedeelde antwoorden doorvoeren.
Voor Microsoft Copilot met Microsoft 365-gegevens beschrijft de fabrikant het gebruik van inhoud binnen de gebruikersrechten. Juist daarom moeten te ruime oorspronkelijke rechten vóór invoering worden gecorrigeerd. Andere chatproducten en aanvullende agents moeten worden beoordeeld op hun concrete gegevens- en accountmodel.
Een zinvolle volgende stap.
DAXS kan een afgebakende AI-beveiligingscontrole plannen met een bronneninventaris, rechtencontrole en gedocumenteerde negatieve tests. Het doel is een navolgbare invoeringsstatus: welke bronnen zijn voor welke gebruikers toegestaan, welke tekortkomingen zijn bekend en wie verhelpt ze?
De vakpagina over AI-beveiliging en AI Oversharing legt de controles uit. Voor de zoekarchitectuur vult Bedrijfskennis en RAG de samenhang aan.
Bronnen: Microsoft: gegevens en machtigingen · OWASP: openbaarmaking van gevoelige informatie.
