Shadow-AI in het MKB: risico's, omvang en aanpak

Shadow-IT is een bekend fenomeen: medewerkers die zonder toestemming van IT eigen tools en systemen gebruiken. Shadow-AI is de nieuwe variant. Het groeit sneller dan een IT-afdeling kan bijhouden.

Dit whitepaper beschrijft wat shadow-AI is, hoe wijdverbreid het is, welke risico's het meebrengt en hoe je er als organisatie mee omgaat zonder innovatie te remmen.

Wat is shadow-AI?

Shadow-AI is het gebruik van AI-tools door medewerkers zonder dat de organisatie ervan weet of er toestemming voor gaf. Het gaat niet om kwaadwilligheid. Het gaat om medewerkers die hun werk beter of sneller willen doen en daarvoor tools inzetten die ze zelf hebben gevonden.

Concrete voorbeelden: een medewerker die klantmails laat herschrijven door ChatGPT. Een HR-medewerker die sollicitatiebrieven laat samenvatten door een AI-tool. Een marketingmedewerker die afbeeldingen laat maken door een gratis AI-dienst. Een financieel medewerker die een AI-browserextensie gebruikt om spreadsheets te analyseren.

Al deze situaties hebben twee dingen gemeen. De organisatie weet er niet van. En bedrijfsgegevens worden verwerkt via kanalen die de organisatie niet heeft goedgekeurd, beoordeeld of contractueel geregeld.

De omvang van het probleem

Het gebruik van generatieve AI op het werk is snel gegroeid. Een flink deel daarvan gebeurt buiten goedkeuring, beleid of zicht van de werkgever. In de Work Trend Index van Microsoft en LinkedIn van mei 2024 zei driekwart van de kenniswerkers AI op het werk te gebruiken. Van die gebruikers bracht 78 procent eigen AI-tools mee naar het werk, het zogenoemde "bring your own AI". Dat kwam in alle leeftijdsgroepen voor, het vaakst bij jongere medewerkers.

Bij kleine en middelgrote bedrijven lag dat aandeel nog iets hoger, op 80 procent. Microsoft gebruikt daarbij wel een eigen indeling naar bedrijfsgrootte. Shadow-AI is in het MKB bovendien extra lastig te beheersen. Grote bedrijven hebben vaker securityteams en software die verkeer naar publieke AI-diensten opmerken. Precies dat ontbreekt in het MKB vaak.

Het gevolg is dat er in een kleinere organisatie vaak weinig zicht is op welke AI-tools medewerkers gebruiken, welke gegevens ze ermee delen en welke risico's dat meebrengt.

De risico's

Shadow-AI brengt vier soorten risico's mee.

1. Dataverlies en privacy

Wanneer medewerkers bedrijfsgegevens invoeren in publieke AI-tools, verlaten die gegevens de organisatie. Ze worden verwerkt op externe servers, mogelijk buiten de EU. Afhankelijk van de tool, het soort account, de instellingen en het contract kunnen ze ook worden gebruikt om AI-modellen te verbeteren.

Browserextensies zijn een bijzonder riskante vorm van shadow-AI zodra ze ruime rechten hebben. Een medewerker denkt een handige samenvattingsknop te gebruiken. Intussen kan de extensie meelezen met de tekst op het scherm, ook met vertrouwelijke mails, financiële gegevens en klantinformatie. Zo kan het in feite een datalek of een onrechtmatige verwerking worden, met een AI-sausje.

Dit is niet alleen een bedrijfsrisico. Het is ook een risico onder de GDPR, de Europese privacywet. In België kan de Gegevensbeschermingsautoriteit in beeld komen zodra shadow-AI leidt tot onrechtmatige verwerking van persoonsgegevens of tot een datalek dat gemeld moet worden.

2. Kwaliteitsrisico's

AI-tools produceren tekst die overtuigend klinkt maar feitelijk onjuist kan zijn. Dat noemen we hallucinaties. Gebruiken medewerkers zonder training AI-tekst zonder die te controleren, dan kan onjuiste informatie in klantcommunicatie, rapporten of besluiten terechtkomen.

Een concreet voorbeeld: er zijn advocaten gesanctioneerd en beboet omdat ze door AI verzonnen rechtspraak in processtukken hadden opgenomen. De AI had die zaken simpelweg bedacht. Niemand had het gecontroleerd voordat het stuk werd ingediend.

3. Compliance-risico's

Om aan de EU AI Act te voldoen, moet je als organisatie in de praktijk weten welke AI-systemen je gebruikt en welk risiconiveau daarbij hoort. Voor hoogrisico-AI stelt de wet daarnaast specifieke eisen aan documentatie en gebruik. Als je niet weet dat medewerkers AI gebruiken, kun je dat niet in kaart brengen. En als een toezichthouder vraagt welke AI-systemen je inzet, is "dat weten we niet" geen sterk antwoord. Wat de wet over AI-geletterdheid van je vraagt, lees je op de pagina EU AI Act.

Daarnaast verbiedt de AI Act een aantal toepassingen die medewerkers onbewust kunnen inzetten. Emotieherkenning bij medewerkers op de werkvloer? Verboden, behalve om medische redenen of voor de veiligheid. De stemming van klanten peilen met AI is niet automatisch verboden. Het raakt wel aan transparantie, de GDPR en consumentenbescherming. Mensen een score geven op hun gedrag (social scoring) en hen daardoor onterecht of onevenredig benadelen? Verboden. Andere vormen van scoring kunnen hoogrisico zijn in plaats van verboden, afhankelijk van doel en effect. Wanneer je AI-gebruik wél moet melden aan wie ermee te maken krijgt, zetten wij apart op een rij. Waar je organisatie staat, zoek je in tien stappen uit met onze gratis EU AI Act Compliance Checklist.

4. Reputatierisico's

Stel dat een klant ontdekt dat zijn vertrouwelijke gegevens zijn verwerkt door een publieke AI-tool. Of dat een sollicitant ontdekt dat zijn sollicitatiebrief zonder zijn toestemming door ChatGPT is samengevat. De reputatieschade kan groter zijn dan de juridische gevolgen.

Waarom alleen verbieden niet werkt

De eerste reactie op shadow-AI is vaak: verbieden. Blokkeer ChatGPT op het bedrijfsnetwerk. Verbied AI-browserextensies. Maak een streng beleid met sancties.

Alleen verbieden werkt niet. Riskante tools blokkeren kan een noodzakelijk deel van je beleid zijn. Maar een verbod zonder goedgekeurde alternatieven, beleid en training duwt het gebruik meestal verder ondergronds. Medewerkers vinden vaak een omweg. Shadow-AI is bijna altijd een signaal van behoefte en niet van kwade wil. Zie het dus niet als rebellie. Zie het als gratis marktonderzoek naar wat je eigen team nodig heeft. En AI gaat niet meer weg: organisaties die AI verbieden, lopen het risico achter te raken. Vaak halen mensen ook gewoon te weinig uit de tools die ze zelf vinden.

De aanpak: kanaliseren in plaats van alleen blokkeren

De rol van de IT-afdeling

IT kan tools blokkeren, netwerkverkeer volgen en zakelijke licenties beheren. Maar het beleid moet van de directie komen, de training van HR en de cultuurverandering van iedereen. Of je organisatie daarbij als provider of als deployer geldt, maakt verschil voor wat er van je wordt verwacht. Een provider ontwikkelt een AI-systeem. Een deployer gebruikt het.

Een slimme aanpak: gebruik je firewall niet alleen om te blokkeren maar ook om door te sturen. Surft een medewerker naar een AI-site die niet is goedgekeurd? Stuur hem dan naar een interne pagina met de boodschap: "Wil je AI gebruiken? Goed idee. Gebruik onze veilige bedrijfsomgeving en volg eerst de training over AI-geletterdheid."

Conclusie

Shadow-AI los je niet op door het alleen te verbieden. Het is een signaal dat je organisatie achterloopt op wat medewerkers nodig hebben. De oplossing is niet minder AI maar betere AI: goedgekeurd, beveiligd en ondersteund door beleid en training.

Pak je shadow-AI serieus aan, dan los je vaak twee problemen tegelijk op. Het compliance-risico wordt kleiner. En de productiviteit kan stijgen omdat medewerkers met betere tools werken, op een veiligere manier. Wat opleiden oplevert rekenden wij apart door.

Hulp nodig bij het aanpakken van shadow-AI in je organisatie? AIAdopt helpt je met het traject, van inventarisatie en risicobeoordeling tot beleid en training. In onze training over AI-geletterdheid komt shadow-AI terug in de modules voor medewerkers, leidinggevenden en IT. Met de gratis AI-AdoptieScan breng je anoniem in kaart welke AI-chatbots je medewerkers uit zichzelf gebruiken. Wil je de inventarisatie en de risicobeoordeling laten doen, dan kan dat via een AI Adoption Assessment. En anders neem je gewoon contact op.

Bron: Microsoft en LinkedIn, AI at Work Is Here. Now Comes the Hard Part, Work Trend Index 2024, gepubliceerd 8 mei 2024.

Geschreven door Rob Ummels in samenwerking met Claude (Anthropic). Redactionele eindverantwoordelijkheid: Rob Ummels.