EU AI Act : Beheersing van AI

Een paar dagen geleden vond de conferentie “Artificial Intelligence Action Summit” plaats, waar de deelnemers hun prioriteiten op het gebied van AI (her)bevestigden. Deze prioriteiten omvatten een streven naar AI die openstaat voor iedereen, “inclusief, transparant, ethisch, veilig en betrouwbaar is, met inachtneming van internationale kaders”. Europa is pionier op dit gebied en introduceerde de eerste wetgeving op het gebied van artificiële intelligentie: de AI Act. De AI Act is een verordening die een aantal verplichtingen oplegt aan leveranciers en deployers van AI-systemen en -modellen, afhankelijk van het risiconiveau van deze systemen en modellen (zie onze blogpost “Een eerste kennismaking met de AI Act”).

De AI Act is op 1 augustus 2024 in werking getreden, maar de invoering ervan verloopt volgens een tijdschema dat loopt tot augustus 2027. De eerste belangrijke mijlpaal werd bereikt op 2 februari, toen het verbod op bepaalde AI-systemen en de vereisten voor AI literacy van kracht werden.

Om zich beter voor te bereiden op de implementatie van de AI Act heeft Smals zich aangesloten bij het programma van het AI-bureau van de Europese Commissie: AI Pact.

Dit AI Pact vraagt de deelnemers om drie kernacties door te voeren:

• Het vaststellen van een AI-governancestrategie;
• Het vaststellen en in kaart brengen van AI-systemen die waarschijnlijk behoren tot de categorie high risk;
• en het bevorderen van kennis over AI.

In deze blogpost delen we onze eerste ervaringen met AI literacy.

AI Literacy

AI Act, Art. 4:  AI-geletterdheid

“Aanbieders en gebruiksverantwoordelijken van AI-systemen nemen maatregelen om, zoveel als mogelijk, te zorgen voor een toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken, en houden daarbij rekening met hun technische kennis, ervaring, onderwijs en opleiding en de context waarin de AI-systemen zullen worden gebruikt, evenals met de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt.“

Dit artikel wordt aangevuld door het recital 20.

Definitie van AI-geletterdheid (AI Act, art. 3).

“AI-geletterdheid”: vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en betrokken personen, rekening houdend met hun respectieve rechten en plichten in het kader van deze verordening, in staat stellen geïnformeerd AI-systemen in te zetten en zich bewuster te worden van de kansen en risico’s van AI en de mogelijke schade die zij kan veroorzaken;

AI-geletterdheid geldt voor elk AI-product, ongeacht het risiconiveau.

Waarom is het belangrijk?

AI-geletterdheid is belangrijk om concurrerend te blijven. AI is een transformerende technologie, vaak vergeleken met elektriciteit of het internet, die de aard van veel beroepen verandert. In onze IT-business in het bijzonder zal het in de toekomst moeilijk worden om toepassingen te ontwerpen zonder AI te integreren. Om de nieuwe mogelijkheden van AI te benutten, moet een bedrijf zijn werknemers voldoende vaardigheden bijbrengen.

Hieronder staan de meest voorkomende valkuilen die te wijten zijn aan een gebrek aan AI-vaardigheden bij organisaties die AI-toepassingen ontwikkelen:

• De verkeerde technologiekeuzes maken. Veel leveranciers bieden “wonderoplossingen”, maar het gebruik van de krachtigste technologie zal niet leiden tot de gewenste resultaten als het niet het juiste antwoord is op een probleem.
• Artificiële intelligentie lijkt eenvoudig onder de knie te krijgen, maar dat is het niet. Het lukraak implementeren van algoritmes die op internet te vinden zijn (alles uitproberen en kijken wat werkt) kan bij mensen in de praktijk de valse indruk wekken dat ze de technologie onder de knie hebben. Dit stimuleert weliswaar ideevorming en creativiteit, en intelligente toepassingen kunnen hiervan het product zijn, maar het levert weinig succes op en leidt niet tot robuuste systemen. De oplossing voor dit probleem is om gebruikers te voorzien van een solide basis en van de tijd en middelen om voortdurend bij te leren.
• AI-technologieën gebruiken om het vakje ‘innovatie’ aan te vinken. Besluitvormers kunnen, onder druk om innovatieve projecten op te leveren, ambitieuze AI-initiatieven lanceren om snel hun doelen te bereiken. Het is echter niet eenvoudig om de problemen te identificeren waarbij AI een echte toegevoegde waarde heeft. In een beperkte omgeving kan een snel prototype wonderen doen, maar zodra het geïndustrialiseerd is, verdwijnt de gepercipieerde waarde snel. Organisaties zitten dan met een aanzienlijke hoeveelheid verborgen (menselijk) werk om het systeem te laten werken en tegen de tijd dat dat lukt, is de oplossing al achterhaald. Innovatie wordt verondersteld zowel nieuwigheid als echte waarde te brengen. De oplossing is om managers en besluitvormers te informeren over de werkelijke mogelijkheden en beperkingen van AI, zodat ze beter voorbereid zijn om de marketinghype te weerstaan.
• Een revolutionaire technologie gebruiken in combinatie met oude werkwijzen. AI verschilt in veel opzichten van traditionele softwareontwikkeling en dezelfde methoden toepassen zal waarschijnlijk mislukken. Hier zijn een paar voorbeelden van de unieke kenmerken van AI:
  • AI is probabilistisch: de regels worden niet expliciet geschreven door een mens, maar geleerd uit data. Een AI-systeem kan zich aanpassen aan scenario’s die het tijdens de training niet is tegengekomen, maar het gedrag ervan is niet volledig gedetermineerd en blijft beïnvloed door de gegevens die tijdens de training zijn gebruikt;
  • De ontwikkeling van op AI-gebaseerde toepassingen vereist meerdere iteraties in elke fase van het ontwikkelingsproces en vereist vaak een herdefiniëring van de vereisten. Helaas stoppen veel projecten bij de eerste ‘mislukking’, bij de eerste iteratie;
  • Het gebruiksgemak en de interactie in natuurlijke taal met AI-systemen vergroot het overgrote vertrouwen in deze systemen nog verder en hun onvoorspelbare aard wordt snel over het hoofd gezien;
  • Omdat de interne werking van AI-modellen niet volledig bekend is, moeten AI-systemen voortdurend worden gecontroleerd en aangepast.

Als er geen rekening wordt gehouden met deze verschillen, is het risico groot dat een schadelijk systeem wordt geïmplementeerd. In het beste geval zal het inefficiënt zijn, in het slechtste geval kan het schade opleveren voor sommige gebruikers (bijv. besluitvormingssystemen). Veel organisaties begrijpen niet goed hoe AI-governance werkt, ondanks de belangrijke rol die het speelt bij het voorkomen van dergelijke schade. Met een goede kennis en inzicht in de specifieke kenmerken van AI zullen organisaties echter evolueren van een situatie waarin slechte AI-governance enkel geïmplementeerd wordt omdat dit wettelijk verplicht is, naar een situatie waarin AI-governance wordt aangenomen in het belang van de organisatie en de mensen die met AI-systemen te maken hebben.

Het is belangrijk op te merken dat de problemen die gepaard gaan met het niet beheersen van AI zoals hierboven beschreven, leiden tot aanzienlijke financiële kosten.

Implementatie van AI literacy bij Smals

Smals startte in 2024 met een AI-geletterdheidsprogramma dat in 2025 verder ontwikkeld zal worden. Het doel van dit programma is drieledig. Ten eerste wordt algemene informatie over AI verstrekt aan alle deelnemers, om te verzekeren dat iedereen een basisbegrip heeft van wat AI is, de toepassingen ervan en de impact op onze sector. Ten tweede zouden de werknemers van Smals uitgerust worden met de vaardigheden om AI-tools doeltreffend te gebruiken in hun dagelijkse taken, om zo de interne processen te verbeteren en de algehele productiviteit binnen Smals te verhogen. Ten slotte wil het een groep mensen voorbereiden op meer gespecialiseerde rollen, door hen de nodige expertise te bieden om de ontwikkeling van AI-gebaseerde toepassingen van concept tot voltooiing voor hun rekening te nemen.

Dit programma is ontworpen met de technische vaardigheden en ervaring van de betrokkenen in gedachten. Het is onderverdeeld in drie categorieën:

• algemene opleiding, gericht op de hele onderneming;
• rolgebaseerde opleidingen, specifiek ontworpen voor bepaalde functies;
• projectgebaseerde opleidingen, die worden gegeven tijdens de levenscyclus van een AI-project.

Algemene inleiding tot AI

Deze opleiding is ontworpen om een uitgebreid overzicht te geven van artificiële intelligentie voor alle werknemers, met speciale aandacht voor generatieve AI. De opleiding heeft als doel het bewustzijn van de mogelijkheden, risico’s en beperkingen van AI te vergroten, zodat deelnemers een evenwichtig begrip hebben van wat AI wel en niet kan bereiken. Daarnaast behandelt de opleiding de richtlijnen voor het gebruik van AI binnen Smals, met aandacht voor compliance en ethische overwegingen. De opleiding wordt gegeven in de vorm van informatiesessies en videocapsules.

Rolgebaseerde opleidingen

De belangrijkste rollen in ons ‘AI literacy’-programma zijn:

• AI-ambassadeurs. Dankzij hun grondige kennis van de sterktes en beperkingen van AI kunnen AI-ambassadeurs potentiële use cases identificeren en prioriteren waarin AI een toegevoegde waarde kan hebben. Hun rol bestaat erin opportuniteiten te identificeren, AI te implementeren en nauw samen te werken met ons competentiecentrum om de toepassing van deze technologieën te promoten en te vergemakkelijken.
• De experts. AI-experts spelen een cruciale rol in het ontwerp, de ontwikkeling, implementatie en ondersteuning van AI-systemen binnen Smals. Ze beschikken over een diepgaande en uitgebreide kennis van verschillende AI-benaderingen, -technieken, -modellen, -tools en -frameworks, waardoor ze effectieve oplossingen kunnen creëren die zijn afgestemd op onze behoeften. Deze experts zijn proactief bezig met continue bijscholing, zodat ze voorop blijven lopen op de technologische vooruitgang op het gebied van AI. Ze vormen ook de cruciale brug tussen Smals en externe leveranciers van AI-oplossingen. Hun expertise stelt hen in staat om de AI-oplossingen van deze leveranciers te evalueren en te begeleiden, zodat we de meest geschikte en kwaliteitsvolle technologieën kunnen selecteren en implementeren.
• Data engineers richten zich op de cruciale aspecten van datamanagement. Ze moeten in staat zijn om de specifieke vereisten van AI op het gebied van gegevensverwerving, -integratie en -voorbereiding te begrijpen. Dit omvat het ontwerpen en implementeren van robuuste pipelines om gegevens te verzamelen, op te kuisen en te transformeren in formaten die geschikt zijn voor AI-modellen. Daarnaast moeten ze een gedegen kennis hebben van ‘data governance’-principes.
• Functies zoals schrijver van webcontent, developer, projectmanager, etc. Deze groepen hebben opleidingen nodig die zijn afgestemd op hun specifieke functies. Ze moeten in staat zijn om AI-ondersteunde software van gespecialiseerde leveranciers te gebruiken om hun werk te optimaliseren.
• Functionarissen voor gegevensbescherming en het juridische team. Deze mensen moeten een grondig begrip hebben van de ethische kwesties rond AI, AI governance, AI-risico’s en naleving van de regelgeving.

Projectgebaseerde training

Voor elk AI-project organiseren we korte, op maat gemaakte opleidingssessies voor alle belanghebbenden die betrokken zijn bij het bouwen van de AI-oplossing. Voor het technische team zijn deze opleidingssessies bedoeld om ervoor te zorgen dat ze een actueel begrip hebben van de technieken die worden gebruikt om de oplossing te implementeren. Businessexperts spelen ook een cruciale rol in het begeleiden van ontwerpbeslissingen en het valideren van het AI-systeem. Zij krijgen bijgevolg voorrang tijdens opleidingssessies om ervoor te zorgen dat hun expertise ten volle wordt benut om de AI-oplossing vorm te geven. Businessexperts moeten een goed begrip hebben van de praktische implicaties van AI-technologieën – de mogelijkheden en beperkingen ervan – risicobeheer en ten slotte governance-eisen.

Conclusie

Voor een organisatie is AI-geletterdheid een pijler van een succesvolle AI-strategie. Het is essentieel om iedereen die op verschillende niveaus voor de organisatie werkt erbij te betrekken. Een groot deel van de mislukkingen in AI-initiatieven is te wijten aan een gebrek aan AI-kennis of een verkeerde indruk van AI-geletterdheid. Het ontwerp van een ‘AI literacy’-programma hangt af van het gebruik dat van AI wordt gemaakt en het maturiteitsniveau van de organisatie. Het EU AI Office zal op zijn website een reeks voorbeeldprogramma’s beschikbaar stellen voor het grote publiek, samen met een aantal leidraden over dit onderwerp. Het bovenstaande programma is aangepast voor Smals.

Hoewel onze praktijken op het gebied van AI literacy nog in de kinderschoenen staan, hebben we het volgende waargenomen:

• Een verhoogde betrokkenheid van werknemers bij innovatie: onze eerste AI-opleidingssessies stimuleerden interne innovatie, wat leidde tot talrijke voorstellen om businessprocessen te verbeteren;
• Een beter begrip van de mogelijkheden van AI om de efficiëntie van interne processen te verbeteren: er is bijvoorbeeld een groeiende vraag naar tools om informatie te verzamelen en te analyseren (insight);
• Een groter bewustzijn van de risico’s die gepaard gaan met AI: onze teams gaan voorzichtiger om met het gebruik van generatieve AI-toepassingen zoals conversational agents;
• Stimuleren van continue bijscholing: de demystificatie van AI heeft geleid tot nieuwsgierigheid en self learning.