Introductie
De Artificial Intelligence Act (EU AI Act) van de Europese Unie is een baanbrekende verordening die tot doel heeft de ontwikkeling en inzet van betrouwbare AI-systemen te bevorderen. Nu bedrijven steeds meer afhankelijk zijn van AI-technologieën, waaronder spraak-AI en grote taalmodellen (LLM’s), wordt naleving van de EU AI-wet van cruciaal belang. Deze blogpost onderzoekt de belangrijkste uitdagingen die de regelgeving met zich meebrengt en hoe Shaip u kan helpen deze te overwinnen.
De EU AI-wet begrijpen
De Artificial Intelligence Act (EU AI Act) van de Europese Unie introduceert een risicogebaseerde aanpak voor het reguleren van AI-systemen, waarbij deze worden gecategoriseerd op basis van hun potentiële impact op individuen en de samenleving. Terwijl bedrijven AI-technologieën ontwikkelen en inzetten, is het begrijpen van de risiconiveaus die aan verschillende datacategorieën verbonden zijn van cruciaal belang voor de naleving van de EU AI Act. De EU AI Act classificeert AI-systemen in vier risicocategorieën: minimaal, beperkt, hoog en onaanvaardbaar risico.
Op basis van het voorstel voor de Wet op de kunstmatige intelligentie (2021/0106(COD)) zijn hier de risicocategorieën en de bijbehorende gegevenstypen en industrieën in tabelvorm:
Onaanvaardbare risico-AI-systemen:
| Gegevenstypen | Sectoren |
| Subliminale technieken om gedrag te vervormen | Alles |
| Exploitatie van kwetsbaarheden van specifieke groepen | Alles |
| Sociale scores door overheidsinstanties | Overheid |
| Real-time biometrische identificatie op afstand in publiek toegankelijke ruimtes voor wetshandhaving (met uitzonderingen) | Rechtshandhaving |
AI-systemen met een hoog risico:
| Gegevenstypen | Sectoren |
| Biometrische identificatie en categorisering van natuurlijke personen | Wetshandhaving, grenscontrole, rechterlijke macht, kritieke infrastructuur |
| Beheer en exploitatie van kritieke infrastructuur | Nutsvoorzieningen, transport |
| Educatieve en beroepsopleiding | Educatie |
| Werkgelegenheid, werknemersbeheer, toegang tot zelfstandig ondernemerschap | HR |
| Toegang tot en gebruik van essentiële particuliere en publieke diensten | Overheidsdiensten, financiën, gezondheidszorg |
| Rechtshandhaving | Wetshandhaving, strafrecht |
| Beheer van migratie, asiel en grenscontrole | Grenscontrole |
| Rechtsbedeling en democratische processen | Justitie, verkiezingen |
| Veiligheidscomponenten van machines, voertuigen en andere producten | Productie, automobielsector, ruimtevaart, medische apparatuur |
AI-systemen met beperkt risico:
| Gegevenstypen | Sectoren |
| Emotieherkenning of biometrische categorisatie | Al |
| Systemen die inhoud genereren of manipuleren ('deep fakes') | Media, vermaak |
| AI-systemen bedoeld om te communiceren met natuurlijke personen | Klantenservice, verkoop, entertainment |
AI-systemen met minimaal risico:
| Gegevenstypen | Sectoren |
| AI-compatibele videogames | Entertainment |
| AI voor spamfiltering | Alles |
| AI in industriële toepassingen zonder impact op fundamentele rechten of veiligheid | Productie, logistiek |
De bovenstaande tabellen bieden een samenvatting op hoog niveau van hoe verschillende gegevenstypen en industrieën in verband staan met de AI-risicocategorieën die in de voorgestelde verordening zijn gedefinieerd. De eigenlijke tekst biedt gedetailleerdere criteria en reikwijdtedefinities. Over het algemeen zijn AI-systemen die onaanvaardbare risico's voor de veiligheid en de grondrechten met zich meebrengen verboden, terwijl systemen die grote risico's met zich meebrengen onderworpen zijn aan strenge eisen en conformiteitsbeoordelingen. Systemen met beperkt risico hebben voornamelijk transparantieverplichtingen, terwijl AI voor minimaal risico geen aanvullende eisen stelt naast de bestaande wetgeving.
Belangrijkste vereisten voor AI-systemen met een hoog risico onder de EU AI Act.
De EU AI Act bepaalt dat aanbieders van AI-systemen met een hoog risico moeten voldoen aan specifieke verplichtingen om potentiële risico’s te beperken en de betrouwbaarheid en transparantie van hun AI-systemen te waarborgen. De genoemde vereisten zijn als volgt:
- Implementeer een risicomanagementsysteem om risico’s gedurende de hele levenscyclus van het KI-systeem te identificeren en te beperken.
- Gebruik hoogwaardige, relevante en onbevooroordeelde trainingsgegevens dat representatief is en vrij van fouten en vooroordelen.
- Onderhouden gedetailleerde documentatie van het doel, het ontwerp en de ontwikkeling van het AI-systeem.
- Verzekeren doorzichtigheid en gebruikers duidelijke informatie bieden over de mogelijkheden, beperkingen en potentiële risico's van het AI-systeem.
- Implementeren menselijke toezichtmaatregelen om ervoor te zorgen dat AI-systemen met een hoog risico onderworpen zijn aan menselijke controle en indien nodig kunnen worden overschreven of gedeactiveerd.
- Verzekeren robuustheid, nauwkeurigheid en cyberbeveiliging bescherming tegen ongeoorloofde toegang, aanvallen of manipulaties.
Uitdagingen voor spraak-AI en LLM's
Spraak-AI en LLM's vallen vaak onder de categorie met een hoog risico vanwege hun potentiële impact op de grondrechten en maatschappelijke risico's. Enkele van de uitdagingen waarmee bedrijven worden geconfronteerd bij het ontwikkelen en implementeren van deze technologieën zijn:
- Het verzamelen en verwerken van hoogwaardige, onbevooroordeelde trainingsgegevens
- Het beperken van mogelijke vooroordelen in de AI-modellen
- Zorgen voor transparantie en uitlegbaarheid van de AI-systemen
- Implementeren van effectieve menselijke toezicht- en controlemechanismen
Hoe Shaip u helpt bij het navigeren door risicocategorieën
De AI-dataoplossingen en modelevaluatiediensten van Shaip zijn op maat gemaakt om u te helpen navigeren door de complexiteit van de risicocategorieën van de EU AI Act:
Minimaal en beperkt risico
Voor AI-systemen met minimaal of beperkt risico kan Shaip u helpen de naleving van transparantieverplichtingen te garanderen door duidelijke documentatie te bieden van onze gegevensverzamelings- en annotatieprocessen.
High Risk
Voor spraak-AI- en LLM-systemen met een hoog risico biedt Shaip uitgebreide oplossingen om u te helpen aan de strenge eisen te voldoen:
- Gedetailleerde documentatie van gegevensverzameling en annotatieprocessen om transparantie te garanderen
- Ethische AI-gegevens voor spraak-AI: Onze processen voor gegevensverzameling geven prioriteit aan toestemming van gebruikers, gegevensprivacy (waarbij PII wordt geminimaliseerd) en het verwijderen van vooroordelen op basis van demografische gegevens, sociaal-economische factoren of culturele contexten. Dit zorgt ervoor dat uw Speech AI-modellen voldoen aan de EU AI Act en discriminerende output voorkomen.
- Vooroordelen in spraakgegevens beperken: We begrijpen de nuances van gesproken taal en mogelijke vooroordelen die in data kunnen sluipen. Ons team analyseert gegevens nauwgezet om mogelijke vooroordelen te identificeren en te elimineren, waardoor eerlijkere en betrouwbaardere spraak-AI-systemen worden gegarandeerd.
- Modelevaluatie met naleving van de EU AI-wet in gedachten: Shaip's Model Evaluation & Benchmarking-oplossingen kunnen uw Speech AI-modellen beoordelen op factoren als relevantie, veiligheid en mogelijke vooroordelen. Dit helpt ervoor te zorgen dat uw modellen voldoen aan de vereisten van de EU AI Act op het gebied van transparantie en eerlijkheid.
Onaanvaardbaar risico
Shaip's toewijding aan ethische AI-praktijken zorgt ervoor dat onze dataoplossingen en -diensten niet bijdragen aan de ontwikkeling van AI-systemen met onaanvaardbare risico's, waardoor u verboden praktijken onder de EU AI Act kunt vermijden.
Hoe Shaip kan helpen
Door samen te werken met Shaip kunnen bedrijven met vertrouwen door de complexiteit van de EU AI Act navigeren en tegelijkertijd geavanceerde spraak-AI- en LLM-technologieën ontwikkelen.
Navigeren door de risicocategorieën van de EU AI Act kan een uitdaging zijn, maar u hoeft het niet alleen te doen. Werk vandaag nog samen met Shaip en krijg toegang tot deskundige begeleiding, hoogwaardige trainingsgegevens en uitgebreide modelevaluatiediensten. Samen kunnen we ervoor zorgen dat uw Speech AI- en LLM-projecten voldoen aan de EU AI Act en tegelijkertijd innovatie stimuleren.
