Ingevolge
artikel 4 Verordening (EU) 2024/1689 geldt:
Aanbieders en gebruiksverantwoordelijken van
AI-systemen nemen maatregelen om, zoveel als mogelijk, te zorgen voor een
toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die
namens hen AI-systemen exploiteren en gebruiken, en houden daarbij rekening met
hun technische kennis, ervaring, onderwijs en opleiding en de context waarin de
AI-systemen zullen worden gebruikt, evenals met de personen of groepen personen
ten aanzien van wie de AI-systemen zullen worden gebruikt.
Daartoe is het bepaalde in artikel 3 sub 1, 3, 4 en 56 Verordening (EU) 2024/1689 relevant:
1) “AI-systeem”: een op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingen
3) “aanbieder”: een natuurlijke of rechtspersoon, overheidsinstantie, agentschap of ander orgaan die/dat een AI-systeem of een AI-model voor algemene doeleinden ontwikkelt of laat ontwikkelen en dat systeem of model in de handel brengt of het AI-systeem in gebruik stelt onder de eigen naam of merk, al dan niet tegen betaling
4) “gebruiksverantwoordelijke”: een natuurlijke of rechtspersoon, overheidsinstantie, agentschap of ander orgaan die/dat een AI-systeem onder eigen verantwoordelijkheid gebruikt, tenzij het AI-systeem wordt gebruikt in het kader van een persoonlijke niet-beroepsactiviteit
56) “AI-geletterdheid”:
vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en
betrokken personen, rekening houdend met hun respectieve rechten en plichten in
het kader van deze verordening, in staat stellen geïnformeerd AI-systemen in te
zetten en zich bewuster te worden van de kansen en risico’s van AI en de
mogelijke schade die zij kan veroorzaken
En ook navolgende Overwegingen bij Verordening (EU) 2024/1689:
(4) AI is een snel evoluerende verzameling van technologieën die bijdraagt aan een brede waaier van economische, milieu- en maatschappelijke voordelen in alle industrieën en sociale activiteiten. Het gebruik van AI kan ondernemingen, dankzij verbeterde voorspellingen, geoptimaliseerde verrichtingen en toewijzing van middelen en gepersonaliseerde digitale oplossingen voor natuurlijke personen en organisaties een belangrijk concurrentievoordeel opleveren en helpen om sociaal en ecologische gunstige resultaten te behalen, bijvoorbeeld in de gezondheidszorg, de landbouw, voedselveiligheid, onderwijs en opleiding, media, sport, cultuur, infrastructuurbeheer, energie, vervoer en logistiek, openbare diensten, veiligheid, justitie, efficiënt gebruik van hulpbronnen en energie, milieumonitoring, behoud en herstel van biodiversiteit en ecosystemen en klimaatmitigatie en -adaptatie.
(5) Tegelijkertijd kan AI, afhankelijk van de omstandigheden waarin ze wordt toegepast en gebruikt, en van het niveau van technologische ontwikkeling, risico’s opleveren en schade toebrengen aan de openbare belangen en grondrechten die door de Uniewetgeving worden beschermd. Deze schade kan materieel of immaterieel zijn, en kan lichamelijke, psychische, maatschappelijke of economische schade omvatten.
(20) Om de
grootste voordelen van AI-systemen te behalen en tegelijkertijd de
grondrechten, gezondheid en veiligheid te beschermen en democratische controle
mogelijk te maken, moeten aanbieders, gebruiksverantwoordelijken en betrokken
personen door middel van AI-geletterdheid van de nodige kennis voorzien worden
om onderbouwde beslissingen te nemen met betrekking tot AI-systemen. Die kennis
kan verschillen naargelang de context en kan inzicht omvatten in de correcte
toepassing van technische elementen tijdens de ontwikkelingsfase van het
AI-systeem, de maatregelen die moeten worden toegepast tijdens het gebruik ervan,
hoe de output van het AI-systeem moet worden geïnterpreteerd, en, in het geval
van betrokken personen, de kennis die nodig is om te begrijpen hoe beslissingen
die met behulp van AI worden genomen, op hen van invloed zullen zijn. In het
kader van de toepassing van deze verordening moet AI-geletterdheid alle
relevante actoren in de AI-waardeketen de inzichten verschaffen die nodig zijn
om de passende naleving en de correcte handhaving ervan te waarborgen. […].
Zonder ‘een toereikend niveau van AI-geletterdheid’ wordt de gebruiker (dus) niet in staat gesteld om het betreffende AI-systeem geïnformeerd in te zetten, kan door hem/haar niet de output van het gebruikte AI-systeem worden geïnterpreteerd, en is hij/zij zich ook niet bewust van de risico’s van AI en de mogelijke schade die AI ter zake de door Uniewetgeving beschermde openbare belangen en grondrechten kan veroorzaken.
Het doel van (een toereikend niveau van) AI-geletterdheid kan echter nooit bereikt worden, zonder (ook) een ‘AI-controledrive’.
De gebruiker moet immers een ‘drive’, lees: een ‘motivatie’, hebben om (steeds) de output van het gebruikte AI-systeem (daadwerkelijk) inhoudelijk te (willen) controleren ter voorkoming van de risico’s en schade voornoemd.
Er is meer dan voldoende aanleiding voor een ‘AI-controledrive’:
- Plichts- en verantwoordelijkheidsbesef richting de (openbare belangen en grondrechten van de) EU;
- Plichts- en verantwoordelijkheidsbesef richting de werkgever;
- Plichts- en verantwoordelijkheidsbesef richting de opdrachtgever;
- Plichts- en verantwoordelijkheidsbesef richting (mede-) burgers en ondernemers;
- Zorgvuldig willen handelen;
- Redelijk en billijk willen handelen.
Maar je kunt ook denken aan (het) serieus naar jezelf en naar anderen (toe) willen zijn vanwege ‘geen onzin verkopen’.
Lees over AI ook:
https://keesvandewater.blogspot.com/2025/10/een-hallucinerende-ai-en-de.html
en
https://keesvandewater.blogspot.com/2025/09/een-vertrouwensrelatie.html
en
https://keesvandewater.blogspot.com/2025/11/een-toereikend-niveau-van-ai.html
Geen opmerkingen:
Een reactie posten