De ‘EU AI Act’ treedt niet pas in 2026 in werking.
En betekent in het voorkomend geval verplichtingen voor werkgevers in verband met het (vereiste) aanbestedingsrechtelijke kennisniveau van hun personeel.
De ‘EU AI Act’ is namelijk de ‘Verordening (EU) 2024/1689 van het Europees Parlement en de Raad van 13 juni 2024 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie en tot wijziging van de Verordeningen (EG) nr. 300/2008, (EU) nr. 167/2013, (EU) nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 en (EU) 2019/2144, en de Richtlijnen 2014/90/EU, (EU) 2016/797 en (EU) 2020/1828 (verordening artificiële intelligentie)’:
https://eur-lex.europa.eu/legal-content/NL/TXT/?uri=CELEX:32024R1689
En ingevolge artikel 113 Verordening (EU) 2024/1689 geldt:
Deze
verordening treedt in werking op de twintigste dag na die van de bekendmaking
ervan in het Publicatieblad van de Europese Unie.
Zij
is van toepassing met ingang van 2 augustus 2026.
Evenwel
zijn:
a) de hoofdstukken I en II van
toepassing met ingang van 2 februari 2025;
b) hoofdstuk III, afdeling 4, hoofdstuk
V, hoofdstuk VII en hoofdstuk XII en artikel 78 van toepassing met ingang van 2
augustus 2025, met uitzondering van artikel 101;
c) artikel 6, lid 1, en de
overeenkomstige verplichtingen van deze verordening van toepassing met ingang
van 2 augustus 2027.
Deze
verordening is verbindend in al haar onderdelen en is rechtstreeks toepasselijk
in elke lidstaat.
Artikel 4 Verordening (EU) 2024/1689, dat dus (al) geldt vanaf 2 februari 2025, luidt als volgt:
Aanbieders en gebruiksverantwoordelijken van
AI-systemen nemen maatregelen om, zoveel als mogelijk, te zorgen voor een
toereikend niveau van AI-geletterdheid bij hun personeel en andere personen die
namens hen AI-systemen exploiteren en gebruiken, en houden daarbij rekening met
hun technische kennis, ervaring, onderwijs en opleiding en de context waarin de
AI-systemen zullen worden gebruikt, evenals met de personen of groepen personen
ten aanzien van wie de AI-systemen zullen worden gebruikt.
Daartoe is onder meer het bepaalde in artikel 3 sub 1, sub 4 en sub 56 Verordening (EU) 2024/1689 relevant:
1) “AI-systeem”:
een op een machine gebaseerd systeem dat is ontworpen om met verschillende
niveaus van autonomie te werken en dat na het inzetten ervan
aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete
doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals
voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen
zijn op fysieke of virtuele omgevingen
4) “gebruiksverantwoordelijke”:
een natuurlijke of rechtspersoon, overheidsinstantie, agentschap of ander
orgaan die/dat een AI-systeem onder eigen verantwoordelijkheid gebruikt, tenzij
het AI-systeem wordt gebruikt in het kader van een persoonlijke
niet-beroepsactiviteit
56) “AI-geletterdheid”:
vaardigheden, kennis en begrip die aanbieders, gebruiksverantwoordelijken en
betrokken personen, rekening houdend met hun respectieve rechten en plichten in
het kader van deze verordening, in staat stellen geïnformeerd AI-systemen in te
zetten en zich bewuster te worden van de kansen en risico’s van AI en de
mogelijke schade die zij kan veroorzaken
Als ook navolgende Overwegingen bij Verordening (EU) 2024/1689:
(4) AI
is een snel evoluerende verzameling van technologieën die bijdraagt aan een
brede waaier van economische, milieu- en maatschappelijke voordelen in alle
industrieën en sociale activiteiten. Het gebruik van AI kan ondernemingen,
dankzij verbeterde voorspellingen, geoptimaliseerde verrichtingen en toewijzing
van middelen en gepersonaliseerde digitale oplossingen voor natuurlijke personen
en organisaties een belangrijk concurrentievoordeel opleveren en helpen om
sociaal en ecologische gunstige resultaten te behalen, bijvoorbeeld in de
gezondheidszorg, de landbouw, voedselveiligheid, onderwijs en opleiding, media,
sport, cultuur, infrastructuurbeheer, energie, vervoer en logistiek, openbare
diensten, veiligheid, justitie, efficiënt gebruik van hulpbronnen en energie,
milieumonitoring, behoud en herstel van biodiversiteit en ecosystemen en
klimaatmitigatie en -adaptatie.
(5) Tegelijkertijd
kan AI, afhankelijk van de omstandigheden waarin ze wordt toegepast en
gebruikt, en van het niveau van technologische ontwikkeling, risico’s opleveren
en schade toebrengen aan de openbare belangen en grondrechten die door de
Uniewetgeving worden beschermd. Deze schade kan materieel of immaterieel zijn,
en kan lichamelijke, psychische, maatschappelijke of economische schade
omvatten.
(20) Om de
grootste voordelen van AI-systemen te behalen en tegelijkertijd de
grondrechten, gezondheid en veiligheid te beschermen en democratische controle
mogelijk te maken, moeten aanbieders, gebruiksverantwoordelijken en betrokken
personen door middel van AI-geletterdheid van de nodige kennis voorzien worden
om onderbouwde beslissingen te nemen met betrekking tot AI-systemen. Die kennis
kan verschillen naargelang de context en kan inzicht omvatten in de correcte
toepassing van technische elementen tijdens de ontwikkelingsfase van het
AI-systeem, de maatregelen die moeten worden toegepast tijdens het gebruik
ervan, hoe de output van het AI-systeem moet worden geïnterpreteerd, en, in het
geval van betrokken personen, de kennis die nodig is om te begrijpen hoe beslissingen
die met behulp van AI worden genomen, op hen van invloed zullen zijn. In het
kader van de toepassing van deze verordening moet AI-geletterdheid alle
relevante actoren in de AI-waardeketen de inzichten verschaffen die nodig zijn
om de passende naleving en de correcte handhaving ervan te waarborgen. […].
Tot de door Uniewetgeving beschermde grondrechten wordt onder meer het bepaalde in artikel 21 lid 2 van het Handvest van de grondrechten van de Europese Unie gerekend:
Binnen de werkingssfeer van de Verdragen en
onverminderd de bijzondere bepalingen ervan, is iedere discriminatie op grond
van nationaliteit verboden.
En het is aannemelijk, zie ook Overweging 1 van Verordening (EU) 2024/1689, dat tot de door Uniewetgeving beschermde openbare belangen het vrije verkeer van goederen, de vrijheid van vestiging en de vrijheid van dienstverlening behoren, alsmede de daarvan afgeleide beginselen, zoals gelijke behandeling, niet-discriminatie, wederzijdse erkenning, evenredigheid en transparantie.
Daartoe zijn, voor wat betreft de ‘klassieke sector’, in Richtlijn 2014/24/EU Europese aanbestedingsregels opgesteld. Zie bijvoorbeeld Overweging 1 van die Richtlijn:
[…] Voor overheidsopdrachten met een waarde boven een
bepaald drempelbedrag moeten echter bepalingen worden opgesteld die nationale
procedures voor aanbestedingen coördineren om te waarborgen dat deze beginselen
in de praktijk worden geëerbiedigd en dat overheidsopdrachten worden
opengesteld voor mededinging.
Richtlijn 2014/24/EU is in Nederland geïmplementeerd door de Aanbestedingswet 2012. En de Europese aanbestedingsregels worden in het voorkomend geval genormeerd door Europese en nationale jurisprudentie.
AI-geletterdheid in verband met het gebruik van (een) AI (-systeem) in een Europese aanbestedingsprocedure door de aanbestedende dienst vereist aldus een toereikend niveau van kennis van het Europese (wetgeving en jurisprudentie) aanbestedingsrecht bij de betreffende gebruiker.
Zonder een toereikend niveau van kennis van het Europese aanbestedingsrecht bij de gebruiker wordt de gebruiker immers niet in staat gesteld om het betreffende AI-systeem geïnformeerd in te zetten, kan door hem/haar niet de output van het gebruikte AI-systeem worden geïnterpreteerd, en is hij/zij zich ook niet bewust van de risico’s van AI en de mogelijke schade die AI ter zake de door Uniewetgeving beschermde openbare belangen en grondrechten kan veroorzaken.
Zie daartoe immers artikel 4 jo. artikel 3 sub 56 jo. Overweging 20 van Verordening (EU) 2024/1689 voornoemd.
Hetgeen in het voorkomend geval een interessante uitdaging voor de ‘gebruiksverantwoordelijke’ werkgever is.
Lees over (het gebruik van) AI ook:
https://keesvandewater.blogspot.com/2024/12/iemand-die-ai-aanzet-en-ondersteunt.html
https://keesvandewater.blogspot.com/2025/09/een-vertrouwensrelatie.html
https://keesvandewater.blogspot.com/2025/10/een-hallucinerende-ai-en-de.html
Geen opmerkingen:
Een reactie posten