Een toereikend niveau van AI-geletterdheid

Artikel 41 lid 1 van het Handvest van de grondrechten van de Europese Unie inzake het grondrecht op behoorlijk bestuur luidt als volgt:

Een ieder heeft er recht op dat zijn zaken onpartijdig, billijk en binnen een redelijke termijn door de instellingen, organen en instanties van de Unie worden behandeld.

En ingevolge artikel 3: 14 Burgerlijk Wetboek geldt:

Een bevoegdheid die iemand krachtens het burgerlijk recht toekomt, mag niet worden uitgeoefend in strijd met geschreven of ongeschreven regels van publiekrecht.

Tot de ‘geschreven of ongeschreven regels van publiekrecht’ voornoemd behoren de algemene beginselen van behoorlijk bestuur. Zie bijvoorbeeld r.o. 3.1.3 van Hoge Raad 26 november 2021, ECLI:NL:HR:2021:1778.

Het privaatrechtelijke aanbestedingsrechtelijke handelen van een aanbestedende dienst wordt dan ook in het voorkomend geval getoetst aan de algemene beginselen van behoorlijk bestuur.

Een van die algemene beginselen van behoorlijk bestuur is het ‘fair play beginsel’ c.q. ‘verbod van vooringenomenheid’, dat is vastgelegd in artikel 2: 4 Algemene wet bestuursrecht (Awb):

1.            Het bestuursorgaan vervult zijn taak zonder vooringenomenheid.

2.            Het bestuursorgaan waakt ertegen dat tot het bestuursorgaan behorende of daarvoor werkzame personen die een persoonlijk belang bij een besluit hebben, de besluitvorming beïnvloeden.

Zie daartoe bijvoorbeeld het vonnis Rechtbank Zeeland-West-Brabant 4 februari 2014, ECLI:NL:RBZWB:2014:1007:

4.9.         Bij de afweging van belangen laat de voorzieningenrechter zwaar wegen dat Scheldestromen heeft gehandeld in strijd met het fair-playbeginsel als algemeen beginsel van behoorlijk bestuur. Kern van het fair-playbeginsel is dat de overheid (hier als aanbestedende dienst) door haar optreden (of nalaten) op unfaire wijze de rechtspositie van een (rechts)persoon benadeelt. […].

Een ander algemeen beginsel van behoorlijk bestuur is het ‘zorgvuldigheidsbeginsel’, dat is vastgelegd in artikel 3: 2 Awb:

Bij de voorbereiding van een besluit vergaart het bestuursorgaan de nodige kennis omtrent de relevante feiten en de af te wegen belangen.

En in artikel 3: 4 Awb:

1.            Het bestuursorgaan weegt de rechtstreeks bij het besluit betrokken belangen af, voor zover niet uit een wettelijk voorschrift of uit de aard van de uit te oefenen bevoegdheid een beperking voortvloeit.

2.            De voor een of meer belanghebbenden nadelige gevolgen van een besluit mogen niet onevenredig zijn in verhouding tot de met het besluit te dienen doelen.

Zie daartoe bijvoorbeeld Rechtbank Noord-Holland 28 juni 2024, ECLI:NL:RBNHO:2024:6450:

4.9.         Uit het vorenstaande volgt dat naar het voorlopig oordeel van de voorzieningenrechter de gemeente te snel tot de conclusie is gekomen dat Wij Zijn Broer! op grond van de referentie(s) niet voldoet aan de gestelde ervaringseis. Op grond van het zorgvuldigheidsbeginsel had zij hierover navraag moeten doen bij Wij Zijn Broer! […].

Als een aanbestedende dienst een AI-systeem gebruikt in een aanbestedingsprocedure dan moet de aanbestedende dienst zorgen voor ‘een toereikend niveau van AI-geletterdheid’ bij de betreffende gebruiker (s). Artikel 4 jo. artikel 3 sub 56 jo. Overweging 20 van Verordening (EU) 2024/1689 verplichten daar immers toe.

Zonder ‘een toereikend niveau van AI-geletterdheid’ wordt de gebruiker niet in staat gesteld om het betreffende AI-systeem geïnformeerd in te zetten, kan door hem/haar niet de output van het gebruikte AI-systeem worden geïnterpreteerd, en is hij/zij zich ook niet bewust van de risico’s van AI en de mogelijke schade die AI ter zake de door Uniewetgeving beschermde openbare belangen en grondrechten kan veroorzaken.

Als een aanbestedende dienst, tevens bestuursorgaan, een AI-systeem gebruikt om in een aanbestedingsprocedure besluiten voor te bereiden of te nemen, dan moet die aanbestedende dienst, en praktisch de betreffende ‘AI-geletterde’ gebruiker, zich er, vanwege het ‘fair play beginsel’, van verzekeren, dat het AI-systeem niet vooringenomen is.

Zo’n verzekering is onmogelijk, wanneer de gebruiker geen wetenschap heeft van/over alle data van het AI-systeem en de objectiviteit daarvan. Denk daarbij aan een open, not private, AI-systeem.

Het, vanwege het zorgvuldigheidsbeginsel, vergaren van de nodige kennis omtrent de relevante feiten en de af te wegen belangen kan verder niet volledig aan het AI-systeem worden overgelaten.

Het AI-systeem is immers overwegend ‘reactief’ en gaat (dus) niet zelf op zoek naar informatie. De betreffende ‘AI-geletterde’ gebruiker zal er dan ook zelf voor moeten zorgen, dat het AI-systeem de nodige kennis omtrent de relevante feiten en de af te wegen belangen vergaart. Zonder relevante input immers (ook) geen relevante output.

Een zorgvuldige belangenafweging en evenredigheidstoetsing vereist tenslotte, in ieder geval, een adequate ‘prompt-kennis’ van de ‘AI-geletterde’ gebruiker.

Een en ander betekent, dat met betrekking tot de toepassing en waarborging van algemene beginselen van behoorlijk bestuur, de lat van ‘een toereikend niveau van AI-geletterdheid’ heel hoog ligt.

En dat geldt overigens niet alleen in/voor het aanbestedingsrecht.

Lees ook:

https://keesvandewater.blogspot.com/2025/10/ai-geletterdheid-volgens-verordening-eu.html