AI Act — limited-risk dossier

Korte publieke samenvatting. De volledige onderbouwing staat in de repo: infra/ai-act-classification.md.

Classificatie

Deze tool kwalificeert als limited-risk AI-systeem onder de Verordening (EU) 2024/1689 (AI Act). De tool genereert conceptbrieven aan luchtvaartmaatschappijen onder Verordening (EG) 261/2004; de gebruiker tekent en verzendt zelf.

Waarom geen high-risk (Annex III)

Bijlage III §8(a) is gericht op AI-systemen die een rechterlijke autoriteit ondersteunen bij het onderzoeken of interpreteren van feiten en het toepassen van de wet. Deze tool ondersteunt geen rechterlijke autoriteit. Het is een consumenten-opstelassistent waarbij:

De gebruiker zelf opdrachtgever is en zelf indient;
De juridische verwijzingen uit een gesloten, handmatig gecureerde verzameling komen — geen vrije citatiegeneratie;
Er geen automatische beslissing wordt genomen die rechtsgevolgen heeft voor de gebruiker zonder menselijke tussenkomst.

Naleving van limited-risk verplichtingen

Transparantie (Art. 50 AI Act): De tool geeft duidelijk aan dat de uitvoer door AI is gegenereerd, welk model is gebruikt, welke citaten zijn opgenomen en uit welke bron.
Geen misleiding: de tool wordt niet gepositioneerd als «wij doen het voor je» of als juridische adviesdienst.
Beheersing van hallucinaties: citaten worden niet door de AI gegenereerd maar deterministisch ingevoegd uit een allow-list. De AI mag alleen bestaande citaten herformuleren, niet verzinnen.
Closed-set discipline: als de AI ondanks instructies een citaat verwijdert of wijzigt, valt de tool terug op de niet-gepolijste sjabloon-versie.

Risico voor de gebruiker

Een Nederlandse rechtbank heeft in 2025 volledige proceskosten toegekend aan de tegenpartij omdat een procespartij een AI-gegenereerd stuk indiende met een ECLI die niet bleek te bestaan (zie ECLI:NL:RBOBR:2025:8495, analyse op IT-en-Recht). Daarom: gesloten citatenverzameling, expliciete oproep aan de gebruiker om alle verwijzingen te controleren vóór verzending, en zichtbaar markeren wanneer een citaat nog niet handmatig is geverifieerd.

Aanvullende informatie