De Europese Commissie heeft een nieuwe verordening over kunstmatige intelligentie (AI) voorgesteld. Het wettelijke kader zal naar verwachting helpen bij het vaststellen van wereldwijde normen voor AI, terwijl het ervoor zorgt dat de EU-industrie kan profiteren van de nieuwe computerontwikkelingen en dat de persoonlijke levenssfeer wordt beschermd. De regelgeving volgt een geleidelijke aanpak, afhankelijk van het gepercipieerde risiconiveau van AI-toepassingen. Degenen met een onaanvaardbaar risico, die de veiligheid, het levensonderhoud en de fundamentele rechten van mensen bedreigen, zullen worden verboden.
Een aantal andere toepassingen is aangemerkt als 'hoog risico' en zal aan strenge controles worden onderworpen. Dit omvat AI die wordt gebruikt in situaties zoals kritieke infrastructuur en essentiële systemen zoals bankieren en kredietwaardigheid, justitie en rechtshandhaving, systemen voor toegang tot werk of onderwijs, en immigratiebeheer. Deze toepassingen moeten worden geleverd met systemen voor risicobeoordeling en -beperking, datacontroles en logboekregistratiesystemen om traceerbaarheid te garanderen, open toegang om naleving te beoordelen, openbaarmaking aan eindgebruikers en menselijk toezicht.
Biometrische systemen aangemerkt als 'hoog risico'
Biometrische identificatiesystemen, zoals camera's voor gezichtsherkenning die gebruikmaken van AI, worden als een hoog risico beschouwd. Deze zullen in principe worden verboden op grond van de voorgestelde verordening, maar in bepaalde situaties kan het gebruik ervan worden toegestaan, zoals opsporing van vermiste personen, op handen zijnde terroristische dreigingen of onderzoeken naar zware criminaliteit. Deze situaties vereisen voorafgaande toestemming van een rechter of een andere onafhankelijke instantie en zijn onderhevig aan tijdslimieten, geografische reikwijdte en doorzochte databases.
Andere AI-toepassingen waarvan wordt aangenomen dat ze een beperkt risico hebben, zoals chatbots die worden gebruikt voor klantenservice, zouden alleen onderworpen zijn aan transparantieverplichtingen. Gebruikers moeten dus worden geïnformeerd dat ze met een machine communiceren voordat het gesprek kan worden voortgezet.
Meeste AI systemen 'laag risico'
De Commissie zei dat de "overgrote meerderheid" van AI-systemen in de laatste categorie van minimaal risico valt. Het voorstel laat het vrij gebruik van deze toepassingen, zoals AI-videogames of spamfilters, zonder specifieke wettelijke verplichtingen. De industrie zou worden uitgenodigd om vrijwillige codes te ontwikkelen om diensten met een laag risico te helpen beheren en om advies te geven over eventuele behoefte aan toekomstige regelgeving.
Wat betreft de handhaving van de voorgestelde verordening, wil de Commissie deze overdragen aan bestaande markttoezichtautoriteiten die actief zijn in de EU-landen. Het zou ook een Europese Raad voor kunstmatige intelligentie oprichten om de implementatie en coördinatie te ondersteunen en te helpen bij de ontwikkeling van nieuwe normen voor AI.
Integratie in hardware
Een tweede verordening is gepland voor de integratie van AI in hardware, van robots tot grasmaaiers, 3D-printers, bouwmachines en industriële productielijnen. De nieuwe Machinerichtlijn definieert gezondheids- en veiligheidseisen voor de apparatuur. Bedrijven hoeven slechts één conformiteitsbeoordeling uit te voeren voor de twee verordeningen.
De nieuwe regelgeving moet nog worden goedgekeurd door het Europees Parlement en de Raad voordat ze van kracht kunnen worden.
