De risicocategorieën van ki in de EU (afb: EU)
Het Europese Parlement heeft een voorstel voor een ki-verordening (vaak valselijk ‘wet’ genoemd). Die verordening, indien opgenomen in de wetgeving van de EU-lidstaten, moet de omgang met kunstmatige intelligentie voor EU-burgers veiliger maken. De EU-regeringen waren eerder al akkoord.
Het zou de eerste ki-‘wet’ in de wereld zijn. Volgens de verordening moeten ki-systemen in de toekomst in verschillende risicoklassen worden ingedeeld. Hoe groter het risico hoe strenger de eisen waar die systemen aan moeten voldoen (is het idee). De zwaarste categorie mag in de EU niet worden gebruikt/toegepast.
Zoals al vaker in dit blog gemeld wordt ki overal gretig en vaak te onpas gebruikt. Het lijkt wel of er tegenwoordig geen wetenschapper meer is die geen ki gebruikt. ChatGPT van het bedrijf OpenAI is in korte tijd wereldberoemd geworden.
Ki kan gebruikt worden om sneller betere (medische) diagnoses te kunnen geven, maar wordt ook gebruikt bij bewakingssystemen (gezichtsherkenning) of bij zelfsturende auto’s. Volgens de verordening moeten ki-systemen die zich met beelden bezighouden aan de strengste eisen voldoen.
Gezichtsherkenning
Bepaalde ki-toepassingen die indruisen tegen de normen van democratische samenlevingen zullen verboden worden zoals het beoordelen van sociaal gedrag. China, een harde dicatuur, is daar een kei in. Ook emotieherkenning op het werk of op school zal verboden zijn evenals gezichtsherkenning, maar op dat laatste punt zijn uitzonderingen mogelijk.
Dat laatste stemt niet vrolijk want niet zelden worden uitzonderingen regel. Die uitzonderingen gaan om het opsporen van misdaden zoals mensenhandel of terrorisme. Wat gebeurt er met de ‘bijvangst’ (mijn en jouw gezicht)?
De verordening kan in de respectieve nationale wetgeving van de EU-landen worden opgenomen, aangezien de EU-regeringen, de Europese Raad, al begin februari met het voorstel had ingestemd. Overigens lijkt de EU niet gelet te hebben op het hoge energieverbruik van ki-systemen.
Bron: der Spiegel