Europese Commissie onthult digitale strategie rond AI
Gisteren stelde de voorzitster van de Europese Commissie Ursula von der Leyen de nieuwe digitale strategie van de Europese Commissie voor. De Commissie wil er vooral een antwoord mee bieden op de toenemende rol van artificiële intelligentie. Door de overvloed aan data in onze datagecentraliseerde maatschappij begint AI stilaan door te dringen in alle gelederen van de samenleving.
Aan de hand van die kunstmatige intelligentie kunnen computers die data veel preciezer verwerken dan dat het menselijke brein daartoe in staat is. Daardoor kunnen snelle beleidsbeslissingen genomen worden die gestaafd zijn met data. AI is ook flexibel om in te zetten in verschillende sectoren, zoals administratie, geneeskunde en transport.
Discriminatie en verantwoordelijkheid
Echter ontstaan er soms ook problemen met AI. Verscheidene praktijkvoorbeelden hebben aangetoond dat AI onbedoeld discriminatie in de hand kan werken. Bankalgoritmen weigeren een lening aan mensen uit sociale minderbedeelde groepen, en veiligheidscamera’s slaan sneller alarm bij niet-blanke personen.
Een andere discussie die op dit moment vooral in de Verenigde Staten actueel is, is de kwestie van verantwoordelijkheid. Wie moet in gebreke worden gesteld als een zelfrijdende wagen een ongeval veroorzaakt? De chauffeur, de softwareontwikkelaar of de autofabrikant?
Die problemen zijn deels het gevolg van het ontbreken van een wettelijk kader rond het gebruik van AI. De Europese Commissie wil dat definitief oplossen door enkele principes voorop te stellen. Die luiden dat mensen altijd controle moeten bewaren voor autonome systemen, en dat beslissingen genomen met een computer verantwoordbaar moeten zijn.
Verdere principes
Maar de nieuwe Europese regels gaan nog veel verder dan dat. Voor activiteiten met een ‘hoger risico’ moet strenger toezicht komen vanuit de overheid. Wat die activiteiten met ‘hoger risico’ dan precies inhouden, daarvoor moet nog een lijst worden opgesteld. Het zal vermoedelijk gaan om activiteiten in kritieke sectoren zoals energie, transport, gezondheidszorg etc.
Een ander cruciaal principe is de ‘eenheidsmarkt voor data’. Daarbij gaat het om het creëren van Europese ‘data centers’, waar bedrijven hun data kunnen verzamelen. Dat moet leiden tot een eensgezinde Europese datastrategie per sector, en een betere controle over wie welke data kan gebruiken.
De digitale strategie beantwoordt echter niet de vraag wat de Commissie zal doen met bedrijven zoals Facebook en Google die persoonlijke data verkopen. Er luiden al langer stemmen om het verhandelen van data ook onder te brengen onder de bevoegdheid van de Commissaris van Vrije Mededinging, zodat de principes van vrije concurrentie kunnen worden opgelegd.
Gisteren stelde de voorzitster van de Europese Commissie Ursula von der Leyen de nieuwe digitale strategie van de Europese Commissie voor. De Commissie wil er vooral een antwoord mee bieden op de toenemende rol van artificiële intelligentie. Door de overvloed aan data in onze datagecentraliseerde maatschappij begint AI stilaan door te dringen in alle gelederen van de samenleving.
Aan de hand van die kunstmatige intelligentie kunnen computers die data veel preciezer verwerken dan dat het menselijke brein daartoe in staat is. Daardoor kunnen snelle beleidsbeslissingen genomen worden die gestaafd zijn met data. AI is ook flexibel om in te zetten in verschillende sectoren, zoals administratie, geneeskunde en transport.
Discriminatie en verantwoordelijkheid
Echter ontstaan er soms ook problemen met AI. Verscheidene praktijkvoorbeelden hebben aangetoond dat AI onbedoeld discriminatie in de hand kan werken. Bankalgoritmen weigeren een lening aan mensen uit sociale minderbedeelde groepen, en veiligheidscamera’s slaan sneller alarm bij niet-blanke personen.
Een andere discussie die op dit moment vooral in de Verenigde Staten actueel is, is de kwestie van verantwoordelijkheid. Wie moet in gebreke worden gesteld als een zelfrijdende wagen een ongeval veroorzaakt? De chauffeur, de softwareontwikkelaar of de autofabrikant?
Die problemen zijn deels het gevolg van het ontbreken van een wettelijk kader rond het gebruik van AI. De Europese Commissie wil dat definitief oplossen door enkele principes voorop te stellen. Die luiden dat mensen altijd controle moeten bewaren voor autonome systemen, en dat beslissingen genomen met een computer verantwoordbaar moeten zijn.
Verdere principes
Maar de nieuwe Europese regels gaan nog veel verder dan dat. Voor activiteiten met een ‘hoger risico’ moet strenger toezicht komen vanuit de overheid. Wat die activiteiten met ‘hoger risico’ dan precies inhouden, daarvoor moet nog een lijst worden opgesteld. Het zal vermoedelijk gaan om activiteiten in kritieke sectoren zoals energie, transport, gezondheidszorg etc.
Een ander cruciaal principe is de ‘eenheidsmarkt voor data’. Daarbij gaat het om het creëren van Europese ‘data centers’, waar bedrijven hun data kunnen verzamelen. Dat moet leiden tot een eensgezinde Europese datastrategie per sector, en een betere controle over wie welke data kan gebruiken.
De digitale strategie beantwoordt echter niet de vraag wat de Commissie zal doen met bedrijven zoals Facebook en Google die persoonlijke data verkopen. Er luiden al langer stemmen om het verhandelen van data ook onder te brengen onder de bevoegdheid van de Commissaris van Vrije Mededinging, zodat de principes van vrije concurrentie kunnen worden opgelegd.
