Oproep Consumentenbond: 'Rechten consument moeten centraal staan bij gebruik AI'

Toezichthouders en de politiek moeten de rechten van consumenten centraal stellen bij de ontwikkeling en toepassing van kunstmatige intelligentie (AI) en met name generatieve AI. Daarvoor pleit de Consumentenbond.

Die laatste categorie omvat bekende systemen als ChatGPT. Bij de inzet van AI-systemen moeten consumenten erop kunnen vertrouwen dat er geen sprake is van praktijken als misleiding en manipulatie, discriminatie, fraude en misbruik van persoonlijke informatie.

Risico's AI op een rij
Aanleiding voor de oproep is een onderzoek van de Noorse zusterorganisatie van de Consumentenbond, Forbrukerrådet, dat de belangrijkste risico's van AI op een rij zet. Daarom roepen consumentenorganisaties in Europa en de Verenigde Staten nu op om te zorgen dat AI veilig is.

De oproep van de Consumentenbond is gericht aan de Autoriteit Consument & Markt, de Autoriteit Persoonsgegevens en staatssecretaris Alexandra van Huffelen van digitalisering.

Transparantie als basis
De Consumentenbond ziet de voordelen van zowel AI als generatieve AI en is daar zeker niet tegen, benadrukt directeur Sandra Molenaar. "Maar transparantie moet de basis zijn. Consumenten moeten weten wanneer ze met AI te maken hebben en waar ze verhaal kunnen halen als ze nadeel ondervinden van AI."

De oproep is erop gericht om tot duidelijke regels te komen voor dergelijke systemen. "Helaas heeft de geschiedenis aangetoond dat we er niet op kunnen vertrouwen dat de grote techbedrijven deze zaken zelf vooropstellen", aldus Molenaar.

AP deelt zorgen
De Autoriteit Persoonsgegevens geeft in een reactie aan de zorgen van de Consumentenbond te delen en maakt zich in het bijzonder zorgen om de omgang met persoonsgegevens. De waakhond zegt al verschillende acties te ondernemen. De Autoriteit Consument & Markt zegt de huidige regelgeving al te gebruiken om AI-bedrijven aan te pakken. "We vinden het vooral belangrijk dat mensen goed geïnformeerd worden", zegt een woordvoerder. "We zien ook het risico dat deze systemen heel menselijk overkomen en tot misleiding kunnen leiden."

Mens of systeem
Een woordvoerder van Van Huffelen zegt dat de staatssecretaris al bezig is met het beschermen van consumentenrechten als AI wordt gebruikt. Dat doet ze onder meer door te onderzoeken of deze systemen voldoen aan privacyvoorwaarden en of mensen- en kinderrechten worden nageleefd. "Daarnaast moet het voor mensen altijd duidelijk zijn of ze te maken hebben met een mens of een systeem." De staatssecretaris verwacht meer te kunnen doen als de Europese wet om AI te reguleren is afgerond.