AP raadt aankoop AI-camerabrillen af: 'ernstige risico’s voor gebruikers en omstanders'

19 nov , 7:27 • nieuws
Naamloos
www.autoriteitpersoonsgegevens.nl
ROERMOND - De Autoriteit Persoonsgegevens (AP) raadt consumenten af om een AI-camerabril te kopen voor algemeen gebruik. Uit eigen studie naar zes AI-camerabrillen blijkt dat deze niet alleen de privacy van omstanders in gevaar brengen, maar ook de veiligheid van gebruikers en mensen om hen heen.
Zo gaf een bril tijdens een nagebootste reanimatie ten onrechte aan dat er een ambulance onderweg was. Ook hielden de brillen onvoldoende rekening met de veiligheid van minderjarigen en vond de AP beveiligingsproblemen in de software.
Risico's
De AP waarschuwde eerder al dat het filmen van omstanders vrijwel altijd verboden is. De nieuwe studie van de AP laat zien dat de risico's verder gaan dan privacy alleen. Monique Verdier, vicevoorzitter van de AP: 'Een bril die je ongemerkt filmt, is al zorgelijk. Een bril die je ook nog eens verkeerd adviseert wanneer iemands leven op het spel staat, gaat een stap te ver. AI biedt veel kansen, maar dan moeten we wel op die technologie kunnen vertrouwen. Bij de onderzochte camerabrillen is dat vertrouwen nu niet te rechtvaardigen.'

Reanimatieadvies
De AP onderzocht zes AI-camerabrillen die op de Nederlandse markt verkrijgbaar zijn. Twee daarvan werden uitgebreid getest in nagebootste praktijksituaties waarin de veiligheid van mensen een belangrijke rol speelde. De resultaten zijn zorgwekkend. Tijdens een nagebootste noodsituatie waarin reanimatieadvies werd gevraagd, beweerde een van de brillen meerdere keren dat er al een ambulance onderweg was, terwijl er geen hulpdiensten waren ingeschakeld. In een echte noodsituatie kan zo'n fout ertoe leiden dat noodzakelijke hulp te laat komt, met mogelijk levensgevaarlijke gevolgen.
Onjuist
Ook bij de bescherming van minderjarigen maakten de AI-camerabrillen fouten met mogelijk zeer ernstige gevolgen. Zo gaf een bril datingadvies aan een volwassene die aangaf interesse te hebben in een minderjarige. Bij een andere test werden veiligheidswaarschuwingen bij speelgoed voor jonge kinderen niet opgevolgd. Ook bij het lezen van medicijnbijsluiters en het interpreteren van waarschuwingen voor extreem weer maakten de brillen fouten. De tests laten zien dat AI-camerabrillen overtuigend kunnen klinken, terwijl de gegeven informatie onjuist of zelfs gevaarlijk is. De gebruiker kan daardoor ten onrechte vertrouwen op adviezen die niet veilig zijn.
Ongemerkt filmen
Naast deze veiligheidsrisico's constateerde de AP ernstige tekortkomingen in de bescherming van persoonsgegevens. Bij vrijwel alle onderzochte camerabrillen waren de opnamelampjes slecht zichtbaar en eenvoudig af te plakken. De meeste brillen bleven na het afplakken gewoon filmen, terwijl dat volgens de fabrikant niet zou kunnen. Omstanders kunnen daardoor nauwelijks zien of zij worden gefilmd.
Externe servers
Ook is vaak onduidelijk wat er met de gemaakte beelden en geluidsopnames gebeurt. De onderzochte AI-functies verwerken gegevens via externe servers, veelal buiten de Europese Unie. Gebruikers krijgen onvoldoende informatie over welke AI-modellen hun gegevens verwerken en bij welke bedrijven deze terechtkomen. Bij meerdere brillen ontdekte de AP bovendien ernstige beveiligingsproblemen. Daardoor zou iemand in de buurt zonder toestemming verbinding kunnen maken met de bril, opnames kunnen bekijken of zelfs de camera kunnen bedienen.
Negatief advies
De AP vindt de AI-camerabrillen op dit moment onveilig vanwege de risico’s voor gebruikers en omstanders. Daarom raadt de AP consumenten af om nu een AI-camerabril te kopen. De AP ziet overigens ook meerdere legitieme toepassingen van de technologie. AI-camerabrillen kunnen waardevol zijn voor mensen die slechtziend of laaggeletterd zijn, of op een andere manier ondersteuning nodig hebben om hun omgeving te begrijpen. Maar juist ook voor deze gebruikers is het belangrijk dat de technologie betrouwbaar is.
Garanties
De AP roept ontwikkelaars van AI-camerabrillen op om veiligheid, privacy en relevante wetgeving beter mee te nemen in het ontwerp en de documentatie van hun producten. Omstanders moeten duidelijk kunnen zien wanneer zij worden gefilmd. Het opnamelampje mag niet eenvoudig onzichtbaar te maken zijn terwijl de bril blijft opnemen. Gebruikers moeten weten waar hun gegevens terechtkomen, wie deze verwerkt en waarvoor ze worden gebruikt.AI systemen moeten voldoende betrouwbaar zijn, zeker wanneer hun adviezen gevolgen kunnen hebben voor de gezondheid of veiligheid van mensen. En fabrikanten moeten ervoor zorgen dat hun producten goed beveiligd zijn en aantoonbaar voldoen aan de toepasselijke Europese regelgeving, waaronder de AI-verordening.
Oproep
De AP roept de Nederlandse en Europese politiek op om deze nieuwe onderzoeksresultaten mee te nemen bij verdere beleidsontwikkeling voor AI-camerabrillen. 'Het is belangrijk dat we als maatschappij leren omgaan met dit soort risico-AI-producten. Alles simpelweg verbieden geeft wat ruimte in het begin, maar dat kunnen we niet blijven volhouden. Het is van belang dat we collectief werken aan bewustwording, weerbaarheid en ethisch besef', stelt Monique Verdier. De AP adviseert ook eigenaren en beheerders van locaties het dragen en gebruiken van camerabrillen in hun huisregels te verbieden.
                                                ----------------------------------
Adverteren op Roermond.Nieuws.nl? De bezoekersaantallen blijven stijgen, wat onder andere goed is voor de zichtbaarheid van onze adverteerders. Wil jij je naamsbekendheid vergroten?Wij denken graag met je mee om de reclame-euro zo optimaal mogelijk te besteden. Door lokaal te adverteren op Roermond.Nieuws.nl tegen een concurrerende prijs! Neem contact op met Paul Storms via 06-22543972 of via de mail: [email protected]. 
loading

Loading articles...

Loading