News and events Tilburg University

Smart speakers kunnen autonomie gebruikers in dagelijks leven aantasten

Gepubliceerd: 15 juni 2021 Laatst bijgewerkt: 15 juni 2021

Vanwege de steminteractie kunnen smart speakers zoals Alexa en Google Assistant grote overtuigingskracht hebben, gebruikers beïnvloeden en manipuleren en zo de autonomie over hun dagelijks leven beïnvloeden. Dat concludeert Silvia de Conca in het promotieonderzoek dat ze op 23 juni 2021 verdedigt aan Tilburg University.

Sinds krap vijf jaar is Alexa in veel huishoudens niet meer weg te denken. De spraakbesturingssystemen van Amazon Alexa en Google Assistant staan voor een evolutie van het ‘internet der dingen’ (IoT, Internet of Things): geavanceerde op cloud computing en machine learning gebaseerde ‘intelligentie’ stelt deze systemen in staat gegevens te verzamelen en verwerken waarmee ze gebruikers kunnen profileren en begrijpen. En dat gebeurt midden in onze huizen.

Welke gevolgen heeft dit voor de persoonlijke levenssfeer van de gebruikers van smart speakers en welke gegevensbescherming biedt de wetgeving? Om die vragen te beantwoorden bestudeerde onderzoeker Silvia de Conca van TILT (Tilburg Institute for Law, Technology, and Society) het fenomeen smart speakers vanuit zowel juridisch als sociaal-technologisch perspectief.

Interpretaties van het recht

Vanuit het juridische perspectief onderzocht De Conca de toepassing van de Algemene Verordening Gegevensbescherming en het voorstel voor een e-Privacy Verordening van de Europese Unie op smart speakers, als instrumenten voor het beschermen van de persoonlijke levenssfeer in zogenaamde horizontale verhoudingen. Op basis daarvan doet ze suggesties voor het interpreteren en toepassen van het wettelijk kader om ongewenste effecten te beperken.

Een van de heikele kwesties is de vraag of de eigenaren van smart speakers verantwoordelijk zijn voor de verwerking van de persoonsgegevens van hun gasten. Andere kwesties betreffen de toepassing van het verbod op geautomatiseerde besluiten in de context van de vele kleine besluiten die een ‘smart home’ neemt, het gebruik van smart speakers voor directe marketingberichten en gesprekken met anderen, en de implicaties van gegevensbescherming die in smart speakers wordt ingebouwd.

Aantasting autonomie gebruikers

Vanuit een meer sociaal-technologische invalshoek reflecteerde De Conca op de vraag hoe een smart speaker ingrijpt in de persoonlijke levenssfeer in de thuissituatie. Daarvoor maakte ze gebruik van theorieën en concepten uit de geschiedkunde, gedragswetenschappen, sociaal-technologisch onderzoek, de filosofie en gedragsdesign.

De Conca concludeert dat er een potentieel conflict is tussen de verwachtingen en normen ten aanzien van de persoonlijke levenssfeer in de thuissituatie en de marketingbelangen achter de profilering van gebruikers door smart speakers. De aanwezigheid van smart speakers kan de rol van de eigen woonomgeving als een veilige plek aantasten, zonder dat gebruikers zich daarvan bewust zijn. Vanwege de steminteractie kunnen smart speakers grote overtuigingskracht hebben, gebruikers beïnvloeden en manipuleren en zo de autonomie over hun dagelijks leven beïnvloeden.

Deze kwestie gaat verder dan gegevensbescherming, aldus De Conca. Een maatschappelijk en politiek debat is nodig om te bepalen waar de grens getrokken moet worden tussen wat wel en niet aanvaardbaar is.

Noot voor de pers