De risico’s van slimme speakers. ‘Alle magie heeft een prijs. Dus ook het magische smart home’

De risico’s van slimme speakers. ‘Alle magie heeft een prijs. Dus ook het magische smart home’

Ze zetten koffie voor ons, en herinneren ons eraan dat de afvalcontainer aan de straat moet. Smart speakers met spraakassistenten vergemakkelijken het dagelijks leven. Maar in haar proefschrift The Enchanted House waarschuwt rechtsgeleerde Silvia de Conca voor de gevaren van de gadgets. “Zelfs als ze naar behoren werken, is er een risico op privacyschending.”  

Beeld: Shutterstock

Amazon’s Alexa en Google Assistent: het zijn de twee bekendste slimme assistenten, die na de Verenigde Staten ook in Nederland snel aan populariteit winnen. Door de speaker via een WiFi-netwerk te koppelen aan andere smart apparaten kan de gebruiker allerlei handelingen uitvoeren door simpelweg hardop een opdracht uit te spreken. Zeg bijvoorbeeld “Alexa, play Let it Go”, en de soundtrack van de Disney-filmklassieker knalt uit de speakers.

Tijdens haar promotieonderzoek stelde jurist Silvia de Conca vast dat Alexa en Google Assistant niet alleen vrolijke noten het huishouden binnenbrengen. Ze toetste de dataverzamelingsmethodes van slimme speakers aan de Algemene Verordening Gegevensbescherming, en concludeerde dat de producten hun klanten manipuleren, beïnvloeden, en zelfs hun autonomie aantasten.

En dat die praktijken allemaal plaatsvinden in het huis van de klanten verwonderde haar. Want als er iets een heilig huisje is voor de wet, is het wel de privésfeer.

Slimme speakers die klusjes voor je uitvoeren, dat lijkt mij hartstikke handig. Maar jij waarschuwt voor het gebruik ervan. Waarom eigenlijk?

“Tijdens het schrijven van mijn dissertatie dook er een beeld op in mijn hoofd: een scene uit Belle en het Beest. In die film zit een landhuis waarin de voorwerpen tot leven zijn gekomen. Vroeger waren zij bediendes, nu zijn ze objecten die taakjes doen voor Belle. Dat huis is magisch, en ik vind de scene een mooie verbeelding van een smart home, dat volstaat met technologie die naar je luistert en dingen voor je uitvoert.

“Maar voor magie moet natuurlijk een prijs betaald worden, dat is in ieder sprookje zo. In dit geval is de prijs dat de sensoren van slimme technologie ons gedrag thuis omzetten in data. In de wetenschappelijke literatuur wordt dat ook wel ‘commodification genoemd; menselijke activiteit tot een economisch waardevol product maken. Alle spraakopdrachten die Alexa of Google Assistant krijgen, worden online opgeslagen.

“Een smart tv ziet eruit als een gewone tv. En daardoor worden we argeloos”

“Uit die data kunnen bedrijven met machine learning telkens nieuwe informatie halen. Zodra hun software mijn stem herkent, bedenkt het automatisch een andere, nieuwe vraag om over mij te achterhalen. Hoe ik klink als ik emotioneel ben, bijvoorbeeld.

“We moeten alert zijn op de manier waarop de bedrijven onze data gebruiken. Daarnaast is het vanuit online veiligheidsoogpunt, denk aan identiteitsfraude, niet verstandig als er veel persoonlijke informatie online is opgeslagen.”

Overal waar we gaan, worden onze data vastgelegd. Wat maakt uitgerekend Alexa en Google Assistent problematisch?

“Slimme apparaten zien eruit als traditionele producten. We zijn gewend dat sommige van die apparaten, zoals de telefoon, de rest van de wereld binnenbrengen in de huiskamer. Ook van een computer weten we dat deze via het internet opereert, en ook informatie naar buiten stuurt. Maar een smart tv ziet eruit zoals een traditionele televisie die alleen maar zendt, en daardoor worden we wat argeloos.

“We verwachten niet dat we, door een slimme tv aan te schaffen, nóg een gaatje slaan in de veilige muren van ons huis. Een gaatje waardoor de buitenwereld binnen kan komen, maar waardoor ook een heleboel informatie in de vorm van data over ons privéleven naar buiten verdwijnt. Slimme speakers, die zijn aangesloten op huishoudelijke apparaten, vervangen dus de traditionele apparaten zonder dat ons beeld van die apparaten verandert.

Onderzoeker Silvia de Conca. Beeld: privé.

“Als klant moet je dus heel goed zijn ingelezen. Je moet bijvoorbeeld weten dat als je Alexa vraagt om een liedje af te spelen, de speaker blijft opnemen tot het liedje is afgelopen. Omdat ik denk dat niet iedere consument zo goed is ingelezen, waarschuw ik.”

In je proefschrift leg je de nadruk op de aanwezigheid van smart speakers in het huis. Waarom is het huis bijzonder? 

“De wet zegt vaak dat het huis op speciale bescherming moet kunnen rekenen. Maar wetten brengen alleen iets onder woorden. ‘Het huis’ is eigenlijk een sociaal-cultureel concept. Ik heb daarom naar literatuur uit de gedragswetenschappen en antropologie gekeken om vast te stellen welke rol het huis inneemt in de maatschappij.

“Kort gezegd komt het hierop neer. Mensen hechten zich aan een plek, en voeren rituelen uit om die plek toe te eigenen. Denk aan decoreren. Er treedt dan een emotionele verbintenis op, het moment dat een ‘huis’ een ‘thuis’ wordt.

“Daarom voelen de meeste mensen zich veilig in hun huis, en ervaren ze er comfort. Die veiligheid is nodig voor hun ontwikkeling. Om goed te kunnen functioneren in de buitenwereld heeft de mens een veilige plek nodig om zich terug te trekken.

“Consumenten moeten beseffen wie de magie van het betoverde huis bezit”

“De slimme spraakassistenten komen de privésfeer binnen, en tasten de privacy aan. Dit laat zich goed illustreren door een beroemd voorbeeld van een Amerikaans stel. Zij bespraken welke badkamertegels ze zouden gaan aanschaffen, en hun Alexa stuurde dat gesprek integraal door naar een collega. De echtgenote van dat stel voelde zich toen niet meer veilig in haar eigen huis, en heeft de slimme speaker weggedaan.

“Door het instellen van een smart speaker is het huis niet langer zo privé als je zou verwachten, en volgens onder andere de AVG zou moeten zijn. Ook als het apparaat werkt zoals het hoort trouwens. Ook dan verzamelt het constant data, en dat kan ook een onveilig gevoel veroorzaken.”

Begrijp je dat mensen de potentiële gevaren van een slimme speaker afwegen tegen het gemak, en toch voor een speaker gaan?

“Ik kan me daar zeker iets bij voorstellen. Een smart speaker maakt het leven een stuk comfortabeler. Vanuit wettelijk oogpunt is het echter belangrijk dat mensen op hun strepen staan als het aankomt op privacyvraagstukken. Privacy is namelijk geen puur individuele zaak, al wordt er wel vaak zo over gedacht.

“Misschien heb ik er geen bezwaar tegen dat Google data verzamelt in mijn woonkamer, dat kan. Maar daardoor verlaag ik wel de drempel voor mijn medeburger. Een ander is wellicht afhankelijker van slimme assistenten, en verkeert daardoor in een kwetsbaardere positie. Dat kan uitgebuit worden door een van de techbedrijven. Daarom moeten we het als maatschappij niet zo ver laten komen.”

Welke maatregelen stel jij voor?

“Wat volgens mij al zou helpen, is als een deel van de opgehaalde data niet online wordt opgeslagen. Opslaan op het toestel is veiliger dan in de cloud. Daarnaast zou de overheid de techbedrijven moeten kunnen reguleren. Zo moet het duidelijk zijn waarvoor zij de data verzamelen en opslaan. ‘Om het product te kunnen verbeteren’, is niet voldoende. 

“En dan kom ik ook nog een keer terug op de beeldvorming. Techbedrijven zijn er goed in om te doen alsof de slimme speakers een service naar de consument zijn. Omdat ons leven er makkelijker door wordt. Maar aan het einde van de dag hebben zij natuurlijk een winstoogmerk. Het zou goed zijn als consumenten beseffen wie de magie van het betoverde huis eigenlijk in bezit heeft.”

Advertentie

Bekijk meer recent nieuws

Schrijf je in voor onze nieuwsbrief

Blijf op de hoogte. Meld je aan voor de nieuwsbrief van Univers.