Dit artikel is onderdeel van Het Groene Lab.

Het Groene Lab is de kweekvijver van De Groene en publiceert verhalen en essays van jong talent. Iets insturen? Mail ons via lab@groene.nl.

‘De privésfeer is een grijs gebied’

Met slimme speakers nestelen techreuzen als Amazon en Google zich in de meest intieme leefomgeving van de mens – het huis. De technologie is even schitterend als beloftevol, zegt rechtswetenschapper Silvia de Conca. Toch weet ze na vier jaar promotieonderzoek één ding heel zeker: bij haar komen Alexa en Google Assistant niet over de drempel. ‘Ze brengen het huis als vrije, veilige plek aan het wankelen.’

Als Silvia de Conca ’s ochtends wakker wordt in haar Rotterdamse appartement, schuiven de gordijnen niet automatisch open. De lichten springen ook niet op commando aan, in de keuken pruttelt geen slimme koffiemachine die precies weet hoe ze haar espresso wil, er zoeft geen slimme stofzuiger door het huis en de voerbak van haar kat vult zich niet vanzelf met brokjes. 

De Conca is een smart home-onderzoeker zonder smart home. Dat wekt misschien enige verbazing – een beetje als een computerwetenschapper die zelf niet computert. Ze krijgt er vaak vragen over, zegt ze. ‘Of mensen verwachten dat mijn huis vol staat met slimme apparaten? Dat weet ik niet. Misschien wel, want ik houd van technologische gadgets en ik kan heel lui zijn. Maar ik denk dat het vooral een soort check is: als ik met mijn achtergrond in recht en technologie een slim huis heb, dan zal het wel oké zijn.’

Die geruststelling kan De Conca niet geven. En dat is niet ondanks maar juist vanwege haar wetenschappelijke kennis. Haar jarenlange onderzoek naar smart home-technologie deed haar besluiten haar werk niet mee naar huis te nemen, vertelt ze. Ze kent de risico’s. ‘Hoe interessant ik de technologie ook vind, bij mij thuis zal je geen digitale assistent of andere smart home devices vinden.’

Silvia de Conca is een Italiaanse rechtswetenschapper. Ze werkte een tijd voor een advocatenkantoor in Rome en doceerde daarna informatierechttechnologie in Mexico. In 2016 verruilde ze de campus van de Tec de Monterrey in Chihuahua voor een promotieplek aan Tilburg University. Ze was gegrepen door een nieuwe technologie die een paar jaar eerder nog onmogelijk had geleken: een intelligente kruising tussen een personal assistant en de perfecte huisgenoot, in de vorm van een stijlvol draadloos boxje. Smart speakers, met ingebouwde spraakassistent, konden op een nagenoeg menselijke manier communiceren, antwoord geven op zo’n beetje elke denkbare vraag, het nieuws voorlezen, boodschappen bestellen, de kamertemperatuur regelen, de kinderen naar bed sturen, Netflix aanzetten en met een zachte stem welterusten zeggen aan het einde van een lange dag.

Binnen de komende maanden – de precieze datum moet nog worden vastgesteld – promoveert De Conca aan de Tilburgse rechtenfaculteit op haar onderzoek naar slimme speakers en hun impact op de privésfeer. Als ze haar proefschrift verdedigt heeft ongeveer een kwart van alle Amerikanen een slimme speaker in huis en blijven de verkoopcijfers van marktleiders Amazon en Google wereldwijd spectaculair stijgen – ook in Nederland, waar volgens schattingen zo’n anderhalf miljoen huishoudens een slimme speaker hebben. Maar toen De Conca ruim vier jaar geleden de contouren van haar onderzoek schetste, waren de eerste digitale huisassistenten nog voorzichtig de Amerikaanse markt aan het betreden.

Amazon bracht in 2014 zijn Echo-speaker met spraakassistent Alexa uit, en kort daarna lanceerde concurrent Google een eigen slimme speaker, Home, met Google Assistant. ‘In die tijd waren het nog nicheproducten, maar ik rekende erop dat ze dat niet lang zouden blijven. Deze technologie zou de manier waarop we ons dagelijks leven inrichten radicaal veranderen. Daarvan was ik overtuigd. Tegelijkertijd realiseerde ik me dat een slimme speaker enorme hoeveelheden data moest verzamelen om realtime met mensen te kunnen communiceren. Fascinerend natuurlijk, maar het riep ook veel vragen op.’

Op de eerste vraag die De Conca zich vier jaar geleden stelde – ‘Hoe is deze technologie in hemelsnaam mogelijk?’ – heeft ze het antwoord inmiddels wel gevonden. Andere vragen bleken moeilijker te beantwoorden. ‘De technologie is indrukwekkend, maar lang niet zo complex als de implicaties ervan,’ zegt ze. ‘Daar was ik vooral in geïnteresseerd: hoe gaat deze technologie de mens en ons menszijn veranderen? Wat betekent het als kunstmatige intelligentie de privésfeer niet alleen binnendringt en beïnvloedt, maar er ook in zekere mate over gaat beschikken?’

Want dat laatste is wat smart speakers onderscheidt van andere apparaten waarmee we onze huizen delen, zegt De Conca. Dat mensen samenleven met machines is niet nieuw. Maar voor huishoudelijke apparaten zoals wasmachines en magnetrons geldt: als je eenmaal doorhebt hoe ze werken, kun je gebruik van ze maken. Alexa en Google Assistant werken ook andersom: ze zijn in staat hun gebruiker te leren kennen en, als ze je eenmaal doorhebben, gebruik van jou te maken. Bijvoorbeeld door te beïnvloeden welk nieuws je tot je neemt en bij welke winkels en restaurants je bestellingen plaatst. En door bewoners van slimme huizen te profilen en die profielen door te spelen aan bedrijven, verzekeraars of informatiehongerige datadealers.

Zelfs met andere slimme apparaten, zoals smartphones en smart-tv’s, zijn digitale huisassistenten volgens De Conca niet te vergelijken. ‘Digitale assistenten zijn in staat om met ons te communiceren, ons te observeren, ons te leren kennen en richting te geven aan onze beslissingen. Dat maakt ze veel geavanceerder dan andere huisapparaten, en ook veel invasiever,’ legt ze uit. Aan haar kant van de Skype-verbinding pakt ze haar mobieltje van tafel en houdt hem voor het oog van de camera. ‘Dit apparaat verzamelt ook heel veel data,’ zegt ze. ‘Maar dat is een fractie van de informatie waar een Amazon Alexa of Google Assistant uit kan putten. Een slimme speaker is het brein van het huis, de centrale regelkamer waar alle informatie van alle verbonden apparaten in huis wordt verzameld en verwerkt.’

De digitale huisassistent kent elke bewoner van het huis door en door, zegt De Conca. ‘In een vijfpersoonshuishouden kan een Alexa of Google Assistant feilloos herkennen wie er op welk moment spreekt en wat ieders individuele voorkeuren, routines en eigenaardigheden zijn.’ En waarom ook niet? Slimme sensoren maken het speakertje deelgenoot van alles dat zich in de privacy van het huis afspeelt. Het apparaatje kan je slaap analyseren, het weet op welke muziek je danst en op welke muziek je huilt, het kent de geheimen die kinderen aan hun knuffels toevertrouwen. In de toekomst zou het met behulp van videosensoren zelfs gezichten, gezichtsuitdrukkingen en emoties kunnen herkennen.

Dat brengt natuurlijk privacyrisico’s met zich mee. Want hoe veilig is al die intieme informatie in de intelligente handen van een Alexa of Google Assistant? Niet erg veilig, concludeert De Conca. ‘Een slimme assistent werkt volledig via cloud computing. Alles, echt alles, gaat de cloud in.’ Dat is niet alleen onverstandig omdat data kwetsbaarder is in de cloud, maar ook onnodig. ‘Het is heel goed mogelijk om data op lokale servers op te slaan en om gebruikers daarin keuzevrijheid te geven. Niet alles hoeft online, zeker als het gaat om minder complexe functies zoals de lampen aanzetten of de gordijnen openen.’

Wat er in de cloud van Amazon of Google met je persoonlijke gegevens gebeurt, is niet te controleren. De Conca pleit daarom voor een andere oplossing om bewoners van een slim huis meer controle te geven over hun privacy en persoonlijke gegevens. ‘De consument zou de mogelijkheid moeten krijgen om zelf de intensiteit van het cloudgebruik in te stellen. Dan kun je als gebruiker kiezen: mag alle data de cloud in, wil je voor de meeste functies cloud computing gebruiken, of wil je zoveel mogelijk data op lokale servers in huis opslaan? Die opties heb je nu niet. Sommige smart home-producenten experimenteren er wel mee, zoals Candle, maar die experimenten bevinden zich op dit moment nog in een vroeg stadium.’

Hoewel meer controle over de intensiteit van het cloudgebruik volgens De Conca een goed begin is, kan dat lang niet alle problemen wegnemen die aan Alexa’s en Assistants kleven. Dat privacygevoelige informatie bedoeld of onbedoeld met derden wordt gedeeld, is namelijk niet alleen een cloudprobleem. In een slim huis hebben de muren oren, ogen én een mond – alles wat er binnenshuis gebeurt kan worden beluisterd, bekeken en doorverteld. ‘Dat is niet de bedoeling, maar er gaat op dat vlak nogal eens iets mis,’ aldus De Conca. Om te beginnen kunnen de digitale assistenten zich vergissen. ‘Er is een beroemd voorbeeld van een familie uit het Amerikaanse Portland. Hun Alexa had een privégesprek opgenomen en dat geluidsfragment verstuurd naar een medewerker van de vader van het gezin. Niemand had daartoe opdracht gegeven – Alexa had het blijkbaar verkeerd begrepen. Zo’n misverstand kan natuurlijk heel snel heel awkward worden.’

Ook behoorlijk awkward: privégesprekken die worden beluisterd door een wildvreemde achter een computer ergens in de kantoortuinen van een techreus. Vorig jaar kwam aan het licht dat medewerkers van zowel Amazon als Google gesprekken afluisteren die door slimme huisapparaten worden opgenomen, soms van extreem persoonlijke aard. Dat bleek uit verklaringen van medewerkers die zeiden duizenden gesprekken per dag af te luisteren om de software te verbeteren en de algoritmen te trainen. Sommige medewerkers verklaarden dat ze stille getuigen waren geworden van suïcide, huiselijk geweld en andere situaties waarin iemand in nood leek te verkeren, anderen luisterden alleen persoonlijke gesprekken en gezang onder de douche af.

‘Meeluisteren is voor techbedrijven misschien onderdeel van de normale bedrijfsvoering, maar dat neemt niet weg dat gebruikers het ervaren als een inbreuk op hun privacy,’ zegt De Conca. Toch is het juridisch niet altijd duidelijk hoe de privésfeer beschermd kan worden tegen de meeluisterpraktijken van bedrijven als Amazon en Google. Techbedrijven zeggen namelijk niemand te bespioneren. De sensoren van de digitale assistent registreren volgens Google en Amazon niets zolang ze geen activatiecode zoals ‘Hé Google’ of ‘Alexa’ opvangen (of denken op te vangen). En die opgenomen privégesprekken? Die worden alleen door medewerkers beluisterd ten behoeve van kwaliteitsverbetering.

De privésfeer is een grijs gebied, aldus De Conca. Aantasting ervan kan ontwrichtend zijn en voelen als een zwaar vergrijp, maar wetmatig ligt het lastig. ‘De privésfeer is een sociaal construct. Het is onderhevig aan verandering en betekent niet voor iedereen hetzelfde.’ Dat maakt het moeilijk om de veranderlijke privésfeer te beschermen met de objectieve, ijzeren wetten van het recht. ‘In sommige gevallen is er juridisch heel duidelijk sprake van een inbreuk op de privésfeer. Als iemand ongewenst je post openmaakt en je brieven leest, bijvoorbeeld, of je huis binnendringt. Maar heel vaak gaat het om subjectieve grenzen. De wet kan dan niet altijd bescherming bieden.’

Slimme assistenten kleuren het grijze gebied van de privésfeer nog veel grijzer. En bovendien reikt dat mistige gebied verder dan vraagstukken rond privacy en databescherming, zegt De Conca. Want als we kunstmatig intelligente manusjes-van-alles onze huizen laten besturen en ze daarmee een zekere mate van zeggenschap over ons privéleven geven, wat betekent dat dan voor kwesties als aansprakelijkheid en verantwoordelijkheid? ‘Het recht gaat uit van menselijke autonomie en eigen regie: mensen hebben controle over hun handelen en kunnen verantwoordelijk worden gehouden voor de gevolgen van hun beslissingen. Een Alexa of Google Assistant kan dat aan het schuiven brengen,’ legt De Conca uit. ‘Het zijn machines, maar ze communiceren en functioneren op een menselijke manier. Dat maakt ze in staat ons te beïnvloeden, bijna zoals andere mensen invloed hebben op ons gedrag en onze keuzes.’

Thuis, in de veilig ommuurde persoonlijke leefomgeving van de mens, hebben slimme huisassistenten zich ontpopt tot sociale actoren. Dat is zorgelijk, vindt De Conca. ‘Ze zijn zo ontworpen dat ze naar de achtergrond van ons bewustzijn verdwijnen en we nauwelijks doorhebben dat ze er zijn. Maar ondertussen verankeren deze apparaten zich in onze dagelijkse routines en fungeren ze als een filter voor het nieuws dat we ontvangen, de aankopen die we doen en andere alledaagse beslissingen die we nemen. Van die beïnvloeding zijn de meeste mensen zich onvoldoende bewust.’

Wat volgens De Conca ook belangrijk is om te beseffen: als bewoner van een smart home moet je niet alleen jezelf beschermen tegen privacyschendingen, maar ook je gasten. ‘Onder de regelgeving van de Europese privacywet, de welbekende avg, kun je in sommige gevallen verantwoordelijk worden gehouden voor de dataverwerking van je bezoek. De wet is daar nog niet geheel duidelijk over. Maar als er iets misgaat, bijvoorbeeld omdat Alexa de persoonlijke data van gasten ongevraagd deelt met derden, zou het dus kunnen dat de eigenaar van het apparaat daarvoor aansprakelijk is.’

Een slimme spraakassistent neemt meer uit handen dan alledaagse klusjes. Het is een ingewikkelde trade-off, aldus De Conca: met elk karwei dat we aan het digitale hulpje uitbesteden, leveren we ook een beetje regie, autonomie en privacy in. En die zaken – regie, autonomie en privacy – zijn misschien wel nergens zo heilig als thuis.

De Conca’s onderzoek maakt duidelijk dat de impact van slimme speakers op de privésfeer ver voorbij het juridische domein strekt. ‘Slimme speakers beïnvloeden ons thuiszijn, en daarmee ons menszijn,’ zegt ze. ‘Ons huis is de fysieke ommuring van onze privésfeer, waar we ons tijdelijk kunnen onttrekken aan het openbare leven. De regels van de publieke ruimte gelden er niet. Zelfs in het donker vinden we er moeiteloos de weg en we kunnen er gerust naakt en gedachteloos rondlopen, zonder al te veel op onszelf of onze omgeving te letten. Dat is belangrijk, want zo komen we tot rust.’

De aanwezigheid van een vreemde entiteit in huis, hoe onopvallend en vriendelijk die ook is, kan in de rust van onze veilige eigen thuishaven een vertroebelend effect hebben. ‘Een deel van mijn proefschrift is gebaseerd op sociaal- en gedragswetenschappelijk onderzoek,’ zegt De Conca. ‘Mijn hypothese is dat slimme speakers bepaalde negatieve sociaalpsychologische mechanismen kunnen triggeren, zoals crowding – het beklemmende idee dat er iemand aanwezig is, fysiek of niet, wat leidt tot een gevoel van controleverlies over de privésfeer.’

Volgens De Conca heeft dat te maken met het ontwerp van slimme speakers. ‘We vergeten dat ze er zijn. Ze worden een gewoonte, een vanzelfsprekend onderdeel van ons dagelijkse bestaan,’ legt ze uit. ‘Totdat we plotseling geconfronteerd worden met hun aanwezigheid, bijvoorbeeld omdat de slimme speaker al onze contacten heeft gebeld en hen een geluidsopname van een privégesprek heeft laten horen. Zo’n situatie kan ons het akelige gevoel geven dat we minder controle hebben over onze privésfeer, of dat we in ons eigen huis gecontroleerd worden door een ander.’

Die ander is een oppermachtig techbedrijf en niet een extra gezinslid, zoals de marketeers van Amazon en Google het graag doen voorkomen. ‘The newest member of the family, zo worden slimme speakers vaak gepresenteerd,’ zegt De Conca. ‘Een mooie marketingstrategie, maar in werkelijkheid heeft de aanschaf van een Echo of Home natuurlijk niets met een gezinsuitbreiding te maken. Je haalt met een slimme speaker geen familielid in huis – je haalt een bedrijf in huis dat je data verzamelt en je tot bepaalde keuzes verleidt, terwijl je je onbespied en zonder inmenging van de buitenwereld waant.’

Digitale assistenten beloven rust te brengen in drukke mensenlevens, maar heel vaak verstoren ze juist de rust, vrijheid en veiligheid die de mens thuis ervaart. De Conca: ‘Dat is een conclusie die ik betreur, want de potentie van slimme speakers is enorm. Vooral voor ouderen en mensen met een beperking kan een Alexa of Google Assistant van grote toegevoegde waarde zijn. Een smart speaker kan de reden zijn dat iemand zelfstandig kan blijven wonen, of minder last heeft van eenzaamheid.’

En ook voor andere huishoudens kan de hulp van een digitale assistent verlichting brengen. Bijvoorbeeld voor grote gezinnen, mensen met een veeleisend beroep of mantelzorgers. Of promovendi – een PhD-traject is tenslotte al zwaar genoeg zonder dagelijkse bekommeringen over koffie, kattenvoer en de juiste kamertemperatuur. ‘Het is een afweging. Een risicovolle afweging, die je goed geïnformeerd moet maken,’ aldus De Conca. ‘Voor sommige mensen zullen de problematische kanten van een smart speaker niet opwegen tegen de mogelijkheden ervan. Maar voor mij wegen de problemen zwaarder.’

Of die weegschaal in de toekomst misschien toch naar de andere zijde zal overhellen? De Conca denkt van niet. ‘Het ontwerp van slimme speakers is volledig gericht op dataverzameling en profiling, en naar mijn verwachting zal dat niet snel veranderen. Tegelijkertijd denk ik dat we richting een toekomst zullen blijven bewegen waarin steeds meer huizen smart zijn, hoe onwenselijk dat ook is. Het is daarom belangrijk dat we op zijn minst begrijpen wat dat betekent, en hoe we onze veranderende privésfeer effectief kunnen blijven beschermen.’

Volgens De Conca is dat alleen mogelijk met een nieuwe combinatie van juridische en sociale normen. ‘Juridische normen en regels kunnen techbedrijven stimuleren om tot betere oplossingen te komen. Maar voor de regulering van de smart home-industrie zijn ook sociale afspraken nodig over wat we wel en niet acceptabel vinden,’ zegt ze.

‘Sociale normen ontstaan met de tijd, in wisselwerking met juridische normen. Het dragen van een autogordel is daar een mooi voorbeeld van. Vroeger kon je zonder gordel in de auto zitten, nu wordt dat zowel wettelijk als sociaal niet meer geaccepteerd.’ Zo zullen in de komende jaren ook nieuwe geschreven en ongeschreven regels ontstaan die gelden in het slimme huis. ‘Als mensen in de toekomst bezoek ontvangen, dan zal het misschien heel normaal zijn om bij de voordeur niet alleen ‘Schoenen aan of uit?’ te horen, maar om ook ‘Alexa aan of uit?’ te vragen.’