Het leven na Alexa:het publieke vertrouwen in IoT opnieuw opbouwen

Nog maar een paar jaar geleden waren slimme huisassistenten de nieuwste 'must-have'-technologie. Hoewel ze een beperkte functionaliteit hadden, maakte hun nieuwheid, in combinatie met een relatief lage prijs (en strategische prijsverlagingen tijdens de feestdagen) ze bijna onweerstaanbaar voor de consument. Plots hadden technologiebedrijven toegang tot meer persoonlijke informatie dan ze wisten wat ze ermee moesten doen. In feite waren er sinds vorig jaar smartspeakers in meer dan een half miljard huizen over de hele wereld.

Zie ook: Privacy een belangrijk probleem bij het stilleggen van grote Smart City-projecten

Meer recentelijk begonnen deze apparaten echter uit de gratie te raken bij het publiek. Bijna elke week is er een nieuw schandaal over gegevensprivacy, en als gevolg daarvan beginnen mensen zich meer te bekommeren om wie toegang heeft tot hun persoonlijke informatie. Voor velen is het idee van een analways-on, altijd luisterende assistent niet zo aantrekkelijk meer.

Technologiebedrijven hebben het vertrouwen van het publiek verloren, maar slimme assistenten hebben nog steeds veel potentieel, vooral gezien het nut dat ze kunnen worden met toekomstige ontwikkelingen op het gebied van machine learning. In de toekomst is het aan fabrikanten van slimme luidsprekers om te bewijzen dat hun producten een tweede kans verdienen, en de beste manier om dit te doen is door hun benadering van gebruikersprivacy te onderzoeken.

Wat voor soort informatie slaan slimme assistenten op?

De exacte gegevens die worden verzameld, variëren op basis van de fabrikant van het apparaat en de opnamemogelijkheden (een apparaat met een ingebouwde camera kan bijvoorbeeld videoclips opnemen of op verschillende tijdstippen van de dag verslag uitbrengen over het omgevingslicht). Het grootste probleem, althans voorlopig, is echter audio. Met name hoeveel er wordt opgenomen, waarom het is opgenomen en wat er met de opname wordt gedaan zodra deze de bedrijfsservers bereikt.

Spraakgestuurde assistenten luisteren technisch gezien altijd, maar ze zullen verzoeken pas verwerken als ze een specifiek triggerwoord horen. Deze triggers zijn specifiek gekozen als ongebruikelijke reeksen lettergrepen (bijvoorbeeld 'OK, Google' of 'Alexa'), zodat de spreker ze gemakkelijker kan herkennen in het dagelijkse gesprek.

Het probleem is dat algoritmen niet onfeilbaar zijn. Als gevolg hiervan kunnen slimme assistenten het triggerwoord verkeerd verstaan ​​en beginnen met het opnemen van audio zonder medeweten van de eigenaar. Als het algoritme niet zeker weet of een triggerwoord is gezegd, stuurt het de audioclip naar de verificatiemedewerkers van het bedrijf, die de uiteindelijke beslissing nemen. In theorie helpt dit soort toezicht om het aantal valse positieven te verminderen, maar in de praktijk betekent het dat mensen op elk moment kunnen luisteren naar wat er vlak daarvoor in uw huis gebeurde.

De reis van uw gegevens eindigt daar echter niet. De opname wordt vervolgens getranscribeerd (en mogelijk geannoteerd door personeel) voordat beide versies worden opgeslagen op de servers van het bedrijf (waar ze voor onbepaalde tijd blijven, zelfs als u de lokaal op uw apparaat opgeslagen gesprekken verwijdert). Als je een verzoek hebt gedaan, kunnen de acties die je assistent heeft ondernomen ook worden vastgelegd.

Is het veiliger om IoT-apparaten individueel te beheren dan om een ​​slimme assistent te gebruiken?

Hypothetisch gezien voorkomt het besturen van slimme gloeilampen, stopcontacten en thermostaten met behulp van hun respectievelijke apps dat uw slimme assistent gegevens over uw andere apparaten verzamelt. Dat gezegd hebbende, is de kans groot dat deze apparaten ook een of andere vorm van informatie verzamelen, en het is onwaarschijnlijk dat minder bekende merken gedetailleerde privacy-informatie openbaar maken, dus het is moeilijk om zeker te weten welke optie veiliger is.

Laten we aannemen dat de fabrikant van uw slimme gloeilamp basisinformatie over uw gebruiksgewoonten in realtime kan zien:welke kleur het licht heeft, de huidige kleurintensiteit en of het licht aan is of niet. Volgens onderzoekers van de Universiteit van Texas in San Antonio is dit voldoende om te bepalen naar welk nummer je luistert (ervan uitgaande dat je het soort lampen hebt dat van kleur verandert als reactie op muziek). Dit experiment was redelijk beperkt in omvang, maar als een miljardenbedrijf met miljoenen uren aan spraakgegevens besloot het te repliceren, is het heel goed mogelijk dat het je gesprekken kon afluisteren zonder zelfs maar een microfoon te hoeven gebruiken.

Zelfs relatief eenvoudige apparaten zoals smartsockets verzamelen informatie. Een van de meest algemeen erkende modellen registreert 45 dagen aan gegevens, inclusief uw dagelijkse gebruiksniveaus, wifi-verbindingssterkte, hoeveel uw elektriciteit per kWh kost en hoe lang het apparaat stand-by heeft gestaan. Dit is voldoende informatie om een ​​redelijke inschatting te kunnen maken of u al dan niet in loondienst bent, hoeveel mensen u bij zich heeft en (als u meerdere slimme stopcontacten heeft), de globale indeling van uw woning. Dit specifieke model bevat ook een micro-USB-poort die volgens de fabrikant in de toekomst voor extra sensoren kan worden gebruikt.

Technische reuzen moeten hun benadering van privacy heroverwegen

Als het publiek slimme assistenten wil blijven omarmen, moeten ze het gevoel hebben dat hun privacy wordt gerespecteerd. Organisaties beginnen kleine stappen in deze richting te zetten, bijvoorbeeld door cameracovers toe te voegen aan hun apparaten, maar symbolische gebaren als deze missen het punt:mensen maken zich geen zorgen over wat hun apparaat zou kunnen zien, ze zijn bezorgd dat het helemaal kijken.

De technologie zelf is niet het probleem:spraakgestuurde assistenten kunnen immers buitengewoon nuttig zijn, vooral voor mensen met beperkte mobiliteit of slechtziendheid. In plaats daarvan is het probleem dat de bedrijven die deze apparaten maken een "alles verzamelen"-mentaliteit hebben die gewoon niet compatibel is met de privacy van gebruikers. Door de privacy-first-benadering in drie stappen toe te passen die hieronder wordt beschreven, kunnen technische giganten de zorgen van gebruikers op een zinvolle manier wegnemen. Dit zorgt er op zijn beurt voor dat bestaande klanten de service blijven gebruiken en kan sommigen zelfs aanmoedigen om te upgraden wanneer nieuwere modellen worden uitgebracht .

1. Weg met de geheimhouding

Mensen zijn zo gewend aan problematisch privacybeleid dat ze dit automatisch accepteren. Het alternatief is immers niet een toestel gebruiken waarvoor je al betaald hebt. In de toekomst mogen slimme assistenten alleen gegevens verzamelen die strikt nodig zijn voor een specifieke taak, en deze informatie moet worden verwijderd (zowel lokaal als uit de administratie van de fabrikant) zodra het zijn doel heeft gediend. Gebruikers moeten zich ook kunnen afmelden voor bepaalde functies als ze niet akkoord gaan met het verstrekken van de vereiste machtigingen, net zoals u kunt doen met apps op een mobiele telefoon.

Hoe zou dit in de praktijk werken? Stel dat u een routebeschrijving naar een bepaald restaurant wilt opvragen. Uw assistent zou zowel uw huidige locatie als uw bestemming moeten weten. Het kan ook vragen om uw geplande reistijd om informatie over het openbaar vervoer te vinden en snel, maar dit zijn geen kritieke gegevens en moet alleen worden overwogen als de gebruiker deze vrijwillig verstrekt. Zodra de gebruiker arriveert, zijn hun bestemmingsgegevens niet langer nodig en kunnen ze veilig worden weggegooid (opnieuw, tenzij de gebruiker specifiek een locatie aan een adresboek toevoegt).

In het bovenstaande voorbeeld slaagt de gebruiker erin om zonder problemen zijn bestemming te bereiken, ondanks het verstrekken van minimale informatie. Als u dit daarentegen zou proberen met moderne apparaten, zou uw slimme assistent niet alleen kunnen achterhalen waar u heen gaat, maar ook wat voor soort etablissement het is, hoe vaak u het bezoekt en hoe populair het is bij anderen in uw omgeving . Deze functionaliteit wordt niet gebruikt om uw ervaring te verbeteren; het wordt gebruikt om een ​​advertentieprofiel op te bouwen en kan als zodanig worden weggelaten zonder merkbare impact op de gebruiker.

2. Bied gebruikers de tools die ze nodig hebben om hun eigen gegevens te beheren

Simpel gezegd, gebruikers mogen niet worden gestraft omdat ze privacybewust zijn. Als mensen echt toestemming willen geven om hun persoonlijke informatie weg te geven, moeten ze eerst begrijpen wat dit betekent. Bedrijven zouden hun beleid voor gegevensverzameling niet langer moeten verdoezelen in tientallen pagina's juridische terminologie; klanten moeten precies kunnen zien wat voor soort informatie wordt vastgelegd. Wat nog belangrijker is, is dat deze informatie in een gemakkelijk te begrijpen formaat moet zijn, vrij van halve waarheden over metadata of geanonimiseerde datasets. Gebruikers moeten ook worden geïnformeerd waarom elk stuk gegevens wordt vastgelegd en hoe ze het kunnen verwijderen, als ze dat willen.

Tegenwoordig kan het weken duren om erachter te komen welke gegevens een bepaald bedrijf over u heeft. Bepaalde websites maken dit proces eenvoudiger dan andere, maar je kunt nog steeds verwachten dat je minstens een paar uur moet wachten nadat je de juiste optie in een doolhof van submenu's hebt gevonden.

Waarom zou het bekijken van uw persoonlijke gegevens niet zo eenvoudig mogelijk zijn? Gebruikers moeten zelf kunnen beslissen of een bedrijf toegang tot hun gegevens verdient of niet. In de toekomst moet het veel gemakkelijker zijn om uw gegevens te bekijken, maar daar hoeft u niet bij te blijven.

Op dit moment staan ​​de meeste slimme assistenten bijvoorbeeld niet toe dat gebruikers spraakopnamen automatisch verwijderen of gedetailleerde statistieken bekijken, zoals hoe vaak hun audioclips zijn doorverwezen voor handmatige verificatie. Dit zijn geen bijzonder geavanceerde functies, maar ze zouden een grote bijdrage leveren aan het herwinnen van het vertrouwen van het publiek en het opbouwen van een reputatie als een transparant, privacybewust technologiebedrijf.

3. Beperk tussenkomst van derden tot een minimum

De bekendste slimme assistenten zijn al jaren actief. Gezamenlijk hebben ze toegang tot een breder scala aan spraakgegevens dan wie dan ook, ooit, met allerlei talen en accenten. Als het personeel, na miljoenen dollars aan investeringen en jaren van finetuning van het algoritme, nog steeds vaak handmatig moet ingrijpen om te zien of een triggerwoord is gebruikt, moeten bedrijven misschien accepteren dat de huidige methoden gewoon niet werken.

Er zijn tal van andere manieren om het aantal valse positieven te verminderen zonder dat gebruikers zich zorgen hoeven te maken over wie er luistert. Door bijvoorbeeld de uren te beperken waarin uw assistent actief is, verkleint u de kans dat achtergrondgeluid ten onrechte wordt herkend als een triggerwoord. Veel slimme luidsprekers stellen gebruikers al in staat om aangepaste routines te creëren, zoals elke dag op een bepaald tijdstip muziek afspelen; deze technologie kan vrijwel zeker worden uitgebreid om 'stille tijden' in te plannen (zoals de vroege ochtenduren), waar de assistent eenvoudigweg niet reageert op verbale commando's.

Sommige diensten hebben onlangs individuele spraakherkenning aangenomen, waarbij de assistent alleen op specifieke mensen reageert. Dit traint de assistent echter met slechts een handvol zinnen (waarschijnlijk om het gemak voor de gebruiker te maximaliseren). Dit kan leiden tot situaties waarin het opdrachten accepteert van mensen die gewoon een soortgelijk accent of dezelfde toon hebben als een geautoriseerde gebruiker. Daarentegen zou een groter aantal trainingsfrases de assistent moeten helpen om te begrijpen wat de stem van een persoon echt uniek maakt, waardoor het bereik van geaccepteerde invoer en op zijn beurt het aantal fout-positieven wordt verminderd.

Ten slotte kunnen assistenten in huishoudens met een abnormaal hoog aantal valse positieven een functie bieden die achtergrondgeluid op verschillende tijdstippen van de dag registreert. Dit kan vervolgens worden gebruikt om het spraakherkenningsmodel aan te passen aan bepaalde huizen, zodat het minder waarschijnlijk wordt veroorzaakt door omgevingsfactoren zoals het verkeer buiten, vliegtuigen boven het hoofd of onhoorbare frequenties.

Praktijken voor het verzamelen van huidige gegevens kunnen niet standhouden

Het enige echte probleem dat mensen hebben met smarthome-assistenten, is dat ze het gevoel hebben dat ze in de gaten worden gehouden. Het probleem is dat ze gelijk hebben. Massale gegevensverzameling is al jaren de norm, maar het tij begint te keren, nu gebruikers in recordaantallen privacygerichte tools en services gebruiken. Slimme assistenten hebben een enorm potentieel, maar als hun makers zich uiteindelijk niet aanpassen aan deze nieuwe, gebruiker-first houding, lopen ze het risico achter te blijven.