Vertrouwen in IoT Herbouwen na Alexa: Een Nieuw Tijdperk van Privacy

Massa dataverzameling is jarenlang de norm geweest, maar de getijde begint te keren, met gebruikers die in recordaantallen privacy-centrische tools en diensten adopteren.

Nog maar een paar jaar geleden waren slimme thuissassistents de laatste "must-have" technologie. Ondanks dat ze beperkte functionaliteit hadden, maakten hun noviteit, gekoppeld aan een relatief laag prijspunt (en strategische prijsverlagingen tijdens de feestdagen) hen nagenoeg onweerstaanbaar voor consumenten. Ploteling hadden tech-bedrijven toegang tot meer persoonlijke informatie dan ze wisten wat mee te doen. In feite, vanaf vorig jaar, waren er slimme speakers in meer dan een half miljard huishoudens over de hele wereld.

Zie ook: Privacy een Kernkwestie Die Grote Smart City-projecten Remt

Recentelijk zijn deze apparaten echter in ongenade gevallen bij het publiek. Bijna elke week is er een nieuw dataprivacy-schandaal, en als resultaat beginnen mensen zich meer zorgen te maken over wie toegang heeft tot hun persoonlijke informatie. Voor velen is het idee van een always-on, always-listening assistant niet meer zo aantrekkelijk.

Tech-bedrijven hebben het vertrouwen van het publiek verloren, maar slimme assistenten hebben nog steeds veel potentieel, met name gegeven hoe nuttig ze kunnen worden met toekomstige vooruitgang in machine learning. Vooruitgaand ligt de last bij slimme speaker-fabrikanten om te bewijzen dat hun producten een tweede kans verdienen, en de beste manier om dit te doen is met een lang overduurde herziening van hun benadering van gebruikersprivacy.

Wat voor informatie slaan slimme assistenten op?

De exacte data die wordt verzameld, varieert op basis van de fabrikant van het apparaat en de opnamecapaciteiten (een unit met ingebouwde camera kan bijvoorbeeld videoclips opnemen of rapporteren over omgevingslichtniveaus op verschillende tijden van de dag). Het hoofprobleem, tenminste voor nu, is audio. Specifiek, hoeveel er wordt opgenomen, waarom het wordt opgenomen, en wat er met de opname gebeurt zodra het de servers van het bedrijf bereikt.

Voice-activated assistenten zijn technisch gezien altijd aan het luisteren, maar ze verwerken verzoeken pas wanneer ze een specifiek triggerwoord horen. Deze triggers zijn specifiek gekozen om ongebruikelijke reeksen lettergrepen te zijn (bijvoorbeeld "OK, Google," of "Alexa") zodat de speaker ze gemakkelijker van dagelijkse gesprekken kan onderscheiden.

Het probleem is dat algoritmes niet onfeilbaar zijn. Als resultaat kunnen slimme assistenten het triggerwoord verkeerd horen en beginnen met opnemen zonder kennis van de eigenaar. Als het algoritme niet zeker is of een triggerwoord gezegd is, stuurt het de audioclip naar het verificatiepersoneel van het bedrijf, die de eindbeslissing nemen. In theorie helpt dit soort toezicht het aantal false positives te verminderen, maar in de praktijk betekent het dat op elk moment mensen kunnen luisteren naar wat er in je huis net voor gebeurde.

De reis van je data eindigt daar niet. De opname wordt dan getranscribeerd (en mogelijk geannoteerd door personeel) voordat beide versies opgeslagen worden op de servers van het bedrijf (waar ze oneindig blijven, zelfs als je gesprekken lokaal op je apparaat verwijdert). Als je een verzoek deed, kunnen de acties die je assistant ondernam in reactie erop ook worden vastgelegd.

Is het veiliger om IoT-apparaten individueel te managen dan een slimme assistant te gebruiken?

Hypothetisch voorkomt het besturen van slimme lampen, stopcontacten en thermostaten met hun respectievelijke apps dat je slimme assistant data verzamelt over je andere apparaten. Dat gezegd hebbende, is er een goede kans dat deze apparaten ook een of andere vorm van informatie verzamelen, en minder bekende merken maken onwaarschijnlijk gedetailleerde privacy-informatie publiekelijk beschikbaar, dus het is moeilijk om zeker te weten welke optie veiliger is.

Laten we aannemen dat je slimme lampfabrikant basisinformatie over je gebruiksgedrag in real-time kan zien: welke kleur het licht is, de huidige kleurintensiteit, en of het licht aan of uit staat. Volgens onderzoekers van de Universiteit van Texas in San Antonio is dit genoeg om te identificeren welk nummer je aan het luisteren bent (ervan uitgaande dat je het type lampen hebt dat kleur verandert in reactie op muziek). Dit experiment was redelijk beperkt in omvang, maar als een multi-miljard dollar bedrijf met miljoenen uren stemdata besloot het te repliceren, is het volledig mogelijk dat ze je gesprekken kunnen belauschen zonder zelfs een microfoon te gebruiken.

Zelfs relatief eenvoudige apparaten zoals slimme stopcontacten verzamelen informatie. Een van de meest herkenbare modellen registreert 45 dagen waard data, inclusief je dagelijkse gebruiksniveaus, Wi-Fi-verbindingssterkte, hoeveel je elektriciteit per kWh kost, en hoe lang het apparaat op standby is geweest. Dit is genoeg informatie om een redelijke gok te maken over of je werkzaam bent of niet, hoeveel mensen er met je zijn, en (als je meerdere slimme stopcontacten hebt), de globale indeling van je huis. Dit specifieke model bevat ook een micro-USB-poort die de fabrikant suggereert in de toekomst gebruikt te kunnen worden voor extra sensoren.

Tech-giganten moeten hun benadering van privacy heroverwegen

Als het publiek slimme assistenten blijft omarmen, moeten ze voelen dat hun privacy gerespecteerd wordt. Organisaties beginnen kleine stappen in deze richting te zetten, bijvoorbeeld door camera-hoesjes aan hun apparaten toe te voegen, maar dergelijke gebaren missen het punt: mensen zijn niet bang voor wat hun apparaat zou kunnen zien, ze zijn bezorgd dat het op alle tijden kijkt.

De tech zelf is niet het problema: immers, voice-activated assistenten kunnen extreem nuttig zijn, met name voor mensen met beperkte mobiliteit of gezichtsvermogen. In plaats daarvan is het probleem dat de bedrijven die deze apparaten maken een "verzamel alles" mindset hebben die simpelweg niet compatibel is met gebruikersprivacy. Door de drie-staps privacy-first benadering hieronder te adopteren, kunnen tech-giganten gebruikersbezorgdheden op een zinvolle manier wegnehmen. Dit zorgt ervoor dat bestaande klanten de service blijven gebruiken en kan zelfs sommigen aanmoedigen om te upgraden wanneer nieuwere modellen worden uitgebracht.

1. Afschaffen met de geheimhouding

Mensen zijn zo gewend aan problematische privacybeleid dat ze ze automatisch accepteren. Immers, de alternatief is het niet gebruiken van een apparaat waar je al voor betaald hebt. Vooruitgaand zouden slimme assistenten alleen data moeten verzamelen die strikt vereist is voor een specifieke taak, en deze informatie moet worden verwijderd (zowel lokaal als uit de archieven van de fabrikant) zodra het zijn doel heeft gediend. Gebruikers moeten ook in staat zijn om zich af te melden voor bepaalde functies als ze niet instemmen met de vereiste machtigen, net zoals je dat kan met apps op een mobiele telefoon.

Hoe zou dit in de praktijk werken? Stel je wilt routebeschrijvingen naar een bepaald restaurant. Je assistant zou zowel je huidige locatie als je bestemming moeten weten. Het kan ook vragen om je beoogde reistijd om openbaar vervoerinfo te vinden enzovoort, maar dit zijn geen kritieke data, en moeten alleen overwogen worden als de gebruiker ze vrijwillig geeft. Zodra de gebruiker aankomt, is hun bestemmingsdata niet meer nodig, en kan veilig worden verworven (opnieuw, tenzij de gebruiker specifiek een locatie toevoegt aan een adresboek).

In het bovenstaande voorbeeld beheert de gebruiker om op hun bestemming te komen zonder enig probleem, ondanks het leveren van minimale informatie. In tegenstelling, als je dit met huidige apparaten zou proberen, zou je slimme assistant niet alleen kunnen ontdekken waar je naartoe gaat, maar welk type etablissement het is, hoe vaak je het bezoekt, en hoe populair het is met anderen in je omgeving. Deze functionaliteit wordt niet gebruikt om je ervaring te verbeteren; het wordt gebruikt om een advertentieprofiel op te bouwen en als zodanig kan het gedispenseerd worden zonder merkbare impact op de gebruiker.

2. Gebruikers voorzien van de tools die ze nodig hebben om hun eigen data te managen

Kortom, gebruikers mogen niet gestraft worden voor privacy-bewustzijn. Als mensen daadwerkelijk moeten instemmen met het weggeven van hun persoonlijke informatie, moeten ze eerst begrijpen wat dit betekent. Bedrijven mogen hun dataverzamelingsbeleid niet langer verduisteren in tientallen pagina's juridische terminologie; klanten moeten in staat zijn om precies te zien welk type informatie wordt vastgelegd. Belangrijker nog, deze informatie moet in een gemakkelijk begrijpelijk formaat zijn, vrij van halve waarheden over metadata of geanonimiseerde datasets. Gebruikers moeten ook geïnformeerd worden waarom elk stuk data wordt vastgelegd, en hoe ze het kunnen verwijderen, als ze dat kiezen.

Deze dagen kan het weken duren om te ontdekken welke data een bepaald bedrijf over je heeft. Bepaalde websites maken dit proces gemakkelijker dan andere, maar je kunt nog steeds rekenen op कम से कम een paar uur na het vinden van de juiste optie in een doolhof van submenu's.

Waarom zou het bekijken van je persoonlijke informatie niet zo simpel mogelijk zijn? Gebruikers moeten in staat zijn om zelf te beslissen of een bedrijf toegang verdient tot hun data of niet. In de toekomst moet het veel gemakkelijker zijn om je data te bekijken, maar er is geen reden om daar te stoppen.

Bijvoorbeeld, op dit moment laten de meeste slimme assistenten gebruikers geen stemopnames automatisch verwijderen of gedetailleerde statistieken bekijken zoals hoe vaak hun audioclips werden doorverwezen voor handmatige verificatie. Dit zijn geen speciaal geavanceerde functies, maar ze zouden een lange weg gaan in het herwinnen van publiek vertrouwen en het opbouwen van een reputatie als een transparante, privacy-bewuste tech-bedrijf.

3. Derde-partij-interventie tot een minimum reduceren

De bekendste slimme assistenten zijn al jaren operationeel. Collectief hebben ze toegang tot een breder bereik van stemdata dan iemand ooit, met alle soorten talen en accenten vertegenwoordigd. Als, na miljoenen dollars investering en jaren aan afstellen van het algoritme, personeel nog steeds frequent handmatig moet interventeren om te zien of een triggerwoord gebruikt was, moeten bedrijven misschien accepteren dat de huidige methoden gewoon niet werken.

Er zijn genoeg andere manieren om het aantal false positives te verminderen zonder gebruikers bezorgd te maken over wie er luistert. Bijvoorbeeld, door de uren te beperken waarin je assistant operationeel is, verminder je de kans dat achtergrondgeluid verkeerd geïdentificeerd wordt als een triggerwoord. Veel slimme speakers laten al toe dat gebruikers aangepaste routines maken zoals elk dag op een vast uur muziek afspelen; deze tech zou bijna zeker uitgebreid kunnen worden om "stilte-tijden" te plannen (zoals de vroege ochtenduren), waar de assistant simpelweg niet reageert op spraakcommando's.

Sommige diensten hebben recentelijk individuele stemherkenning geadopteerd, waar de assistant alleen reageert op specifieke mensen. Echter, dit traint de assistant met slechts een handjevol zinnen (waarschijnlijk om het gemak voor de gebruiker te maximaliseren). Dit kan leiden tot situaties waar het commando's accepteert van mensen die simpelweg een vergelijkbaar accent of toon hebben als een geautoriseerde gebruiker. In tegenstelling, een groter aantal trainingszinnen zou de assistant helpen in te zoomen op wat een persoon's stem echt uniek maakt, waardoor het bereik van geaccepteerde inputs vermindert en omgekeerd, het aantal false positives.

Ten slotte kunnen assistenten in huishoudens met een abnormaal hoog aantal false positives een functie aanbieden die achtergrondgeluid opneemt op verschillende tijden van de dag. Dit kan dan gebruikt worden om het spraakherkenningsmodel aan te passen voor specifieke huizen zodat het minder waarschijnlijk wordt getriggerd door omgevingsfactoren zoals verkeer buiten, vliegtuigen erboven, of onhoorbare frequenties.

Huidige dataverzamelingspraktijken kunnen niet volhouden

Het enige echte probleem dat mensen hebben met slimme thuissassistents is dat ze zich gevoelen geobserveerd. Het probleem is dat ze gelijk hebben. Massa dataverzameling is jarenlang de norm geweest, maar de getijde begint te keren, met gebruikers die in recordaantallen privacy-centrische tools en diensten adopteren. Slimme assistenten hebben enorm potentieel, maar uiteindelijk, als hun scheppers niet aanpassen aan deze nieuwe, gebruiker-eerste houding, riskeren ze achtergelaten te worden.