Uitbestede AI en deep learning in de zorgsector – loopt de gegevensprivacy gevaar?

Als opkomende technologieën is bewezen dat kunstmatige intelligentie (AI) en deep learning krachtige zakelijke inzichten bieden. Dit geldt met name voor de gezondheidszorg, zegt Jonathan Martin, Operations Director EMEA bij Anomali , waar Freemium AI en machine learning-softwarepakketten zoals theano, torch, cntk en tensorflow medische aandoeningen zoals kanker, hartaanvallen en vele andere op afbeeldingen gebaseerde diagnoses effectief kunnen voorspellen.

De integratie van AI en deep learning in medische praktijken is daarom een ​​onvermijdelijke en cruciale volgende stap voor de gezondheidszorg, hoewel een dergelijk streven niet zonder uitdagingen is.

Een van de meest urgente problemen die organisaties ervan weerhoudt om deze technologieën volledig te benutten, is een gebrek aan technisch geschoold personeel. Er zijn veel cyberbeveiligingsprofessionals die waarschijnlijk in de vraag naar technisch talent kunnen voorzien, maar met een toch al beperkt aanbod van professionals in de cyberbeveiligingsindustrie zelf is het onwaarschijnlijk dat het aanbod op korte termijn aan de vraag zal voldoen.

Om de zaken voor de zorgsector nog ingewikkelder te maken, vereist de implementatie van deze technologieën toegang tot persoonlijk identificeerbare informatie (PII), een van de meest gerichte gegevens bij cyberaanvallen vanwege het gevoelige en daarom lucratieve karakter ervan.

De National Health Society (NHS) gekozen om kwesties van personeelsbezetting en gegevensprivacy te omzeilen door samen te werken met Deepmind , een bedrijf dat is overgenomen door Alphabet/Google. Dit gaf Deepmind toegang tot 1,6 miljoen medische dossiers, waaronder informatie over bloedonderzoek, medische diagnostiek, historische patiëntendossiers en zelfs meer gevoelige gegevens zoals hiv-diagnose en eerder drugsgebruik. Of dit wel of niet een gepast risico was, is de bron van enige controverse in de industrie geweest.

Zoals we zagen bij de WannaCry-aanval op de NHS, kan een cyberaanval verwoestende gevolgen hebben voor de industrie. Dit mag organisaties er echter niet van weerhouden om informatie te delen en geavanceerd te analyseren. AI en andere technologieën zijn essentieel voor de vooruitgang van de gezondheidszorg, en het inhuren van technisch talent is een integraal onderdeel om de kracht ervan volledig te benutten op een veilige manier die de noodzaak tot uitbesteding overbodig maakt. Organisaties moeten ook consistent blijven in hun best-inspanningspraktijken om het risico van een organisatie te minimaliseren.

Een van deze best practices omvat het redigeren van alle persoonlijk identificeerbare informatie. Elke organisatie die gegevens uitbesteedt, moet in plaats daarvan pseudoniemen gebruiken, waarbij de unieke identificatiecode en de PII alleen worden bewaard door de vertrouwde entiteit. Semi-gevoelige informatie die waarde zou hebben voor het machine learning-model, moet ook worden verwijderd. De geografische locatie van een patiënt is een perfect voorbeeld.

Deze gegevens kunnen een krachtige indicator van een ziekte zijn, maar de onbewerkte gegevens kunnen worden gebruikt om de PII van een bepaalde patiënt te reverse-engineeren. Het weggooien van dergelijke informatie is een effectieve afweging tussen het versterken van de voorspellingskracht van de AI en het beschermen van de vertrouwelijkheid van de patiënt.

Deze best-effort-strategieën kunnen helpen om de meeste zorgen weg te nemen, maar dit is geen onfeilbare methode om vertrouwelijkheid te verzekeren. Op dit moment is het niet mogelijk om te garanderen dat AI uw PII niet kan reconstrueren. In een onderzoek van CMU ontdekten onderzoekers dat burgerservicenummers verrassend voorspelbaar waren en dat het AI-algoritme meestal een burgerservicenummer kon reconstrueren uit informatie zoals geboortedatum en geslacht.

In de toekomst kunnen organisaties op zoek gaan naar meer geavanceerde technologie om de inspanningen voor het uitbesteden van privégegevens veilig te stellen. Recente ontwikkelingen op het gebied van federatief leren kunnen de flexibiliteit vergroten en groepen in staat stellen om gegevens op locatie op te slaan. Een andere verwante technologie van homomorfe encryptie wordt ook ontwikkeld. Met homomorfe versleuteling vinden de berekeningen plaats op versleutelde gegevens zonder ooit de gegevens te hoeven ontsleutelen, wat het veiligheidsrisico aanzienlijk vermindert.

Op dit moment zijn we nog jaren verwijderd van technologie die het probleem van gegevensprivacy rechtstreeks oplost. De belofte van de voordelen van AI zijn echter te groot voor de zorgsector om te wachten. In de nabije toekomst moeten industrieën een evenwicht vinden om burgers te beschermen en onnodige kwetsbaarheden te voorkomen.

De auteur van deze blog is Jonathan Martin, EMEA Operations Director bij Anomali