Waarom directe AI-regulering cruciaal is: Maatschappij, vertrouwen en innovatie beschermen

De regulatorische en ethische standaarden voor opkomende technologieën zijn net zo nieuw als de tech zelf.

Het is zeldzaam om big tech, overheid en academici uit hetzelfde liedje te horen zingen, zeker op een onderwerp zo verdeeld als AI-regulering. Toch is dat de huidige realiteit — met iedereen van de late Stephen Hawking tot Elon Musk, en van Ursula von der Leyen tot Boris Johnson die roepen voor verhoogde wetgeving "voordat het te laat is".

Het is een nieuwe grens niet alleen voor opkomende technologieën, zoals kunstmatige intelligentie (AI), maar ook voor de regulatorische en ethische standaarden die ze omringen. Met de AI-markt die verwacht wordt de $500 miljard te doorbreken tegen 2024, volgens IDC, moeten zowel risico als beloning door allen overwogen worden. Deze overweging is bijzonder kritiek voor verantwoordelijken voor het bouwen en implementeren van AI: de ontwikkelaars.

Robotic process automation (RPA) biedt bedrijven — groot en klein — significante voordelen. Het drijven van betere digitale klantervaringen die klanten in staat stellen om empathische, persoonlijke gesprekken te voeren met agents is slechts één voorbeeld. Het probleem is dat terwijl enterprise-leiders meestal overtuigd zijn door de business case voor RPA, werknemers zich vaak anders voelen. Angst over automatisering en het schijnbare gebrek aan beschermingen om het te reguleren of ethische richtlijnen te bieden bij het bouwen of implementeren ervan. Deze zor is zo acuut dat het de snelheid vertraagt waarmee RPA door gebruikers wordt geadopteerd, ondanks de geïnstalleerde basis blijft groeien.

Wat werknemers hier echt over praten is vertrouwen — vertrouwen dat ze niet door robots vervangen zullen worden, of vertrouwen dat het algoritme dat ze ontwerpen of gebruiken, hypotheekaanvragen van klanten eerlijk zal overwegen. In mijn ervaring sluiten de meeste organisaties geen contactcentra en ontslaan werknemers niet omdat ze een RPA-platform hebben gedeployed. In plaats daarvan vrijwaart de implementatie advisors om te concentreren op betekenisvolle gesprekken met klanten, gelijk aan die die gewoonlijk op de lokale hoogstraat plaatsvinden. Maar het vertrouwen in die relatie ligt tussen een werknemer en een werkgever — of dienstverlener en klant — niet met de technologie zelf. Waar vertrouwen bestaat, tonen enquêtes dat werknemers actiever roepen naar diepere adoptie van AI in hun dagelijkse werkleven.

Om vertrouwen in RPA te stimuleren, besloten we om 'te codificeren' langdurige principes in de kern van ons engineering-team in een 'Robo Ethical Framework'. Geïnspireerd op Asimov's Drie Principes, is het onze hoop en verwachting dat organisaties waar we mee werken dit ethische framework adopteren. Dit zal helpen vertrouwen te kweken onder werknemers en klanten, wat op zijn beurt innovatie en groei drijft.

Eén voorbeeld is de 1974 Fair Credit Billing Act die houderansprakelijkheid beperkte — een duidelijke en bewuste act om de toenmalig opkomende creditcardindustrie te remmen die houder onterecht aansprakelijk stelde voor frauduleuze transacties, zelfs als de kaart gestolen was. Door de industrie te reguleren, konden consumenten vertrouwen dat ze beschermd werden en het product met vertrouwen gebruiken.

Ervaring heeft ons geleerd dat zonder controleren en reguleren van nieuwe technologie we potentiële onethische uitkomsten riskeren. Ons Robo Ethics Framework is bedoeld als nog een stem die toevoegt aan de oproep aan wereldleiders, bedrijven en werknemers op de werkvloer om samen te komen, echte verandering te implementeren zodat AI en RPA hun ware belofte kunnen vervullen.