Hoe diverse data en ethische praktijken verantwoorde AI-engineering stimuleren

Karen Panetta's technische traject bracht haar ertoe kritische vooroordelen in gezichtsherkenningssystemen te identificeren en transparante technologie te verdedigen die het menselijk welzijn beschermt.

Door

• Esther Shittu, nieuwsschrijver
• Shaun Sutner, senior nieuwsdirecteur

Gepubliceerd:01 juli 2025

Het traject voor Karen Panetta's ingenieursdiploma begon met het advies van haar vader dat haar koopgedrag ondersteund moest worden door een sterke financiële carrière.

Na enige tijd te hebben besteed aan het bouwen van computers en het ontwerpen van CPU's, probeerde de IEEE-fellow en decaan van het graduate engineering-onderwijs aan de Tufts University de academische wereld in te gaan. Ze realiseerde zich echter dat er een groot probleem was op technisch gebied.

"Ze zeiden:'We nemen je aan als mentor voor vrouwen', en toen ik bij mijn eerste les kwam, waren er geen vrouwen'", vertelde Panetta over de laatste aflevering van de Targeting AI-podcast van Informa TechTarget. "Zo werd ik per ongeluk een mentor, voorstander en kampioen om een inclusief publiek kennis te laten maken met techniek."

Die passie ging later over op AI-technologie toen ze begon te werken om kinderen te redden van mensenhandel.

"Ik merkte dat alle datasets die daar waren getraind voor gezichtsherkenning meteen werden overgenomen, waarbij beide oren zichtbaar waren", zei Panetta. "De database was grotendeels afkomstig van gekleurde mensen en criminele databases. Dus dat was zoiets van:oké, er is sprake van vooringenomenheid."

Als reactie hierop hebben Panetta en haar team een gevarieerde database gemaakt van mensen van over de hele wereld, in de leeftijd van 3 tot 78 jaar. De afbeeldingen tonen mensen in verschillende scenario's, met zonnebrillen, maskers of verschillende hoofdrotaties.

"AI die is getraind met zeer zuivere gegevens zal in de echte wereld niet werken", zegt Panetta. "De echte wereld vertaalt zich niet automatisch naar AI."

Panetta voegde eraan toe dat AI-technologie ook ethisch moet zijn, wat betekent dat mensen of hun levensonderhoud niet worden geschaad.

"Als we het hebben over ethische AI, hebben we het over hoe we het verzamelen, de rechten van de mensen en hoe we het gaan gebruiken", zei ze.

Ondertussen gaat verantwoorde AI over het kunnen uitleggen waarom het AI-systeem de beslissing heeft genomen, zei ze.

Esther Shittu is nieuwsschrijver en podcastpresentator van Informa TechTarget over AI-software en -systemen. Shaun Sutner is senior nieuwsdirecteur voor het informatiemanagementteam van Informa TechTarget en verzorgt de berichtgeving over AI, analytics en datamanagementtechnologieën, en big tech en federale regelgeving. Hij is een ervaren journalist met meer dan 30 jaar nieuwservaring. Samen behandelen ze de Targeting AI-podcast.

Graaf dieper in AI-technologieën

• 11 echte AI-voorbeelden en gebruiksscenario's

  Door:Mary Pratt

• IBM's zakelijke AI-visie voor maatwerk en samenwerking

  Door:Esther Shittu

• CEO van Black Girls Code zegt dat diversiteit in AI iedereen omvat

  Door:Esther Shittu

• Hoe Cerebras de concurrentie met Nvidia benadert

  Door:Esther Shittu