Hoe diverse data en ethische praktijken verantwoord AI-engineering drijven
Karen Panetta's engineering-reis leidde haar tot het identificeren van cruciale bias in gezichtsherkenningssystemen en het kampvechten voor transparante technologie die het menselijk welzijn beschermt.
Door
- Esther Shittu, nieuwsredacteur
- Shaun Sutner, senior nieuwsdirecteur
Gepubliceerd: 1 juli 2025
De weg voor Karen Panetta's engineering-graad begon met haar vaders advies dat haar shopgewoonte onderhouden moest worden door een sterke financiële carrière.
Na enige tijd computers te bouwen en CPU's te ontwerpen, zocht de IEEE-fellow en decaan van graduate engineering education aan Tufts University een carrière in de academie. Echter, ze realiseerde zich dat er een groot probleem was in het engineering-veld.
"Ze zeiden: 'We huren je in als mentor voor vrouwen,' en toen ik bij mijn eerste les aankwam, waren er geen vrouwen," herinnerde Panetta zich in de laatste aflevering van de Targeting AI-podcast van Informa TechTarget. "Zo werd ik een toevallige mentor, voorvechter en kampvechter om inclusieve publieken naar engineering te brengen."
"Ik merkte dat alle datasets die getraind waren voor gezichtsherkenning straight-on waren genomen, beide oren zichtbaar," zei Panetta. "De database bestond voornamelijk uit beelden van kleurlingen en criminële databases. Dus dat was: OK, daarsit de bias."
Als reactie creëerden Panetta en haar team een diverse database van mensen uit de hele wereld, leeftijden 3 tot 78. De afbeeldingen tonen mensen in verschillende scenario's, met zonnebrillen, mondmaskers of verschillende hoofddraaiingen.
"AI getraind met heel zuivere data gaat niet werken in de echte wereld," zei Panetta. "De echte wereld vertaalt zich niet automatisch naar AI."
Panetta voegde toe dat AI-technologie ook ethisch moet zijn, wat betekent dat het geen schade toebrengt aan mensen of hun levensonderhoud.
"Als we praten over ethische AI, praten we over hoe we het verzamelen, de rechten van de mensen en hoe we het gaan gebruiken," zei ze.
Terwijl verantwoorde AI gaat over het kunnen uitleggen waarom het AI-systeem de beslissing nam die het nam, zei ze.
Esther Shittu is een Informa TechTarget nieuwsredacteur en podcasthost die AI-software en systemen dekt. Shaun Sutner is senior nieuwsdirecteur voor Informa TechTarget's informatieteam, wat dekking drijft van AI, analytics en datamanagement-technologieën, en big tech en federale regulering. Hij is een ervaren journalist met meer dan 30 jaar nieuwservaring. Samen dekken ze de Targeting AI-podcast.
Dieper duiken in AI-technologieën
11 real-world agentic AI-voorbeelden en use cases
Door: Mary Pratt
IBM's enterprise AI-visie voor customization, collaboratie
Door: Esther Shittu
Black Girls Code CEO zegt: diversiteit in AI omvat iedereen
Door: Esther Shittu
Hoe Cerebras zich verhoudt tot concurreren met Nvidia
Door: Esther Shittu
Internet of Things-technologie
- Predictieve analyse integreren in uw IIoT-strategie
- 7 Bewezen IoT Businessmodellen Die Groei & Winst Drijven
- Hoe Koudekettens de Geheimen van IoT Energiemanagement Onthullen
- Netwerkbeperkingen: Waarom Slimme Huizen een Nieuwe Connectiviteitsoplossing Nodig Hebben
- AI's Rol in Exponentiële Groei in de High-Tech Sector
- Voorspellend onderhoud: Katalysator voor de volgende industriële revolutie
- Siemens & Bentley kondigen gezamenlijke oplossing aan om elektriciteitscentrales te digitaliseren
- Blockchain: De Vertrouwensmotor Voor Morgen Transacties
- Beveiliging van Advanced Driver Assistance Systems (ADAS): Veiligheidsstrategieën voor het komende decennium
- Hoe IoT de commerciële verzekeringen revolutioneert: Data, schadeclaims en simpelere processen
- De Millennial Revolutie: De Productie Transformeren met Digitale Expertise