Nieuwe AI kan detecteren of een nieuwsbron accuraat of politiek bevooroordeeld is

• Nieuw algoritme voor machine learning richt zich op nieuwsbronnen in plaats van alleen individuele claims te schrapen, om nep- en vooringenomen nieuws te detecteren.
• Voor nieuwe nieuwsartikelen behaalde het een nauwkeurigheid tot 70%.
• Er zijn slechts 150 inhoud nodig om te bepalen of de bron kan worden vertrouwd of niet.

Sociale-mediaplatforms hebben het voor iedereen extreem gemakkelijk gemaakt om informatie op internet te delen en te verspreiden. Dit heeft geleid tot de verspreiding van nepnieuws dat meestal wordt gegenereerd om de gevoelens van mensen te veranderen en grote evenementen zoals politieke verkiezingen te beïnvloeden, of om verkeer aan te trekken en inkomsten te genereren door advertenties weer te geven.

Hoewel veel technische giganten aanzienlijke middelen steken in het bouwen van hun eigen nepnieuwsdetectiesystemen, zijn onderzoekers van MIT en Qatar Computing Research Institute van mening dat de beste strategie om nepnieuws te detecteren is om zich te concentreren op de nieuwsbronnen in plaats van alleen individuele claims te analyseren.

Met deze aanpak hebben ze een nieuwe op machine learning gebaseerde methode ontwikkeld die bepaalt of een bron betrouwbaar is of niet. Kortom, het kenmerkt hele nieuwsmedia en voorspelt de feitelijkheid van berichtgeving.

Hoe bepaalt het bevooroordeeld nieuws?

Het idee achter het systeem is dat als een site eerder verkeerde feiten heeft gepubliceerd, er een behoorlijke kans is dat ze het opnieuw zullen doen. Door andere inhoud op dergelijke websites te analyseren, kan het systeem bepalen welke sites dit in de eerste plaats zullen doen.

Om nepnieuws betrouwbaar te identificeren, kan men zoeken naar gemeenschappelijke taalkundige kenmerken zoals structuur, complexiteit en sentiment in het artikel. De meeste nepnieuws gebruiken bijvoorbeeld emotionele, subjectieve en hyperbolische taal.

In dit onderzoek experimenteren ze met verschillende functies die zijn afgeleid van

1. Inhoud van doelnieuwsbronnen,
2. zijn Twitter-account en Wikipedia-pagina
3. de URL-structuur
4. het aantal bezoekers dat het krijgt

Ze verzamelden gegevens van een website Media Bias/Fact Check. Met de hulp van menselijke recensenten onderzoekt deze website de feitelijkheid en vooroordelen van bijna tweeduizend nieuwssites, waaronder populaire mediabronnen en dunne contentfarms.

Referentie: arXiv:1810.01765 | MIT

Deze gegevens zijn ingevoerd in een machine learning-model, dat is ontwikkeld om bronnen op dezelfde manier te classificeren als websites voor het beoordelen van mensen. Het model leverde indrukwekkende resultaten op:voor nieuwe nieuwsartikelen behaalde het een nauwkeurigheid van 65% om te bepalen of het artikel een lage, gemiddelde of hoge mate van feitelijkheid heeft, en was het 70% nauwkeurig om te bepalen of de inhoud correct is, links of gematigd.

Afbeelding tegoed:MIT

De onderzoekers beweren dat het systeem slechts 150 inhoud nodig heeft om nauwkeurig te bepalen of de bronwebsite te vertrouwen is of niet. Zo kan het nepnieuws filteren voordat het te wijd verspreid over het internet wordt verspreid.

Wat nu?

Onderzoekers werken momenteel aan het systeem om de nauwkeurigheid te verbeteren en het te laten werken in combinatie met conventionele feitenanalysers. Als het systeem 'rare of verwarrende' resultaten geeft over een specifiek onderwerp, kunnen handmatig beoordelende platforms die resultaten snel controleren en bepalen welke validiteit aan verschillende perspectieven moet worden gegeven.

De auteurs hebben ook een open-source dataset gegenereerd van bijna duizend nieuwswebsites die zijn getagd met nauwkeurigheids- en biasscores. Ze zijn ook van plan om mobiele apps uit te rollen om mensen te helpen uit hun politieke bubbel te stappen. Bovendien zullen ze proberen het systeem te trainen om ook met andere talen te werken. Ze willen verder gaan dan rechts/links vooringenomenheid en andere vormen van vooroordelen modelleren die relevanter zijn voor andere regio's.

Lezen:een nieuw algemeen algoritme om valse ID's op sociale netwerksites te detecteren

Dit soort algoritmen kunnen mensen helpen begrijpen hoe nepsites eruitzien en wat voor soort artikel ze geneigd zijn te publiceren.