Waarom is het tijd om te stoppen blindelings geloven in big data
Leven / / December 19, 2019
algoritmen bepalen nu wie de lening, verzekering goedkeuren of die een uitnodiging voor een gesprek ontvangen, maar vaak doen ze dat onterecht. Bovendien verhoogt deze de spleet tussen de lagen van de bevolking.
Katie O'Neill (Cathy O'Neil)
De wiskundige, op de analyse van de financiële markten specialist, auteur van het boek "Weapons of wiskundige nederlaag."
Een algoritme te bouwen, moeten we twee dingen: data (wat er is gebeurd in het verleden) en de definitie van een succesvol resultaat (wat u wilt vinden met behulp van dit algoritme). Het bepaalt vervolgens welke criteria leiden tot een succesvol resultaat. Maar de definitie van succes kan niet universeel zijn.
Algoritme - is de mening van iemand anders, de ingebouwde code.
We gebruikten om te denken dat algoritmen zijn objectief en betrouwbaar, maar het is slechts een marketing gimmick bedoeld om ons te intimideren en ons vertrouwen in algoritmen en wiskundige data.
O'Neill noemt voorbeelden waarbij algoritmen ernstige schade kan veroorzaken. Dit gebeurt bij de evaluatie van medewerkers. Bijvoorbeeld, in 2011 in een school in Washington County zijn ontslagen meer dan 200 leraren na hun
onkruid uit algoritmeHoewel ze hadden uitstekende aanbevelingen van hun ouders en leeftijdgenoten.Daarnaast zijn de algoritmes zijn vaak de reden voor het verwijderen van bevooroordeeld uitspraken. Nieuwsorganisatie ProPublica onlangs een onderzoek uitgevoerd en gevondenDat de algoritmen die de kans op recidive te bepalen, werken objectief. Op hetzelfde misdaden vaak zinnen genomen zwarte Amerikanen.
We zijn allemaal onderworpen aan vooroordelen, en we brengen ze in de algoritmen die bepalen welke gegevens behoeften rekening moet worden gehouden.
Algoritmes zijn eenvoudig te herhalen onze fouten uit het verleden, het automatiseren van de bestaande orde. Zodat we ze niet blindelings kunnen vertrouwen, moeten we om ze te testen objectief te zijn: de definitie van een succesvol resultaat te heroverwegen, fout, niet verzekerd door een algoritme. Hoe ze vaak voorkomen en die wordt beïnvloed? Wat zijn de kosten van dergelijke fouten?
Professionals werken met de gegevens, mogen niet de scheidsrechters van rechtvaardigheid. Het is tijd om te stoppen blindelings geloven big data.