Da kan det være på sin plass å vise til Dr. Cathy O'Neil og hennes arbeid for å påvise hvordan algoritmer skaper splid og ufrihet i "mulighetenes land".
Hun er dataspesialist, Quant og har skrevet boken "Weapons of Math Destruction". Det hun tar opp er hvordan Stordata er i ferd med å anvendes på alle områder, på måter som er i strid med demokratiske spilleregler, gjerne også med den amerikanske grunnloven, og som i tillegg skaper muligheter for skjulte agendaer i det man innbiller seg er åpne og rettferdige prosesser (som lengden på fengselsstraffer, hvorvidt man får lån, hvor politiet leter etter forbrytere, i hvilken utstrekning rase og kjønn vekter beslutninger).
Hun formulerer det slik: "You know what your algorithm is good for, but do you know how it fails?" Og viser eksempler på hvordan tusener av lærere er blitt sparket som følge av hemmelige algoritmer som skal evaluere dem; hvordan jobbsøkere utestenges på overfladisk og også grunnlovsstridig grunnlag og hvordan de som skriver algoritmene sørger for at sorte får lengre fengselsstraffer enn hvite, selv om de hvite har begått større forbrytelser -- vha algoritmer med skjulte kildekoder som er hemmelige også for oppdragsgiverne.
O'Neil er sylskarp og holder her en presentasjon for Google Talks. Det beste med Google Talks er oppfølgingsspørsmålene:
Her er O'Neil i Masters of Data podcast hos sumologic. Man kan også lese intervjuet med henne, om man ikke har tid til å lytte:
https://www.sumologic.com/masters-of-data/fighting-creepy-algorithms-cathy-oneil/