Broń matematycznej zagłady. Jak algorytmy zwiększają nierówności i zagrażają demokracji

Kiedy na świecie żyje ponad 7 mld osób osobne rozpatrzenie każdego wniosku kredytowego, aplikacji na studia czy ocena indywidualnego pracownika staje się niemożliwa. Danych jest po prostu za dużo. Na szczęście firmy mają do dyspozycji ”big data” – algorytmy i modele matematyczne, których zadaniem jest przetwarzanie ogromnej liczby danych. Ich moc obliczeniowa pozwala przetworzyć o wiele więcej informacji niż standardowe procedury. Przede wszystkim są jednak niezależne i wolne od uprzedzeń i wykonują tylko jedno zdanie: wskazać poprawny, obiektywny i właściwy wynik.

To idealny obraz. Problem polega na tym, że podobne algorytmy pisane są przez ludzi, a ci bardzo rzadko bywają obiektywni. W konsekwencji zaprojektowane przez nich narzędzia zamiast opisywać świat, kreują rzeczywistość zgodnie z tym, w co wierzy ich stwórca. To właśnie Broń Matematycznej Zagłady – Beemzet – ten szczególny rodzaj algorytmu, który działa poza prawem i zasięgiem naszego wzroku.

Nie każdy może żyć jak przysłowiowy ”Wilk z Wall Street”. Film Scorsese opowiada historię brokera, którego błyskawiczna droga na szczyt i rozrzutny styl życia wzbudziły w końcu zainteresowanie FBI.

Mechanizmy, o których pisze Cathy O’Neil, nie tylko przemycają szereg uprzedzeń i dyskryminujących czynników, ale przede wszystkim wykorzystują ludzkie słabości. Z ich powodu parabanki pogrążają ubogich i zdesperowanych a słabo wykształceni kończą na uczelniach, których dyplomy nie mają żadnej wartości.

Książka Cathy O’Neil została nominowana do National Book Award for Nonfiction 2016. O’Neil, matematyczka i weteranka kryzysu finansowego z Wall Street, podąża tropem przegranych i skrzywdzonych, odkrywając kolejne Beemzety wszędzie: na uczelniach i w szkołach, w sieciowych restauracjach, służbie zdrowia, internetowych agencjach reklamowych, bankach, towarzystwach ubezpieczeniowych, policji, mediach społecznościowych czy podczas kampanii wyborczych…

*O autorce: *Cathy O’Neil jest analityczką danych oraz autorką bloga mathbabe.org. Uzyskała stopień doktora nauk matematycznych na Harvardzie oraz wykładała w Barnard College, po czym przeniosła się do sektora prywatnego, gdzie pracowała dla funduszu hedgingowego D.E. Shaw. Następnie podjęła pracę jako analityczka danych w różnych start-upach, tworząc modele przewidujące zakupy oraz kliknięcia użytkowników. O’Neil zainicjowała tzw. Lede Program in Data Journalism, czternastodniowy podyplomowy kurs dziennikarki w zakresie analizy danych. Jest również współautorką książki ”Doing Data Science”. Co tydzień pojawia się w podcaście Slate Money.