Hello world

Chcąc wyrobić sobie zdanie o algorytmie, musimy najpierw zrozumieć relację człowieka i maszyny. Każdy algorytm wiąże się z ludźmi, którzy go opracowali i potem wdrożyli.

Zupełnie przypadkiem natknąłem się w ostatnim czasie na dwie książki tej samej autorki. Najpierw trafiłem na Matematykę miłości i wrzuciłem na listę oczekujących, a po paru dniach w oko wpadła mi Hello World, i zauważyłem, że obie zostały napisane przez matematyczkę Hannah Fry. Ponieważ ta druga miała traktować o algorytmach we współczesnym świecie uznałem, że wyprzedzi kolejkę innych czekających rzeczy. Zwłaszcza, że całkiem niedawno czytałem książkę innej matematyczki na podobny temat – Broń matematycznej zagłady.

Fakt, że obie autorki są matematyczkami jest chyba jedyną cechą wspólną. O’Neil jest Amerykanką doktorat zrobiła na Harvardzie, z kolei Fry to Brytyjka z doktoratem na University College London. Książka O’Neil jest absurdalna w swoich uproszczeniach i założeniach (matematyka jest niesprawiedliwa, a algorytmy złe), zaś Fry pokazuje na niemal identycznych przykładach z dziedziny sądownictwa, bezpieczeństwa publicznego, medycyny gdzie pojawiają się problemy, w chwili gdy zaczynamy przekazywać podejmowane decyzje algorytmom. W stonowany i bardzo wyważony sposób pokazuje wady i zalety rozwiązań z wykorzystywaniem “bezdusznego” wymiaru sprawiedliwości, rozważając na ile nam (jako społeczeństwu) zależy na jednolitych wyrokach, a na ile na zindywidualizowanym podejściu.

O’Neil w niezbyt przemyślany sposób próbowała przekonywać, że algorytmy wzmagają nierówności, bywają “rasistowskie”, jeśli chodzi o typowanie choćby potencjalnych przestępców. Fry, z kolei pokazuje, jak to funkcjonuje i z czego wynika ów “rasizm”. Często jest konsekwencją realnej statystyki, a czasami uprzedzeń twórców oprogramowania, lub użytkowników, nadających odpowiednie wagi i parametry. O ile przekaz Amerykanki brzmi “matematyka stała się szatańskim narzędziem”, Brytyjka pokazuje mówi – to my wykorzystujemy matematykę, od nas zależą możliwe rozwiązania – urzędy kontrolujące, jawność algorytmów, cele ich wykorzystywania, a przede wszystkim pokazuje, że człowiek ma pewne skłonności do “kombinowania” a zarazem bezkrytycznego ufania wynikom algorytmów (oddalenie własnej odpowiedzialności) co bywa mieszanką wybuchową.

Jak sama pisze w zakończeniu:

Algorytmy b ę d ą robić błędy. Algorytmy b ę d ą nieuczciwe. To nie powinno nas w żadnej mierze zniechęcać do podejmowania wszelkich wysiłków, żeby stawały się coraz dokładniejsze i coraz mniej uprzedzone – być może jednak pogodzenie się z tym, iż algorytmy, zupełnie jak ludzie, nie są idealne, będzie miało ten skutek, że przestaniemy tak mocno wierzyć w ich wyroki.

[…]

W moim odczuciu najlepsze algorytmy to takie, które uwzględniają człowieka na każdym etapie swojego działania. Takie, które wiedzą, że mamy zły nawyk traktowania maszyn jako nieomylne, i takie, które są świadome własnych wad, więc z dumą prezentują nam swoją niedoskonałość.

Hello world, H. Fry

Hello world. Jak być człowiekiem w epoce maszyn, Hannah Fry

Wyd.: Wydawnictwo Literackie, 2019

Tłum.: Sebastian Musielak

Podziel się

Dodaj komentarz

Twój adres email nie zostanie opublikowany. Pola, których wypełnienie jest wymagane, są oznaczone symbolem *