Zbiór zer i jedynek, czyli o dyskryminujących algorytmach

big data, algorytm, technologia, internet, cyberbezpieczeństwo
Mimo ich wszelkich zalet, brak nadzoru nad modelami predykcyjnymi może okazać się niebezpieczny dla społeczeństwa. ShutterStock
21 stycznia 2019

Jak często klikasz „zgadzam się” podczas przeglądania internetu? Każda strona internetowa informuje nas o tzw. ciasteczkach (ang. cookies). Służą one do wymiany informacji pomiędzy witryną i odwiedzającym, a precyzując część ich zadań – do profilowania użytkowników. Unijne rozporządzenie o ochronie danych osobowych z 27 kwietnia 2016 r. miało być odpowiedzią na zastraszające tempo eksploatacji sposobów kategoryzowania ludzi na podstawie śladów, które zostawiają po sobie w sieci. Matematyka staje się bowiem coraz częściej narzędziem dyskretnej manipulacji na masową skalę. Banałem jest już stwierdzenie, że w XXI w. jesteśmy stale namierzani i oceniani, a proponowane reklamy są dosłownie szyte na naszą miarę.

Z perspektywy optymalizacji strategii marketingowej jest to zyskowne i niegroźne. Niestety dane zebrane o nas wykorzystywane są również do innych celów. Według Open Technology Institute stanowią wygodną furtkę dla dyskryminacji, nawet jeśli bliskie jest to praktykom zakazanym przez prawo. Przykładowo sieć powiązań na portalach LinkedIn czy Facebook może być podstawą określenia, czy stanowimy dobry komponent tzw. kultury korporacyjnej (ergo: czy nasze przekonania lub kręgi towarzyskie odpowiadają polityce firmy), przez co już na samym początku możemy zostać wyeliminowani z procesu rekrutacyjnego. Podobnie automatyczne systemy decyzyjne zaczynają ingerować w możliwość uzyskania kredytu, ocenę efektywności zawodowej czy plany dystrybucji środków publicznych. Algorytmy matematyczne z założenia powinny być bezstronne w wydawaniu werdyktów, sprawiedliwe w dysponowaniu dóbr wedle potrzeb i możliwości. Jednak tworzone są przez ludzi, a ich własne uprzedzenia czy przekonania mogą być bezwiednie odzwierciedlane w przygotowanych rozwiązaniach wpływających na nasze życie.

Pozostało 75% treści
Wybierz pakiet i czytaj bez ograniczeń.

Bądź na bieżąco ze zmianami w prawie i podatkach.
Czytaj raporty, analizy i wyjaśnienia ekspertów.
Autopromocja
381453mega.png
381439mega.png
381484mega.png
Źródło: Dziennik Gazeta Prawna

Materiał chroniony prawem autorskim - wszelkie prawa zastrzeżone.

Dalsze rozpowszechnianie artykułu za zgodą wydawcy INFOR PL S.A. Kup licencję.