Woś: Czy zabiją nas spinacze

Ale po kolei. Czy słyszeliście o paradoksie spinaczy? To myślowe ćwiczenie, które 15 lat temu zaproponował filozof Nick Bostrom, jeden z pionierów rozważań nad konsekwencjami pojawienia się sztucznej inteligencji. Szwed z Oksfordu kalkulował w sposób następujący: załóżmy, że powstaje sztuczna inteligencja (SI). Nie jest ona dziełem żadnego szwarccharakteru planującego zniszczenie naszej planety. Jej celem nie jest też wygranie wojny nuklearnej w służbie jednego z mocarstw ani nawet znalezienie skutecznego leku na raka. Zadanie SI dostaje skromniutkie i niewiążące się z żadnym ryzkiem. Ma produkować spinacze do papieru.

Zobacz także

Woś: Co wy wiecie o biedzie

Zapisz na później

I to właśnie jest koniec ludzkości. Banalne, ale prawdziwe. Bo zobaczmy, co tu się dzieje. Dość szybko następuje tzw. eksplozja inteligencji. SI zaczyna się udoskonalać. Po co? Bo chce produkować i akumulować coraz więcej spinaczy. Nieważne, że na pewnym etapie skończą się dostępne zasoby. Skoro SI ma produkować spinacze, to będzie je wytwarzać. Niezależnie od wszystkiego będzie parła w kierunku przekształcenia planety w wielką fabrykę oraz magazyn spinaczy. Docelowo nie przetrwa więc nic, z czego nie da się zrobić spinacza. Tego procesu nie da się przerwać właśnie dlatego, że inteligencja jest sztuczna. To znaczy – w przeciwieństwie do ludzi – nie obowiązują jej żadne nieutylitarne reguły. Nie wierzy w miłość, przyjaźń, nie ulega litości, nie czuje piękna. Po prostu chce produkować więcej spinaczy. I jest w tym dobra. Jak powiedział Eliezer Yudkovsky, jeden z pionierów badań nad SI, „to nie jest tak, że sztuczna inteligencja nas nienawidzi, albo że nas kocha. Ona wie, że jesteśmy zbudowani z atomów i akurat potrzebuje użyć tych atomów do czegoś innego”.