W przyszłym roku stuknie 10 lat, odkąd filozof Nick Bostrom sformułował jedną z najsłynniejszych przepowiedni dotyczących rozwoju sztucznej inteligencji. Szwed z Uniwersytetu Oksfordzkiego w głośnym tekście z 2014 r. pisał mniej więcej tak: wyobraźmy sobie, iż człowiek tworzy superinteligentną AI, której jedynym celem jest tworzenie spinaczy do papieru. Nic więcej.
Superinteligentna AI ochoczo przystępuje do działania. Błyskawicznie wykorzystuje wszystkie najprostsze sposoby i zasoby do zrobienia spinaczy. Szuka więc nowych. Odpowiednio przepisując pierwotny program (będzie potrafiła to robić), nasza AI ewoluuje. Jest superinteligentna, więc jeżeli istnieje sposób na zrobienie z czegoś spinacza biurowego, to ona ten sposób znajdzie.
Dość szybko okazuje się, że mamy do czynienia z sytuacją rodem z przerażającej kreskówki. Góra spinaczy rośnie i rośnie, a AI zaczyna niszczyć wszystko wokoło. Odłącza osiedla i szpitale od prądu, bo musi mieć energię do realizacji celu. Zabiera materiały potrzebne do rozwoju innych gałęzi gospodarki, bo liczy się tylko budowa spinaczy. I tak dalej.
Załóż konto lub zaloguj się
i zyskaj dostęp na 14 dni za darmo.
Materiał chroniony prawem autorskim - wszelkie prawa zastrzeżone.
Dalsze rozpowszechnianie artykułu za zgodą wydawcy INFOR PL S.A. Kup licencję.