STM Kargu-2 zainspiruje bunt maszyn?

Terminator 3: Bunt maszyn, Jonathan Mostow, Columbia Pictures
Kadr z filmu "Terminator 3: Bunt maszyn" (2003, reż. Jonathan Mostow), fot. Columbia Pictures
Tematyka wszechobecnej robotyzacji i potencjalnych jej skutków od dekad wraca falami: najpierw była to fantastyka naukowa, potem coraz prężniej rozwijały się badania nad sztuczną inteligencją. Jedni coraz mocniej się jej obawiają, a drudzy już stosują ją na skalę rodem z science fiction.

O sztucznej inteligencji pisałem już nieraz – to niezwykle ciekawe zagadnienie, które prędzej czy później i tak zainteresuje wszystkich. Jej ekspansja w końcu dotknie przecież każdego. Jednych w momencie, gdy zawiedzie ich wirtualny asystent, a drugich, gdy staną się celem ataku militarnego drona. O ile Siri i jej podobni na razie raczej nie zażądają urlopów, o tyle STM Kargu-2 właśnie stał się pierwszym autonomicznym zabójcą… Tak przynajmniej wynika z raportu Rady Bezpieczeństwa ONZ, który podsumowuje sytuację w Libii.

Co z pierwszym prawem robotyki?

Oczywiście sytuacja jest zdecydowanie bardziej skomplikowana, ale wszystko wskazuje na to, że właśnie wkroczyliśmy w nową erę. Czasy, gdy bez wątpienia nie możemy już czuć się bezpieczni, choć obawy przed buntem maszyn wciąż jeszcze są na wyrost. Roboty, które nie mają prawa skrzywdzić człowieka, bezsprzecznie pozostawiliśmy jednak na kartach powieści fantastycznonaukowych. Te, które miały nas przekonać do swej sympatycznej natury, przybierały najrozmaitsze – czy to zwierzęce, czy humanoidalne – formy, deklarując oddanie bądź tańcząc w rytm hitów ludzkiej muzyki. Kiedy natomiast chodzi o funkcjonalność, roboty okazują się… zabójczo skuteczne.

Drony jako takie od lat służą wojsku, wykonując coraz poważniejsze zadania bez realnego narażania wojskowych. To, co sprzedano nam jako postęp, z roku na rok przybiera jednak coraz większy rozmach. Zmieniają się rozmiary, zasięgi, udźwigi i zakres kompetencji tych urządzeń. Można im zlecić zwiad, transport, a nawet bombardowanie. STM Kargu-2 to natomiast niewielki – wręcz niepozorny – dron kamikadze na usługach tureckiej armii. ONZ w swoim raporcie określa go mianem amunicji krążącej. W pewnym sensie nie byłoby w tym niczego nadzwyczajnego, gdyby nie fakt, że zwykle drony obsługiwane są przed zdalnie pilotujących je żołnierzy. Z urządzeniami typu Kargu-2 jest inaczej.

STM Kargu-2, dron kamikadze, STM
Fot. STM

Pisząc o amunicji krążącej, ONZ zarysowuje dramatyczny obraz pola bitwy, na którym występuje duża dysproporcja technologiczna. Zgodnie z raportem sieci dronów tworzyły bowiem podniebne pola minowe – monitorowały otoczenie, a po wykryciu ruchu, samoczynnie podejmowały decyzję o ataku, niezależnie czy celem stawał się konwój logistyczny, czy wycofujące się Siły Haftara (libijska armia). Ten sposób działania niesie ze sobą olbrzymie konsekwencje i ukazuje dotąd niepraktykowane oddanie decyzji maszynom. Ostatecznie jednak trudno oczekiwać, by tureckie wojsko nie korzystało z takich technologii, jeśli przyzwolenie płynie z samej góry.

STM Kargu-2 może być symbolem, ale to dopiero początek problemów

Rój dronów, Drony, U.S. Army
Rój dronów, fot. U.S. Army

Sytuacja, do jakiej doszło w Libii, jest skandaliczna z wielu powodów, ale nie można się jej dziwić. Drony powoli stają się podstawową jednostką. Podczas niedawnych starć w Strefie Gazy, a nawet w znacznie bardziej egzotycznej potyczce między Armenią a Azerbejdżanem także poszły w ruch. Największe światowe mocarstwa inwestują miliardy w rozwój tej technologii, ale warto już teraz przyjrzeć się kierunkowi, w jakim ona zmierza.

Głosy protestu wobec autonomicznej broni podnoszone są od dekad. Od kilku lat pojawiają się w tej sprawie także liczne protesty zarówno organizacji humanitarnych, jak i specjalistów ds. SI. Ich trud na razie niewiele jednak daje. Mocarstwa – ze Stanami Zjednoczonymi na czele – swego czasu odrzuciły możliwość podpisania globalnego zakazu wykorzystywania tego typu technologii. A przecież sztuczna inteligencja dopiero raczkuje…

Protesty, Broń autonomiczna, Berlin, Wolfgang Kumm
Protesty na rzecz zakazania autonomicznej broni (Berlin, 2019), fot. Wolfgang Kumm

Tak właśnie dochodzimy do dość absurdalnego momentu historii. Z jednej strony mamy bowiem zaczerpnięte z science fiction technologie, ale niedostatecznie rozwinięte, by już teraz stanowić zagrożenie dla ludzkości, z drugiej natomiast decydenci udają, że fantastycznonaukowe scenariusze to tylko bajki. Jak to jednak bywa: technologie wojskowe po kilkunastu bądź kilkudziesięciu latach trafiają także do ogólnego użytku. Rozwój sztucznej inteligencji już dziś zwiastuje natomiast, że nie mamy najmniejszych szans w konfrontacji z jej możliwościami obliczeniowymi.

Do buntu maszyn nam daleko, ale bez wątpienia urządzenia w stylu Kargu-2 będą dla samoświadomych robotów symbolem. Skoro one mogły zabijać, to co stanie na przeszkodzie wielokrotnie bardziej złożonym, inteligentniejszym i lepiej wyposażonym następcom? Możemy łudzić się, że skoro je stworzymy, będziemy dla nich istotami nadrzędnymi. Fantastyka naukowa zna takie przypadki. Pytanie, czy sama twórczość z tego gatunku jednak nas – ludzi – nie pogrąży. Skoro ludzkość od tysiącleci zabija się w imię świętych ksiąg, może stworzone na nasze podobieństwo roboty tak samo potraktują wytwory kultury, które przepowiedziały ich powstanie?

Autor artykułu
More from Damian Halik

Młody Han Solo wciąż może mieć twarz Harrisona Forda?

Postawione w tytule pytanie może wydać się dziwne. W końcu to właśnie...
Czytaj wiecej