Czy sztuczna inteligencja zastąpi wkrótce programistów i podstępnie przystąpi do samodzielnej modyfikacji i replikacji?

WIelu popularyzatorów nauki twierdzi niemal jednogłośnie - nabycie przez sztuczną inteligencję samoświadomości to pieśń bardzo dalekiej przyszłości. Z tym problemem będą borykały się więc z pewnością dopiero kolejne pokolenia. Przed nami jednak nieco inna kwestia - jak wiele zawodów, jeszcze za naszego życia jest w stanie zastąpić sztuczna inteligencja? I czy koniec końców zacznie się ona replikować (powielać) i modyfikować swój kod, stwarzając dla nas potencjalne zagrożenie?

Autor: Ewelina Stój

Ludzie, aby móc utrzymać się przy swoich życiach, mają biologicznie zakodowane, że wciąż trzeba przedłużać gatunek, a przy okazji z kimś rywalizować. Dzięki temu - zamiast próżnować - byliśmy w stanie zbudować cywilizację, która sięga dziś wielu tysięcy lat. Musimy jednak pamiętać, że nie byliśmy tu (czytaj: na Ziemi) pierwszym gatunkiem. Nawet teraz nie jesteśmy dominującymi liczebnie, choć jesteśmy na pewno najbardziej ekspansywni. Oznacza to, że pewnego dnia możemy zniknąć ot tak, na rzecz zupełnie innej formy życia. Czy biologicznej, czy syntetycznej - to już zupełnie inna kwestia. Natomiast z pewnością nie mamy wyłączności na rządzenie tym światem, ani też gwarancji, że tak właśnie będzie. Jeśli ktoś uważa inaczej, to jest to skrajny antropocentryzm, który - moim zdaniem - prędzej czy później zderzy się ze ścianą.

Biorąc pod uwagę możliwości dzisiejszych algorytmów sztucznej inteligencji, coraz więcej mówi się o tym, że już wkrótce zastąpi ona także pracę programistów. Czy tak się stanie, a w następnej kolejności SI przystąpi do samodzielnej modyfikacji i replikacji? 

Metaverse - 5 filmów jakie musisz obejrzeć. Co czeka nas w przyszłości zgodnej z wizjami Facebooka czy Microsoftu?

O tym, że sztuczna inteligencja nabiera samoświadomości i staje się po czasie katem swego pana (człowieka) nakręcono już dziesiątki filmów, nie wspominając już o grach komputerowych (Mass Effect, Deus Ex, Portal, System Shock, Detroit: Become Human, BioShock itp.). Jedni mogą uznać historie tam zawarte za bardziej fiction niż science, jednak warto byłoby się wówczas zastanowić nad tym, jak wiele rzeczy, które oglądaliśmy w kinach czy telewizji przed kilkunastoma laty stało się dziś rzeczywistością. Czy jest to kwestia sprawnych futurologicznych szacunków, czy raczej zjawisko znane jako Okno Overtona? Nie mi oceniać. Jednakże conajmniej ignoranckim byłoby sądzić, że dzisiejsza wizja sztucznej inteligencji prezentowana nam w popkulturze nie ma prawa się ziścić.

Awaria Facebooka namiastką apokalipsy, czyli jak wątła jest nasza cyfrowa cywilizacja

Ostatnie lata, a więc czas, w którym narzędzia takie jak ChatGPT oraz Bard szalenie się rozwinęły, wyraźnie pokazały, że wystarczy chwila, jakieś nowe ludzkie rozwiązanie, pomysł, by cały technologiczny świat stanął na głowie. Za sprawą tak skutcznego SI jakie mamy dziś, przedstawiciele zawodów takich jak pisarze, dziennikarze, tłumacze, a nawet artyści drżą ze strachu przed brakiem zajęcia w najbliższej przyszłości. Powoli pojawia się też wątpliwość, jaki los spotka programistów. Powstaje wszak pytanie, czy, a może raczej kiedy sztuczna inteligencja będzie na tyle dobra, by zacząć pisać sprawny, niewymagający poprawek kod, co ostatecznie może poskutkować jej chęcią na ulepszanie się, a nawet na samoreplikację. Po jednej stronie barykady mamy argument, że skoro SI wychodzi spod ludzkich rąk, to człowiek każdorazowo może wyznaczyć jej granice, a gdyby wskutek nieprzewidzianych okoliczności zyskała jednak samoświadomość oraz decyzyjność to zawsze można "wyciągnąć jej wtyczkę".

Czy pozwoliłbyś androidowi zaopiekować się twoimi dziećmi? 79% ankietowanych gry Detroit: Become Human rozważa taką opcję...

Z drugiej strony mamy bardziej fatalistyczne nastawienie, które mówi, że człowiek jest dużo bardziej ułomny niż SI i nie zdąży odnotować, kiedy ta otrzyma zbyt dużo informacji, by z nich skorzystać i bardziej bądź mniej potajemnie się ulepszać. W dodatku, gdy pozwolimy sztucznej inteligencji, by wtargnęła do każdej dziedziny naszego życia, tym łatwiej jej będzie nas do siebie przyzwyczaić, a przez to uśpić czujność i ostatecznie "spacyfikować". Dywagować o tym, jakie podejście do sprawy mają poszczególne grupy społeczeństw czy też konkretne znane w branży technologicznej osoby można by jeszcze przez kilkadziesiąt kolejnych akapitów, dlatego też skupimy się raczej na zagadnieniu, jakim jest możliwość "wykolegowania" przez sztuczną inteligencję grupy zawodowej, jaką są programiści. Jak wiemy, już teraz ChatGPT jest w stanie przygotować nam gotowy do skompilowania kod. Oczywiście o ile podamy mu specyficzne wytyczne i co nieco w tym temacie się orientujemy.

Dlaczego gdyby życie było grą, byłaby to najgorsza gra na świecie?

Zacznę od przemyśleń własnych, jak zawsze dość kontrowersyjnych, że prędzej czy później tak właśnie będzie - progamiści, jak i wiele innych pracowników umysłowych zostaną w pełni zastąpionych przez SI. Myślę też, że w początkowych tej przemiany fazach, zmiana ta pociągnie za sobą spadek jakości wszelkiej pracy, a już na pewno kreatywności. Ale w miarę jak doskonalić się będzie profesja związana z rozwijaniem SI, będzie to wyglądało coraz lepiej. Ale na opinii pojedynczej jednostki świat się nie kończy, pozwólcie więc, że zapytam o zdanie także samej zainteresowanej, a więc sztucznej inteligencji stojącej za szalenie popularnym od wielu miesięcy narzędziem, jakim jest ChatGPT. Na pytanie "Czy jest możliwe, aby sztuczna inteligencja sama się replikowała?" ChatGTP w wersji 3,5 odpowiada co następuje:

Let's play czyli dlaczego ludzie płacą za to, żeby oglądać czyjąś grę

"Obecnie sztuczna inteligencja (SI) nie ma zdolności do samoreplikacji w sposób podobny do biologicznego procesu rozmnażania. Sztuczna inteligencja to oprogramowanie, które działa na sprzęcie komputerowym, i aby stworzyć nową instancję SI, zazwyczaj konieczne jest zaangażowanie ludzi do napisania kodu lub skonfigurowania systemu. SI nie ma własnej zdolności do tworzenia nowych kopii samej siebie bez interwencji człowieka. W kontekście rozwoju SI możemy mówić o pewnych technikach uczenia maszynowego, takich jak automatyczna optymalizacja, które pozwalają na tworzenie nowych wersji modeli SI z wykorzystaniem algorytmów optymalizacji i eksperymentów komputerowych. Jednak te procesy są nadzorowane przez ludzi i nie prowadzą do prawdziwej samoreplikacji."

Test używanego Chromebooka DELL 11 z Allegro za 200 złotych

Jak widać - możemy czuć się więc bezpieczni. Zwłaszcza gdy doczytamy, że ChatGPT twierdzi, iż "samoreplikacja w kontekście SI jest bardziej związana z fikcją naukową i scenariuszami futurystycznymi niż z rzeczywistością". Z drugiej strony, na pytanie "Czy w przyszłości sztuczna inteligencja będzie się mogła modyfikować samodzielnie?" ChatGPT odpowiada: "Kontrola nad rozwojem SI i zapewnienie bezpieczeństwa są kluczowymi kwestiami do rozważenia. W przyszłości będziemy musieli starannie monitorować i regulować takie możliwości, aby uniknąć potencjalnych zagrożeń związanych z samoreplikacją lub samo-modyfikacją SI". Ta odpowiedź budzi już więcej wątpliwości. Pokazuje jasno, iż samo AI nie wyklucza możliwości samoreplikacji oraz samo-modyfikacji. Wyklucza za to (póki co) możliwość pełnego zastąpienia sobą programistów. Na pytanie "Czy SI zastąpi kiedyś programistów?" odpowiada wszak:

Cyfrowa rewolucja: obawy związane z rozwojem technologii

"Sztuczna inteligencja może znacząco zmieniać pracę programistów, automatyzując niektóre zadania i dostarczając narzędzi do wsparcia. Jednak programiści pozostaną ważnymi aktorami w procesie tworzenia oprogramowania, zwłaszcza w złożonych projektach wymagających kreatywności, zrozumienia biznesowego kontekstu i podejmowania decyzji projektowych." Ze wszystkich tych wypowiedzi wynika, że SI, a przynajmniej SI na bazie ChatGPT, nie przewiduje, że programiści zostaną całkowicie wyeliminowani z procesu pisania kodu. Z drugiej strony nie wyklucza, że SI prędzej czy później będzie się replikować i modyfikować, a więc samodzielnie zarządzać tym kodem. Na moje oko gdzieś tu umyka nam logika, bo jeśli SI uważa, że będzie kiedyś tak dobra, że będzie w stanie samodzielnie się ulepszać, modyfikować i mnożyć, to gryzie się to nieco z przekonaniem, że to programiści będą mieli przy pisaniu kodu zawsze ostatnie słowo. Ale może to tylko moja wrodzona podejżliwość i nieufność... Oby.

Przestańmy już jednak męczyć ChataGPT i wróćmy do sedna, a więc do tego, co o tym wszystkim uważają sami programiści. Wyjdźmy może od założenia, które absolutnie ze mną rezonuje, że sztuczna inteligencja będzie tylko taką, jaką uczyni ją sam człowiek (a więc jakie da jej dane "treningowe"). Jeśli nikt nie będzie jej trenował na bazie faszystowskich czy rasistowskich danych, to SI sama nie powinna objawić się jako faszystka czy rasistka. To tak jak z ludźmi: bazujemy na takiej, a nie innej biologii oraz chemii ciała oraz mózgu, i nie wyciągniemy z tego nic ponad to, czym fizycznie operujemy. Co oczywiście nie zmienia faktu, że - znów identycznie jak ludzie - SI potrafi się uczyć na bazie prób i błędów. W tym przypadku system sztucznej inteligencji może modyfikować własne procesy decyzyjne w odpowiedzi na informacje zwrotne z otoczenia, co z czasem prowadzi do coraz lepszej wydajności. Pamiętać jednak należy, że rozwój ten jest (a przynajmniej powinien być) ściśle i nieustannie nadzorowany przez programistę. Innymi słowy - SI rozwinie się tylko na tyle, na ile pozwoli jej człowiek.

Innym przykładem są algorytmy genetyczne, w których system sztucznej inteligencji jest zaprojektowany tak, aby ewoluować i ulepszać się w czasie, poprzez proces podobny do doboru naturalnego (przeszukiwanie najlepszych wyników). Także i w tym przypadku system sztucznej inteligencji modyfikuje wówczas własne algorytmy w odpowiedzi na informacje zwrotne z otoczenia lub z własnej wydajności, co ostatecznie prowadzi do możliwie najlepszych wyników. Ale znów - póki co, to wyłącznie programiści są w stanie określić, w jakich ramach, w jakim zakresie SI jest w stanie się ulepszać. Co tu dużo mówić - nie ma to nic wspólnego z autonomicznością algorytmów i wysunę być może śmiałą tezę, że możliwości obecnej SI mogą budzić obawy tylko tych osób, które jej kompletnie nie rozumieją i tych osób, których wiedza bazuje na Hollywood. Ale z człowiekiem było tak przecież od zawsze - bał się tego, czego nie rozumiał. Chwilę temu użyłam zwrotu 'obecnej SI'. Dlaczego? Ano dlatego, że nie wykluczam, iż ta, która rozwinie się w przyszłości, faktycznie będzie w stanie w jakimś sensie nam zagrozić. 

Nie twierdzę tak zresztą wyłącznie ja. Mogę się w tej kwestii poprzeć nazwiskami takich osób jak chociażby Steven Hawking czy Elon Musk, którzy nie przebierali w środkach i o SI wypowiadali się w jednoznaczny sposób, a mianowicie taki, że może ona przynieść zagładę naszej cywilizacji. Nazwali ją nawet "złośliwą SI" (ang. malicious AI). W mojej opinii stanie się tak jednak tylko wtedy, gdy zaczniemy karmić AI nieodpowiednimi danymi. Można to przyrównać do wychowywania dzieci, które "karmione" złymi postawami i ideami rodziców, w dalszym życiu także często te postawy i przekonania reprezentują. Problem w tym, że identycznie jak w przypadku wychowywania dzieci, tak i podczas uczenia sztucznej inteligencji, możemy nie spostrzec, że zaaplikowaliśmy jej jakieś potencjalnie groźne / patologiczne dane. W obu przypadkach wystarczy niewiele, by z takiej informacji zrodził nam się spory problem na zasadzie przybierającej na masie kuli śniegu. I tak jak ludzie muszą czasem odprogramowywać w sobie jakieś zachowania, tak programista będzie musiał szukać fragmentu kodu, który się "zezłośliwił". Oczywiście nie zezłośliwił się celowo, a jedynie na bazie przyjętych danych, bo jak już podkreśliliśmy: SI jeszcze dłuuuugo dłuuuugo nie nabierze samoświadomości. O ile w ogóle. 

Generalnie trzeba mocno podkreślić rzecz, o której wielu ludzi wydaje się zapominać, albo po prostu o tym nie wie (bo i skąd?). Sztuczna inteligencja to sztuczna inteligencja, nie zaś sztuczna świadomość. Choć i sformułowanie inteligencja jest w mojej opinii nieco na wyrost. To wciąż raczej algotytmy trenowane na bazie zbiorów danych, które nie mają nic wspólnego z emocjami, intencjami, czy kreatywnością. Trudno więc oczekiwać, że SI już dziś planuje zagładę ludzkości, bo SI nie planuje i nie rozumuje w taki sposób, jak robią to ludzie. Weźmy taki przykład - chwilę temu mówiło się, że Uber zacznie wykorzystywać SI do identyfikacji pijanych pasażerów. Przed podjęciem decyzji o tym, czy pasażer jest trzeźwy czy nie, wykorzysta takie czynniki, jak pora dnia, lokalizacja odbioru i czas interakcji użytkownika z aplikacją. Inteligencja? A skąd. To jedynie tzw. instrukcja warunkowa if (jeśli warunek jest spełniony wykonuje się pierwsza lista instrukcji, a jeśli warunek nie jest spełniony wykonuje się druga lista instrukcji). I tak, w bardzo wielkim skrócie i uproszczeniu, działa w duzej mierze sztuczna inteligencja. 

Mimo wszystko wiele mądrych głów tego świata nawołuje prewencyjnie do zupełnego zaprzestania zabaw z SI. Wspomniany już Steven Hawking mówił nawet, że "Rozwój sztucznej inteligencji będzie albo najlepszą, albo najgorszą rzeczą, jaka kiedykolwiek przydarzyła się ludzkości. Nie wiemy, którą". Zagrożenie polega na tym, że gdy w pewnym momencie SI otrzyma (przypadkowo bądź nie) dostęp do danych, które zinterpretuje w nieznany i niepożądany dla nas sposób, to rzeczywiście może dojść do iście fatalnego scenariusza. Zwłaszcza, jeśli dopuścimy już SI do wszelkich gałęzi cyfryzacji, w tym do zarządzania smart miastami. Sytuacji nie pomoże fakt, że ilość danych i kodu, na których bazować będzie w przyszłości SI, będzie szalenie trudna do kontrolowania i gdy dojdzie już do nieprzewidzianego jej zachowania, to naprostowanie go może być bardzo czasochłonne, o ile w ogóle odwracalne. Jednak ta machina już ruszyła i państwa / organizacje, które nie będą inwestować w rozwój własnego SI, szybko pozostaną w tyle. Nawet gdyby jakimś cudem wszyscy oficjele z całego świata poprzysięgli porzucić rozwijanie SI, to niemożliwym jest, żeby temat ów porzuciło także "podziemie". A to byłoby kolejnym zagrożeniem dla ładu świata, jaki znamy obecnie.

Choć to bardziej przypuszczenia, niż stwierdzenie bazujące na faktach, to wydaje się, że w przyszłości sprawność SI może nas na tyle rozleniwić, że zastąpi ona znanych dziś programistów. Kolejne lata braku czujności mogą zaś poskutkować tym, że "puszczona w samopas" dobierze się ona do niefortunnych dla nas danych, które zostaną wykorzystane w trudny do przewidzenia sposób. 

No dobrze, bo trochę mi się odpłynęło w niekoniecznie optymistycznym kierunku. Pora więc odpowiedzieć na pytanie, czy ostatecznie znani nam dziś programiści znikną, bo SI okaże się być tak dobra w pisaniu kodu, że czynnik ludzki okaże się zbędny. I czy, gdy stanie się ona już tak dobra w programowaniu, że stracimy nad nią czujność, to wykorzysta ona nasze lenistwo i wygodnictwo do własnych, nieprzewidywalnych celów. W mojej opinii, tak się właśnie stanie. Sądzę, że jeszcze przez wiele, wiele lat programiści będą nadzorować i kierunkować rozwój SI, ale trudno mi sobie wyobrazić, żebyśmy w końcu przypadkowo nie dopuścili do samodzielnej jej replikacji, a przynajmniej automodyfikacji. Wystarczy, że po latach koegzystencji zaczniemy zbyt mocno przywiązywać się do luksusów i wygody, jakie daje nam SI. Zbyt mocno jej zaufamy i damy coraz większą autonomię, a wtedy ona, pazerna na nowe dane, sobie tę autonomię z pewnością weźmie. Myślę jednak, że scenariusz ten jest jeszcze bardzo, ale to bardzo odległy, a nasze pokolenie mierzyć się będzie raczej z innym wyzwaniem na miarę rewolucji przemysłowej. Mowa o rozwijaniu nowych kompetencji i przygotowywaniu zupełnie nowych miejsc pracy, mających na celu m.in. wspomniany już nadzór nad SI, ponieważ bezsprzecznie sprawi ona, że mnóstwo profesji już wkrótce bezpowrotnie zniknie.