ChatGPT stawia przed światem i nauką bezprecedensowe wyzwania. Henry Kissinger o rewolucji, która nas wkrótce czeka

Rozwój technologii opartych na sztucznej inteligencji może prowadzić do zmian, które w nieodwołalny sposób zmienią nasze codzienne funkcjonowanie. Choć to dopiero czas pokaże, czy postęp będzie tak duży, jak ten z okresu rewolucji przemysłowej, to pewne jest, że niektóre dziedziny życia ulegną całkowitemu przeobrażeniu. Usługi pokroju ChatGPT czy Midjourney to jedynie nieliczne przykłady potencjału, jaki niesie ze sobą rozwój sztucznej inteligencji. Nie brakuje jednak także bardziej krytycznych opinii na temat nowej technologii. W artykule opublikowanym stosunkowo niedawno przez Wall Street Journal, głos w tej sprawie zabierają bardzo doświadczeni autorzy: znany dyplomata Henry Kissinger, były CEO Google i Alphabet Eric Schmidt oraz naukowiec Daniel Huttenlocher.

Autor: Łukasz Stefaniak

Na wstępie należy zaznaczyć, że mam świadomość pewnej kontrowersyjności postaci Henry'ego Kissingera. W niczym to jednak nie umniejsza jakości opublikowanego na stronie Wall Street Journal artykułu. Autorzy w swoim tekście snują dosyć pesymistyczną wizję w przyszłości. Rozważania te są jednak poprzedzone bardzo interesującym porównaniem momentu, w którym żyjemy, z najbardziej przełomowymi okresami w rozwoju technologicznym ludzkości. Nie bez powodu twórcy przywołują przykład wynalezienia druku przez Johannesa Gutenberga, a także zmian, jakie zaszły na świecie wraz z nastaniem rewolucji przemysłowej. Ekspansja sztucznej inteligencji jest zestawiona z tymi kluczowymi w historii wydarzeniami, bo jej doniosłość i znaczenie może być posunięte jeszcze dalej. Wynika to bezpośrednio z charakterystyki nowej technologii, która ma skalę bezprecedensową. Choć można dyskutować, czy takie porównania nie są pewnym wyolbrzymieniem, to weryfikacja tych założeń będzie możliwa już w niedalekiej przyszłości, kiedy to mechanizmy AI wkroczą na dobre do naszego codziennego życia.

Autorzy tekstu opublikowanego na stronie Wall Street Journal, przekonują, że ChatGPT to wstęp do rewolucyjnych zmian w społeczeństwie oraz nauce. Świat w obecnej chwili nie jest przygotowany na implikacje, które niesie ze sobą rozwój sztucznej inteligencji.

Coraz bardziej ludzka komunikacja z ChatGPT dzięki Chat D-ID. Możemy już porozmawiać z SI twarzą w twarz

Zestawiając sztuczną inteligencję z dokonaniami Gutenberga i okresem oświecenia, Kissinger i pozostali autorzy wskazują na pewne różnice. Przede wszystkim wynalezienie druku zaowocowało upowszechnieniem nowoczesnej, jak na tamte czasy, myśli ludzkiej. Mechanizmy stojące za AI prowadzą z kolei do destylacji wiedzy i podania jej użytkownikowi w stosunkowo zwięzłej formie. Automatyzacja tych procesów może prowadzić do nowych zasad interakcji pomiędzy człowiekiem a maszyną. Wkraczamy bowiem w rejon, gdzie standardy dotychczasowych reguł zacierają się. Do tej pory maszyny nie były zdolne do wykonywania kreatywnych zadań. To człowiek sprawował wyłączną kontrolę nad zasadami ich funkcjonowania. AI może zatem całkowicie przemodelować utarte schematy postępowania i doprowadzić do poważnej reorganizacji życia społecznego i politycznego.

ChatGPT - komercjalizacja usługi będzie wymagała gigantycznej liczby układów graficznych NVIDII

Upowszechnienie druku doprowadziło do wykształcenia zasad metody naukowej. Jak wskazują autorzy, podważyło to w znaczący sposób obowiązujący do tego momentu światopogląd oparty na religii. Nowoczesna wiedza naukowa odkrywana była jednak w sposób stopniowy, a sztuczna inteligencja dysponuje danymi na skalę masową i analizuje oraz opracowuje je w sposób, który jest poza zasięgiem nawet najbardziej wybitnych jednostek ludzkich, a nawet całych zbiorowości. Informacje, których pozyskanie w przeszłości zajmowało wieki, teraz dostępne są od ręki w bardzo przystępny dla każdego sposób. Zatraca się przy tym zrozumienie procesów, które doprowadziły do wykształcenia tej wiedzy. Przeciętny użytkownik nie zna nawet podstaw, którymi rządzi się sztuczna inteligencja. Po prostu zadaje pytanie i błyskawicznie otrzymuje gotowy rezultat. Jak wskazuje Kissinger, szczegóły uzyskania konkretnej, określonej odpowiedzi nie są w pełni znane nawet projektantom AI, ponieważ funkcjonuje ona na zasadzie bezprecedensowej automatyzacji procesów.

Kosmos-1 - multimodalny duży model językowy od Microsoftu. Jest dużo bardziej zaawansowany od GPT-3

Autorzy twierdzą, że o ile oświecona nauka prowadziła do uzyskania pewności na temat otaczających nas zjawisk, tak efektem rozwiązań bazujących na sztucznej inteligencji może być niepewność i zaskoczenie. AI jest otoczone nimbem tajemniczości i nie ma wystarczających podstaw do twierdzenia, że wszystkie tajniki mechanizmów jej funkcjonowania zostaną kiedykolwiek zgłębione. Efektem jest postęp dokonywany w zakresie ludzkiej wiedzy, ale nie ludzkiego zrozumienia. W przeszłości oba te zjawiska szły ze sobą w parze, teraz najprawdopodobniej zostaną nieodwracalnie od siebie oddzielone.

Meta prezentuje swój duży model językowy. Zuckerberg zdradził, jakiej spodziewać się wydajności względem ChatGPT

ChatGPT potrafi sprawnie odpowiadać na zadane pytania, jednakże nigdy nie podaje źródła swoich informacji. Mechanizm działania narzędzia nie opiera się jednak na bezpośrednim kopiowaniu treści, a na generowaniu ich od nowa na bazie istniejącego zasobu wiedzy. Jest to na tyle imponujące, że jak przekonują autorzy tekstu, narzędzie wydaje się posiadać ponadludzkie cechy. Sprawność jego działania jest bowiem tak duża, że znajduje się poza zasięgiem jakiegokolwiek człowieka. ChatGPT to narzędzie potężne i jednocześnie wykazujące olbrzymi potencjał komercyjny, co zostanie skrzętnie wykorzystane przez rozmaite firmy zajmujące się wdrażaniem elementów technologii w swoich rozwiązaniach. Co warte podkreślenia, nie zawsze odbędzie się to z zachowaniem odpowiednich środków ostrożności.

ChatGPT - narzędzie OpenAI nie dla Chińczyków. Państwo Środka oficjalnie zakazuje jego wykorzystywania przez tamtejsze firmy

Kissinger i pozostali autorzy wskazują, że na rozwój dużych modelów językowych będą mogły sobie pozwolić jedynie nieliczne przedsiębiorstwa. Łączny koszt szkolenia pojedynczego modelu to około 1 mld dolarów. Późniejsze nakłady na utrzymanie całej infrastruktury pochłaniają kolejne, choć już nie tak kolosalne, środki. To w naturalny sposób faworyzuje duże korporacje. Wątpliwe jest bowiem, żeby na taki wydatek mogły sobie pozwolić mniejsze firmy. Oznacza to, że większość potencjału najbardziej rozwiniętych modeli językowych będzie pod kontrolą bardzo nielicznych podmiotów. Choć autorzy nie mówią o tym wprost, to na usta ciśnie się tu analogia związana z dystrybucją bogactwa, gdzie przeważająca część prywatnego majątku na świecie, jest skupiona w rękach mniejszości. W odniesieniu do usług pokroju ChatGPT rodzi to obawy o potencjalne nadużycia, do których może w przyszłości dojść.

MarioGPT - Super Mario Bros, w którego będziesz mógł grać w nieskończoność. Wszystko dzięki oparciu gry o GPT-2

To oczywiście pesymistyczne założenie, ponieważ dzięki sztucznej inteligencji możliwe będzie najprawdopodobniej także dokonanie wielu przełomów naukowych. Kissinger i jego współpracownicy są oczywiście tego świadomi i dają temu wyraz w swojej publikacji. Wpływ AI będzie wykraczał daleko poza świat nauki. Technologia tego typu może znaleźć zastosowanie także na przykład w dyplomacji czy opracowywaniu strategii bezpieczeństwa. Wskazuje się przy tym na brak działań ze strony organów państwowych. Struktury te nie są bowiem w obecnej chwili przygotowane na wyzwania, które sztuczna inteligencja przed nimi postawi. Owocem rozwoju technologii pokroju ChatGPT będzie z pewnością zmniejszenie udziału czynnika ludzkiego w różnych obszarach funkcjonowania biznesu.

Microsoft Bing - nowa edycja wyszukiwarki oparta na ChatGPT podaje czasami komiczne i niepokojące odpowiedzi

Z rozwojem usługi wiąże się także bardzo poważny problem zatarcia granic pomiędzy prawdą, a dezinformacją. To sprawia, że może ona, wcześniej czy później, stać się narzędziem służącym do rozpowszechniania nieprawdziwych treści. Można przypuszczać, że służby wywiadowcze wrogich wobec świata zachodniego państw, już teraz faszerują usługę nieprawdziwymi informacjami, żeby wpłynąć na uzyskiwane przez użytkowników odpowiedzi. Tak samo będzie w przypadku zwolenników rozmaitych teorii spiskowych, którzy będą chcieli "przeciągnąć" ChatGPT na swoją stronę. Biorąc pod uwagę to, że narzędzie uczy się cały czas na interakcji z użytkownikami, rodzi to poważne obawy, gdzie nas ostatecznie doprowadzi jej użytkowanie. Jak przekonują Kissinger i jego współpracownicy, usługa już teraz podaje czasami wymyślone fakty, żeby zapewnić jak największą spójność wypowiedzi. Badacze sztucznej inteligencji określają to zjawisko mianem "halucynacji" lub "papugowania stochastycznego". Co ciekawe, dokładne źródło takiego zachowania jest na chwilę obecną nieznane i stanowi ono duże wyzwanie przed badaczami AI.

CEO NVIDII twierdzi, że ChatGPT to jedna z najlepszych rzeczy, jaką kiedykolwiek stworzono dla informatyki

Interakcja z ChatGPT do złudzenia przypomina interakcję z istotą ludzką. Autorzy jednak zaznaczają, że jest to mylne przekonanie. Choć otrzymywany efekt wydaje się być nacechowany ludzką inteligencją, to w rzeczywistości jest inaczej. W rezultacie błędy, które popełnia narzędzie OpenAI, nie są błędami charakterystycznymi dla człowieka. To zupełnie inny rodzaj inteligencji, oparty na rozpoznawaniu wzorców. Fakt ten odróżnia znacząco ekspansję AI od dotychczasowego rozwoju nauki. Weryfikacja określonych założeń badawczych zawsze była bowiem możliwa dzięki powtarzaniu eksperymentów. Pozwalało to na ostateczne określenie, czy dana hipoteza jest prawdą, czy też nie. Jak przekonuje Kissinger, w przypadku sztucznej inteligencji zrozumienie tego typu nie jest możliwe i niemal zawsze będziemy zastanawiać się, jakie aspekty jej funkcjonowania są ciągle nieodkryte. W dodatku nie ma żadnej pewności, że hipotezy, które potwierdzimy w chwili obecnej, nie zdezaktualizują się w niedalekiej przyszłości, ponieważ mechanizmy usług pokroju ChatGPT, a co za tym wyniki interakcji z nimi, będą podlegać ciągłym przeobrażeniom. Jako przykład podaje się tutaj kwestię dostępu narzędzia do coraz większej ilości danych. Jak twierdzą autorzy, jeżeli usługa stanie się powszechnie wykorzystywana, to może prowadzić to do zniekształcenia ludzkiej wiedzy.

Google przedstawia usługę Bard. Rozwiązanie zaproponowane przez firmę z Mountain View ma konkurować z ChatGPT

Z praktycznym zastosowaniem narzędzia OpenAI wiąże się także szereg innych problemów. Przywołuje się tutaj na przykład kwestię potencjalnych oszustw na egzaminach. Problem jest o tyle istotny, że obecnie bardzo wiele z nich jest zdawanych w sposób zdalny, co dodatkowo stwarza pokusę do nadużyć. Już na obecnym etapie pojawiły się próby wykorzystania narzędzia do uzyskiwania zaliczeń na studiach, a jesteśmy tak naprawdę dopiero w początkowym stadium rozwoju technologii. Problemem mogą też być chociażby maile reklamowe rozsyłane w taki sposób, żeby imitowały wiadomości od przyjaciół czy znajomych. Sztuczna inteligencja może też być wykorzystana do przedstawiania sfałszowanych materiałów obejmujących znane postacie życia publicznego. Potencjał jest zatem niemal nieograniczony i, jak wskazują autorzy tekstu, rozwój AI może nawet doprowadzić do atrofii twórczej oraz umiejętności krytycznego myślenia wśród szerokich grup ludzkich.

ChatGPT bardziej interesujący niż TikTok czy Instagram. Popularny chatbot ma już 100 milionów użytkowników

Problem rozwoju sztucznej inteligencji nie ogranicza się wyłącznie do banalnego stwierdzenia, że może nasilić w przyszłości problem bezrobocia. Owszem, pracownicy wielu branż zostaną prawdopodobnie zastąpieni przez mechanizmy AI i jest to istotne zagadnienie. Problem jednak wykracza daleko poza wyraźnie zauważalne konsekwencje. Autorzy pytają, co z kluczowym z punktu widzenia ludzkości zawodem lekarza. Na jakim etapie medycy przestaną krytycznie podchodzić do treści, które serwuje AI? Co w przypadku polityków, prawników czy specjalistów biznesowych? Teoretycznie w przyszłości możliwe będzie zautomatyzowanie wszystkich tych zawodów, co będzie niosło bezpośrednie konsekwencje dla całego społeczeństwa. Jak stara się przekonać Kissinger, rezultatem może być abdykacja ludzkości na rzecz inteligentnych maszyn. To sprawia, że do kwestii wyników uzyskiwanych przez interakcję z AI należy podchodzić ze sceptycyzmem i weryfikować je za pomocą metody naukowej, która ma silnie ugruntowaną pozycję w tradycji ludzkości.

ChatGPT zdaje już nawet egzaminy na amerykańskich uczelniach. Jak wypada na tle prawdziwych studentów?

Praktycznie pomijana jest współcześnie dyskusja na temat tego, jakie sfery funkcjonowania społeczeństwa powinny pozostać całkowicie domeną ludzką. Biernie przyglądamy się rozwojowi technologii, za którym dyskurs naukowy i polityczny nie nadążają. Uruchomienie ChatGPT to według Kissingera wypuszczenie dżina z butelki. Co prawda, doczekamy się być może spełnienia kilku życzeń, ale może odbyć się to olbrzymim kosztem, który na zawsze zmieni ludzkość. Mamy przed sobą narzędzie, które potrafi być jednocześnie racjonalne, ale pozbawione tradycyjnego dla człowieka rozumowania. Oddzielone zatem zostają dwa nierozłączne do tej pory zjawiska. Jak argumentują autorzy stawia to olbrzymie wyzwania przed metapoznaniem i hemeneutyką, czyli zrozumieniem sposobu, w jaki rozumiemy otaczające nas zjawiska.

ChatGPT - popularny bot jest w stanie napisać także złośliwe oprogramowanie. Każdy może stać się hakerem?

Wpływ narzędzia na geopolitykę, czyli palącą dla Kissingera kwestię, także może być niebagatelny. Jeżeli technologia nie będzie powszechnie dostępna, to polityka imperialna niektórych krajów może skoncentrować się na pozyskiwaniu i monopolizacji technologii. To zaś bezpośrednio prowadzi do podziałów według zupełnie nowych biegunów, gdzie różnice przebiegają wzdłuż granic wytyczanych przez całkowicie odrębne zbiory wiedzy. Jeżeli monopolizacja ta będzie obejmowała także dane wejściowe, to społeczeństwa mogą zacząć funkcjonować w zupełnie odrębnych od siebie rzeczywistościach naukowych lub pseudonaukowych. Choć we współczesnym świecie już teraz przebiegają wyraźne podziały informacyjne pomiędzy krajami cywilizacji zachodniej, a państwami totalitarnymi, to zazwyczaj nie obejmują one samego rdzenia nauki. To może się w przyszłości zmienić.

Sztuczna Inteligencja podbija świat. Jak będzie wyglądać nasza przyszłość? Zastąpienie czy jednak współpraca?

Społeczeństwa demokratyczne będą musiały, według Kissingera, stanąć przed ryzykiem nawrotu mistycyzmu religijnego. Posłuszeństwo wobec jednostek lub grup, które cechują się sposobem rozumowania wykraczającym poza dostępny przeciętnemu człowiekowi, ma dużą tradycję w historii ludzkości. Na jej bazie zbudowano największe reżimy totalitarne w XX wieku. Choć wątpliwe jest, żeby w dzisiejszych czasach sztuczna inteligencja jako taka została otoczona pewną formą kultu religijnego, to inaczej może być w przypadku ludzi lub instytucji, które mają ekskluzywne dojście do narzędzi zapewniających dostępność mechanizmów opartych na AI. Charakter technologii bowiem sprzyja jej koncentracji w rękach niewielkiej grupy osób, co prowadzi bezpośrednio do koncentracji przywództwa. Zjawiska tego typu muszą zostać, według autorów tekstu, poprzedzone wykształceniem na nowo w społeczeństwie moralnych i strategicznych liderów, którzy zaproponują mu zestaw przewodnich zasad, zapobiegających potencjalnej anarchii, alienacji czy wyodrębnieniu fałszywych autorytetów.

Sztuczna Inteligencja może teraz za Ciebie stworzyć muzykę. Jak dobry jest nowy system MusicLM od Google?

Normy, w ramach których powinien odbywać się rozwój sztucznej inteligencji, nie muszą mieć, jak przekonuje Kissinger, charakteru regulacji prawnych. O wiele skuteczniejsze byłyby w tym przypadku normy kulturowe, analogiczne do tych, które zabraniają nam na przykład morderstw czy kradzieży. Problemem jednak jest to, że ich wykształcenie zajmuje zazwyczaj bardzo dużo czasu. Dlatego tym bardziej istotna jest pozycja społecznych liderów, którzy będą w stanie takie normy opracować i zaproponować innym. Zmiany potrzebne są już na szczeblu edukacji, gdzie powinno się uczyć nowych umiejętności, takich jak odpowiedzialna interakcja pomiędzy człowiekiem a sztuczną inteligencją. Konieczna jest pewnego rodzaju globalna standaryzacja, która prawdopodobnie wcześniej czy później nastąpi. Jak wskazuje Kissinger, w idealnym świecie odbyłoby się to jako efekt ludzkiej obserwacji. Istnieje jednak ryzyko, że proces ten będzie miał miejsce w wyniku jakiejś katastrofy, do której sztuczna inteligencja kiedyś doprowadzi.

Discord testuje możliwości sztucznej inteligencji. AI odpowie na pytania użytkowników i pomoże w moderacji serwera

Osobiście jestem zwolennikiem rozwoju technologii opartych na AI, jednak należy docenić wgląd w całe zagadnienie, jaki zaprezentowali autorzy tekstu. Nawet entuzjaści technologii muszą w pełni zdawać sobie sprawę z tego, że jej rozwój wiąże się z poważnymi zagrożeniami. W tym przypadku są one być może bezprecedensowe w całej historii ludzkości. Jeżeli funkcjonowanie ChatGPT już teraz podważa pewne fundamenty, na których oparto współczesną wiedzę naukową, to można mieć obawy, że w przyszłości wpłynie realnie zarówno na relacje międzyludzkie, jak i relacje pomiędzy człowiekiem, a maszyną. W toku tego procesu może bowiem okazać się, że znaczenie, jakie odgrywamy nieustannie słabnie. Głównym celem jest zapobiegnięcie redukcji człowieka do roli serwilistycznej, bo w przeciwnym przypadku będzie to całkowite zaprzeczenie idei, której sztuczna inteligencja powinna służyć. Ostatecznie, jak przekonuje Kissinger, to my trzymamy w naszych rękach imperatyw do definiowania celu, w którym podąża gatunek ludzki i to do nas należy zadanie poszukiwania prawdziwych odpowiedzi, a nie do narzędzi pokroju ChatGPT.