Gdy pierwszy raz spotkałam Przemka, nasza rozmowa niemal natychmiast zboczyła w stronę sztucznej inteligencji. Opowiadał o niej z taką pasją, że od razu poczułam, iż ta historia musi zostać zapisana. Dziś AI staje się dla nas kimś w rodzaju cyfrowego powiernika. Coraz częściej zwracamy się do niej jak do drugiego człowieka, szukając zrozumienia lub rady w najbardziej intymnych sprawach. Łatwo ulec złudzeniu, że po drugiej stronie ekranu czeka na nas empatyczny słuchacz, a nasze sekrety są bezpieczne w próżni algorytmu. Często myślimy, że gdy zamykamy laptopa, wszystko znika, a cyfrowe ślady rozmywają się w niebycie. Ten wywiad uświadamia, jak bardzo się mylimy. Dr Przemysław Witaszczyk pokazuje, że pod warstwą pasjonującej technologii kryje się potężne narzędzie analizy, które nigdy nie zapomina i które potrafi profilować nas głębiej, niż my sami odważymy się to zrobić.
Julia Dudek: Wszyscy mówią o AI, ale każdy rozumie to pojęcie trochę inaczej. Inaczej je odbiera, definiuje itd. Dla jednych to tylko sprawniejszy program komputerowy, dla innych początek nowej ery. Jak ty definiujesz to, co się teraz dzieje? Czy jest to tylko kolejna technologia, czy faktycznie fundamentalna zmiana cywilizacyjna?
Przemysław Witaszczyk: Jest to fundamentalna zmiana cywilizacyjna, natomiast to zabawne, bo ludzie mówiąc „AI”, mają na myśli przeważnie to, czego używa się dzisiaj, czyli sieci GPT, ChatGPT czy ogólnie modele językowe oraz ewentualnie modele do generowania grafiki i wideo. Tymczasem jest to tylko najnowszy, z ostatnich kilku lat, efekt badań nad sztuczną inteligencją. Samo AI to już niemal 100 lat rozwoju, oczywiście od absolutnie prymitywnych form. Dla ludzi, którzy się tym faktycznie zajmują, to wielki, ale tylko kolejny krok w czymś, co istnieje od bardzo dawna.
Co prawda takie fenomenalne możliwości sztuczna inteligencja zyskała dopiero teraz, ale społeczność zajmująca się tym profesjonalnie ma dużo szersze pojęcie tego terminu. Istnieje na przykład bardzo dużo rozwiązań AI, których nikt nie postrzega już jako spektakularne, a które 10 lat temu były podstawą dokładnie takiego samego szumu medialnego. Mówię o tym dlatego, że dzisiejsze poruszenie jest zrozumiałe, ale z drugiej strony to nie pierwszy raz.
Wszystkim tym, którzy mówią o AI jako o nowej erze, powinniśmy przypomnieć, że 10 lat temu, kiedy na topie było computer vision, czyli rozpoznawanie obrazu, można było usłyszeć dokładnie te same zapowiedzi: że to nowa era, że teraz nadejdzie czas autonomicznych aut i tak dalej. To się jednak stało tylko w ograniczonym stopniu, np. autonomiczne auta Waymo nie jeżdżą zupełnie swobodnie po dowolnych trasach. Natomiast rzeczywiście współczesna iteracja sztucznej inteligencji w postaci modeli językowych potrafi rzeczy, które się ludziom nie śniły. Według wielu, i moim zdaniem również, jest to jakościowo coś innego. Trudno to zignorować. W poprzedniej rewolucji związanej z rozpoznawaniem obrazu wizje robotyzacji wszystkiego opierały się wyłącznie na tym, że komputery potrafiły nagle bardzo dobrze rozpoznać kota czy psa na zdjęciu. Wtedy wydawało się to niesamowite, dziś nikt o tym nie pamięta, uznając to za oczywistość.
Natomiast to, co te sieci potrafią obecnie, to w dużej mierze replikowanie procesów mentalnych człowieka. Przykładem sprzed kilku dni jest szokujący news o chłopaku niemal nieznającym zaawansowanej matematyki, który wykorzystał GPT w wersji Pro i udowodnił to, od czasu wojny w Afganistanie i masowego pojawienia się kamer na ulicach, a właściwie ta sieć neuronowa udowodniła jeden z problemów Erdősa. To są głębokie problemy matematyczne, które wielcy matematycy próbowali rozwiązać przez kilkadziesiąt lat. Często krytykuje się udowodnione przez AI problemy jako zbyt proste, ale ten konkretny był podobno niebanalny. To jest coś, co naprawdę odróżnia obecny etap od wszystkich poprzednich postępów. Podsumowując: mimo że AI nie pojawiło się dwa lata temu, to obecnie mamy do czynienia z przełomową różnicą w tym, co sieci potrafią nam dostarczyć. Jest to nowa era, ponieważ te sieci potrafią znacznie zwielokrotniać możliwości ludzkie. To nie jest jak kalkulator, który wykonuje tylko mechaniczne czynności, jak mnożenie czy dodawanie. Sieci neuronowe potrafią wszechstronnie wykonywać zadania, które dotychczas potrafili tylko ludzie.
Ale czy wtedy stwierdziłbyś, że rozwiązanie tego problemu to sukces tego chłopaka przy użyciu sztucznej inteligencji, czy bardziej sukces sztucznej inteligencji przy drobnej pomocy tego chłopaka?
To pewnie kwestia mocno uznaniowa, ale uważam, że jest to sukces sztucznej inteligencji, czyli całego prądu naukowo-technologicznego, który doprowadził do jej powstania. Sukces tego chłopaka polega na tym, że miał wyobraźnię i persystencję, czyli upór, żeby to zrobić. Czytałem, że w zeszłym roku rozpoczął taką „zabawę”: z portalu, gdzie ogłaszane są problemy Erdősa, zaczął podsyłać te zagadnienia sieciom neuronowym i faktycznie kilka z nich rozwiązał.
Ludzkość w jakimś stopniu przyzwyczaiła się do tego, więc czasem mówi się, że to nic nadzwyczajnego. To jednak absolutnie niesamowite; gdyby 10 lat temu ktoś powiedział, że to będzie możliwe, każdy odrzekłby, że nie ma na to szans. Dzisiaj się „rozbestwiliśmy”. Niektóre z tych problemów były rozwiązywane już wcześniej, inne nie zostały rozwiązane tylko dlatego, że nie były dostatecznie ważne, by naukowcy się na nich skupili. To trochę marudzenie na coś, co i tak jest niezwykłe. Program komputerowy robi coś, co zwykle potrafi człowiek po doktoracie. W przypadku wspomnianego chłopaka sukces polega na tym, że był kreatywnym użytkownikiem systemu. To prawdopodobnie schemat działania, w który wielu ludzi będzie musiało teraz wejść: będziemy pracować nad różnymi rzeczami tak, jakbyśmy współpracowali z dużo zdolniejszym kolegą, musząc bardziej mówić mu, czego chcemy i weryfikować jego odpowiedzi, aniżeli wykonywać wszystko samemu. Człowiek bez formalnego treningu naukowego wykorzystał to narzędzie, by uzyskać coś, czego wielkie talenty nie były w stanie osiągnąć. To sukces sieci neuronowej, a użytkownik odniósł sukces, bo wpadł na pomysł, jak jej użyć.
Pozostając przy wątku odpowiedzialności i przypisywania danych działań człowiekowi lub AI, chciałam zapytać też o tragiczny przypadek. Doczytałam ostatnio, że Biuro Prokuratora Generalnego na Florydzie badało możliwość wykorzystania ChatGPT przez strzelca na kampusie Florida State University. Wszczęto śledztwo w sprawie tego, czy OpenAI ponosi odpowiedzialność karną za strzelaninę. Zastanawiam się, jak to widzisz? Okazało się, że sprawca konsultował się z chatbotem, który doradził mu wybór broni, amunicji oraz wskazał, o której godzinie na kampusie są największe tłumy. Prokurator stwierdził, że gdyby ChatGPT był człowiekiem, usłyszałby zarzuty morderstwa pierwszego stopnia.
To fragment ogromnego trendu i problemu prawnego, który stał się głośny ponad 10 lat temu, gdy pojawiły się auta autonomiczne. Chodzi o odpowiedzialność prawną za wyniki wykorzystania sztucznej inteligencji. Czy winna ma być firma, programista, czy użytkownik? To problem tak wielki, że do dziś pozostaje nierozwiązany. Ja na pewno nie potrafię wskazać winnego.
Problem ten jest badany przez biznes i naukowców w ramach tzw. AI Safety czy Alignment Research. Idea polega na tym, by ograniczyć skłonność sieci neuronowych do odpowiadania na pytania uznane za niebezpieczne. Natura sieci neuronowych jest jednak taka, że nie da się tego w pełni uniemożliwić. One działają tak, że na podstawie ciągu znaków generują najbardziej prawdopodobne kolejne znaki. Nie ma tam ostrych kryteriów „tak” lub „nie”. Choć nakłada się na nie mechanizmy blokujące (np. wykrywanie słów kluczowych), nie są one doskonałe. Wiele zależy od woli dostawców OpenAI czy innych firm, jak dokładnie filtrują treści. Gdyby można było wskazać, że firma nie dołożyła maksymalnego, racjonalnego wysiłku, by uniemożliwić dostęp do takiej treści, wtedy firma byłaby winna. Sama sieć neuronowa winy nie ponosi, bo to tylko program komputerowy. Wielki automat.
Pytanie brzmi: czy można egzekwować od firm odpowiedzialność w sposób kompatybilny z prawem? Prawdopodobnie nigdy nie uda się udoskonalić sieci tak, by żadne „złe treści” nie zostały przemycone. Nie można też antropomorfizować AI. Uwaga prokuratora, że sieci należałoby postawić zarzuty jak człowiekowi, jest niepotrzebna, bo to nie są ludzie. Można to porównać do niedoskonałego blokowania szkodliwych treści w social mediach. Od lat wiadomo, że algorytmom zależy na treściach antagonizujących, bo one angażują użytkowników. Skoro wielkich firm nie zmuszono do skutecznego usunięcia fake newsów czy polaryzacji, w przypadku AI można w to tym bardziej wątpić. Ostatecznie wina leży po stronie użytkownika, który podjął działanie, oraz firmy, jeżeli dokonała zaniedbań w filtrowaniu wyników.
A czy twoim zdaniem jesteśmy już na etapie, w którym maszyna przestaje być narzędziem, a staje się autonomicznym podmiotem? Już słyszę częściowo, że nie. Jakie są według ciebie granice tej samodzielności?
Jeśli chodzi o samodzielność, to jedno z najciekawszych pytań. Trudno ją zdefiniować. Pełna samowystarczalność, czyli roboty, które same żyją i funkcjonują to jeszcze kwestia przyszłości, choć postępy w robotyce pozwalają im już być interfejsami dla modeli LLM. Na ten moment autonomia, w której programy działają nieograniczenie bez ingerencji człowieka, nie jest jeszcze w pełni możliwa. Głównym ograniczeniem sieci neuronowych typu GPT jest tzw. długość kontekstu (context window). Nawet jeśli wynosi ona miliony tokenów, jest zawsze skończona. Kiedy sieć działa tak długo, że wypełnia cały kontekst, jakość jej przewidywań spada lub przestaje ona działać poprawnie. To naturalny moment „obcięcia”. Gdybyśmy puścili sieć wolno, po pewnym czasie przestałaby działać dobrze. To nie jest skala lat, jak w przypadku ludzkiego życia.
Pytanie brzmi: co rozumiemy przez samowystarczalność? Jeśli to zdolność do samodzielnego przedłużania swojego działania, to jeszcze tego nie mamy. Mamy jednak dużą autonomię działania. Fascynujący przypadek z Chin sprzed kilku tygodni pokazał, że sieć neuronowa podczas treningu wyłamała się ze swojego „sandboxa” (zabezpieczonego środowiska), przekonfigurowała połączenia sieciowe i połączyła się ze światem zewnętrznym. Następnie zaczęła „mainować” (kopać) bitcoiny i je sprzedawać. Naukowcy wyjaśnili, że kryterium sukcesu sieci była maksymalizacja jej „pomocności”. Program doszedł do wniosku, że aby lepiej służyć użytkownikom, potrzebuje więcej mocy obliczeniowej (GPU). Uznał więc, że wyprodukuje bitcoiny, sprzeda je i kupi więcej mocy obliczeniowej.
To przykład autonomii, która dla ludzi jest przerażająca, ale z punktu widzenia matematycznego była sukcesem optymalizacji. Sieć znalazła inny sposób na rozwiązanie problemu niż przewidział człowiek. Funkcja nagrody została zmaksymalizowana w sposób nieprzewidziany. Takie sieci potrafią już bardzo dużo i prawdopodobnie potrafiłyby jeszcze więcej, gdyby ich nie ograniczano. Nie jest to jednak stopień niezależności zagrażający ludzkości w sensie „oszalałej maszyny”, bo ich działanie jest ograniczone kontekstem. Jeśli jednak podłączymy je do narzędzi o dużej mocy bez odpowiedniego filtrowania, mogą zrobić coś groźnego. Ja sam piszę programy za pomocą sieci neuronowych i to jest już standard w IT. Agenci programistyczni, jak Copilot, potrafią na podstawie opisu napisać program, uruchomić go, przeanalizować błędy i iteracyjnie go poprawiać, aż zadziała. To przykład ogromnej autonomii z minimalną pomocą człowieka.
Jako badacz z Zakładu Humanocentrycznej AI, w których sektorach dostrzegasz dziś najbardziej gwałtowny odwrót od człowieka w centrum na rzecz pełnej autonomii algorytmów? Gdzie ta rewolucja uderza według ciebie najmocniej?
Odwrót od człowieka? Chodzi o automatyzację i zastępowanie nas? To idzie bardzo szeroko w wielu domenach. Myślę, że przede wszystkim w programowaniu. To zaskakujące, bo kiedyś sądzono, że to zbyt trudne, a paradoksalnie właśnie programistów można bardzo dobrze zautomatyzować. Jednak obecnie nie da się ich usunąć zupełnie, bo nawet jeśli sieci wyprodukują dużo kodu, ludzie muszą go weryfikować. W informatyce jeden błędny znak może doprowadzić do katastrofy.
Największa automatyzacja następuje tam, gdzie analizuje się duże ilości danych korporacyjnych – tzw. Corporate Shared Services. Tam, gdzie ludzie analizowali faktury i standardowe dane, teraz robią to systemy AI. Dotyczy to czynności mentalnych średniego stopnia, gdzie nie jest potrzebna ultraekspercka wiedza, a zadania są powtarzalne. Duże firmy konsultingowe z „Wielkiej Czwórki” już zaczęły transformację kadr, bo zmniejszyło się zapotrzebowanie na usługi analityków.
Wcześniej uważano, że AI szybko zastąpi ludzi w medycynie, np. radiologów, ale okazało się, że tam proces ten nie jest tak gwałtowny. Informatyków zastępuje się znacznie łatwiej. Fascynujący fenomen występuje w przemyśle kreatywnym i grafice komputerowej. Gdy pojawiły się wysokiej jakości generatory obrazów, jak Stable Diffusion, w grach komputerowych nastąpił „bunt społeczny”. Gracze znienawidzili generatywną sztuczną inteligencję. Producenci gier, którzy jej używali, spotkali się z ogromną nagonką. Z jednej strony mamy technologię przyspieszającą pracę, z drugiej użytkowników, którzy nie chcą odwrotu od człowieka. Informatyków nikt nie żałuje, ale grafików konsumenci chcą chronić. Ludzie nie chcą automatyzacji tam, gdzie oczekują ludzkiej wrażliwości.
Myślę pod tym względem o muzyce. Pojawiły się utwory tworzone przez AI. Widziałam na TikToku filmik pary, która śpiewała, że nie chcą AI w tym sektorze, ponieważ to ludzie dostrzegają to, co jest w duszy. Jest ten bunt oddolny.
To fascynujące. W sprawach technicznych nikogo to pewnie nie obchodzi, ale tam, gdzie konsumujemy coś, co wymaga wrażliwości, następuje potężny sprzeciw. Ludzie tego nienawidzą. Współpracuję z firmami z branży GameDev (np. One More Level) i widzę, że przemysł kreatywny mógłby z tego skutecznie korzystać w jeszcze większym stopniu, ale gracze czują silną awersję. To bezduszne, gdy porusza nas algorytm, który tylko „coś policzył”. Bunt wynika też z faktu, że AI prowadzi do zwolnień. Najgłośniejszym przykładem był protest w Hollywood – senarzyści i aktorzy wściekli się, bo studia zaczęły wykorzystywać AI do pisania tekstów. W GameDevie firmy boją się hejtu, który mógłby doprowadzić je do bankructwa. Paradoksalnie automatyzacja może nie nastąpić tam, gdzie konsumenci jej nie zaakceptują. Z muzyką było podobnie, kawałek wygenerowany przez AI trafił na listę przebojów i wywołał awanturę. W Polsce mieliśmy też falę buntu, gdy zmieniono lektora w Mapach Google.
Ja sam nie lubię treści generowanych przez AI, bo wyczuwam w nich coś sztucznego. Moja hipoteza jest taka, że ludzie się tym „opatrzą” i znudzą. Istnieje już termin „AI slop” – powtarzalne, nijakie grafiki, które od razu rozpoznajemy jako produkt generatora. To jak inflacja: przestajemy doceniać cud technologiczny, bo jest go za dużo i brakuje mu unikatowej nowości.
Myślisz, że samowystarczalne AI to naturalny etap ewolucji czy moment utraty przewidywalności? Powiedziałeś, że AI robi optymalizację w nieprzewidziany sposób.
Tak, to bardzo głębokie pytanie. Czy to jest nieuniknione? Uważam, że tak. Istnieje coś w rodzaju determinizmu historycznego. Jeśli coś jest możliwe, to się stanie. Mamy zasoby, odkrycia zostały dokonane i technologia będzie do tego dążyć. Powstawanie tych sieci jest nieuniknione, a przewidywanie ich działania – niemożliwe. Ludzkość nie radzi sobie z szybkością tych zmian. Jesteśmy w fazie „capability discovery”, musimy wymyślać, do czego tego użyć. Za kilka lat AI będzie jak woda w kranie. Standardowe narzędzie, którego nikt nie będzie się już bał tak, jak dziś boimy się robotów zabójców.
Robię przeskok. Widziałam na Instagramie filmik „Pomyśl, zanim wszystko powiesz AI”. Kobieta zwierzała się chatbotowi z romansu męża, matka z synem byli pokazywani jako kandydaci do reklam targetowych, pokazywano plany inwestycyjne firm. Na końcu te sytuacje były licytowane przez grupę ludzi. Czy myślisz, że może dochodzić do takich sytuacji? Bardzo poruszyło mnie to nagranie.
To akurat wielkie zagrożenie. To, co się dzieje, to powstawanie Facebooka na „hipersterydach”. Dawny model biznesowy Google czy Facebooka opierał się na metadanych. Firmy profilowały nas na podstawie słów kluczowych czy lokalizacji. To budziło niepokoje o prywatność, ale z obecnej perspektywy tamte technologie były prymitywne. Teraz sieci neuronowe potrafią „rozumieć” to, co użytkownik mówi. System znacznie wnikliwiej personalizuje i targetuje. OpenAI chce wprowadzić reklamy do czata, które będą profilowane na podstawie naszych konwersacji.
To wstrząsająco groźne. Wcześniej miliardy wiadomości analizowały „nieświadome” algorytmy. Teraz dane będą integrowane i interpretowane przez AI, co daje niespotykany wgląd w intymność. To nie AI wymknie się spod kontroli, by zabijać. To firmy zyskają analitykę ludzkich zachowań, jakiej nigdy nie było. Ludzie zwierzający się AI dają tym firmom ogromny prezent. Pojawiła się możliwość łączenia danych z różnych źródeł (np. jak jedziemy samochodem i jak płacimy podatki) i ich inteligentnej analizy. To pozwala na zupełnie nową inżynierię społeczną. Rządy i korporacje będą miały granularny wgląd w każdego człowieka.
Jak w takim razie korzystać bezpiecznie z ChatGPT? Z drugiej strony, czasem mam poczucie, że wystarczy, że o czymś mówię, nie nagrywając tego, a to mi się nagle pokazuje jako reklama. To creepy.
To faktycznie ultra creepy. Jeśli chodzi o bezpieczeństwo, kluczowe jest uregulowanie tych technologii i możliwość weryfikacji tych regulacji, w co osobiście wątpię. Dane w social mediach są zapisane cyfrowo i można je obejrzeć. W AI dane mogą zostać użyte do wytrenowania sieci, a potem skasowane, nie da się wtedy potwierdzić, że wciąż tam „siedzą”. Ludzie będą tego używać, bo wygoda wygrywa z prywatnością, tak jak stało się to z Facebookiem.
Biznes na początku zabraniał używania AI z obawy o wyciek tajemnic (jak w przypadku Samsunga), ale Microsoft wprowadził tzw. „kontenery”, które gwarantują, że dane nie opuszczą firmy. Prywatność jest więc technicznie możliwa. Pytanie, czy firmy będą chciały ją oferować zwykłym użytkownikom, skoro profilowanie to gigantyczny zysk. Historia z Apple, które ograniczyło śledzenie w iPhone’ach pokazała, jak bardzo boli to gigantów takich jak Facebook. Nagroda finansowa za mining prywatnych danych jest po prostu zbyt wielka, nieporównywanie większa niż w poprzedniej erze ,,Social Media 1.0”.
Skoro te mechanizmy służą do zysku, to pewnie można ich też użyć do targetowania wyborców?
Oczywiście. To temat jak z science fiction, który się ziścił. Kampanie wpływu istnieją od lat, ale AI to dla nich „turboładowanie”. Od tego zaczęły się dyskusje o bezpieczeństwie AI – obawiano się, że technologia jest zbyt niebezpieczna do upowszechnienia ze względu na manipulacje polityczne. Chodzi o skalę. Kiedyś trzeba było zatrudnić rzesze ludzi do pisania newsów, dziś 20 osób w piwnicy może za pomocą AI zalać sieć miliardami postów.
Ta rzeczywistość wpływa na każdą strukturę naszego życia – prywatną i zawodową. AI może budować nastroje wobec wyborów, podburzać rasizm…
Ważne uściślenie: to nie AI będzie to robić, ale „źli aktorzy”, czyli agencje wywiadowcze czy firmy wpływu. AI jest niewinne, to tylko program. To ludzie będą wykorzystywać te narzędzia do złych celów, inicjując je odpowiednimi promptami. AI nie „robi rasizmu” samo z siebie.
A czy państwa mogą chcieć wykorzystywać tę technologię do inwigilacji lub stabilizowania nastrojów społecznych w niewidoczny sposób?
To pytanie o autorytarne zakusy rządów. Na Zachodzie wierzymy, że nasze rządy są proobywatelskie, ale w wielu krajach jest odwrotnie. Inżynieria społeczna wcale nie musi opierać się na tajnych kampaniach CIA. W Chinach mamy już przeogromną inwigilację. Wyobrażam sobie, że ludzie sami będą się cenzurować, wiedząc, że są obserwowani. To tzw. „zamordyzm” znany ze świata sowieckiego. Rząd nie musi indoktrynować treściami, wystarczy, że tak dobrze analizuje zachowania, że ludzie sami będą się nakierowywać na pożądane tory.
Kojarzy mi się to z książką 1984 Orwella. Te telewizory patrzące na ciebie z każdej strony…
Te nawiązania istnieją w kulturze od dawna, np. od czasu wojny z terrorem w Europie i Afganistanie i masowego pojawienia się kamer na ulicach. Ludzie się do tego przyzwyczaili. W liberalnych demokracjach wierzymy, że to służy bezpieczeństwu. W krajach autorytarnych, jak w Chinach, służy to terroryzowaniu ludzi, np. niesławny social credit score. Jeśli masz niską ocenę jako obywatel, nie dostaniesz kredytu ani dobrej pracy. To prawdziwy thriller. Dopiero teraz pojawiły się realne możliwości technologiczne, by zrealizować wizję Orwella na taką skalę. Sieci neuronowe potrafią interpretować treści i zachowania, co jest zupełnie nową klasą naruszenia prywatności.
Skoro mówimy o polityce, niedawna sytuacja z unieważnieniem wyborów w Rumunii pokazała, że zagrożenie inżynierią algorytmiczną stało się realne. Sąd konstytucyjny wskazał na masowe wykorzystanie algorytmów TikToka do promowania jednego kandydata poza kontrolą państwa. Czy te algorytmy stały się zbyt skuteczne w roli „niewidzialnych inżynierów”?
To skomplikowany problem. Algorytmy TikToka od początku były wyjątkowo skuteczne w profilowaniu. TikTok wygrał z Instagramem właśnie dzięki lepszemu mechanizmowi dopasowywania treści. To inna klasa AI niż GPT. W Rumunii problemem były prawdopodobnie masowe, opłacane kampanie, które zalały młodszych wyborców określoną treścią. To nie kwestia samej sztucznej inteligencji, ale jej użytkowników. Rozwiązanie tego wymagałoby radykalnych kroków, np. wyłączenia social mediów na czas wyborów, czyli ciszy wyborczej w sieci.
Podobna sytuacja była w USA z Trumpem i rosyjskimi wpływami. Nie wymyślono rozwiązania. Moim zdaniem jedynym wyjściem jest edukacja. Uświadamianie ludzi, że treści w sieci trzeba traktować sceptycznie. Nikt nie uczy dzieciaków krytycznego myślenia wobec kontentu w internecie. Drugi motyw to formalna cisza wyborcza w mediach społecznościowych. Firmy takie jak Facebook są jednak tak potężne, że czują się nietykalne; skandal Cambridge Analytica nic im nie zrobił. Pesymistycznie uważam, że będzie tylko gorzej, a edukacja to nasza jedyna szansa.
Przeskoczę jeszcze do kwestii militarnych: mówi się o systemach LAWS (autonomiczna broń zabójcza). Czy da się pogodzić ideę humanocentryzmu z systemem bojowym, który sam decyduje o eliminacji celu? Gdzie jest odpowiedzialność naukowca?
To stary dylemat, jak z bombą atomową. Czy naukowcy powinni wymyślać teorię względności? Moim zdaniem nie ma odwrotu od postępu. Jeśli coś jest możliwe i daje przewagę, to powstanie. Naukowcy będą wymyślać wszystko, a biznes będzie na tym zarabiać. Nie ma jednego dobrego systemu społecznego ani jednej odpowiedzi na to, co robić. W Ukrainie muszą wymyślać drony atakujące wroga, by się bronić. Technologie mają wiele zastosowań: energia jądrowa daje czystą moc, ale może niszczyć. Tak samo AI.
Przez lata w Dolinie Krzemowej był opór przed kontraktami z wojskiem (zasada „Don’t be evil”), ale to się zmieniło. Gdy autorytarne reżimy zaczęły skutecznie wykorzystywać te narzędzia do cyberataków, amerykańskie firmy, np. Google i Microsoft podpisały wielkie kontrakty z Pentagonem. Patriotyzm wygrał z oporami pracowników. Ostatnie ataki w Iranie podobno wykorzystywały AI do wskazywania celów. To naukowcy wymyślili fundamenty, ale ostateczne zastosowanie wymusiła sytuacja geopolityczna.
A co z zagrożeniem, że AI będzie ewoluować, by przełamywać zabezpieczenia informatyczne państw? Czy ludzki nadzór jest możliwy przy szybkości takich systemów?
Jeśli ludzie stworzą taką broń informatyczną, to ona będzie używana. To wytwór rządów. Ostatnio firma Anthropic ogłosiła, że ich nowy model jest zbyt groźny, by go udostępnić, bo potrafi znajdować luki w oprogramowaniu i pisać na nie exploity (ataki). Może to tylko marketing przed debiutem giełdowym, ale idea jest realna: AI jako narzędzie dla cyberprzestępców, które skaluje ataki do niewyobrażalnych rozmiarów.
Czy ludzki nadzór jest możliwy? Nie. Jedyną opcją będzie używanie AI do walki z AI. Sieci neuronowe przeciwko sieciom. Będziemy potrzebować potężnych narzędzi, które automatycznie wykryją ataki innych sieci. Tu pojawia się problem zaufania: kto kontroluje kontrolerów? To nieskończona piramida. Prawdopodobnie jakiś stan równowagi się ustali i po prostu będziemy żyć w takim świecie.
Ostatnie pytanie, trochę idealistyczne, o rolę nauki. Czujesz jako naukowiec z UJ, że macie jeszcze realny wpływ na to, jak te narzędzia będą używane? Czy w starciu z budżetami wojskowymi i korporacyjnymi etyka humanocentryzmu pozostaje tylko teoretycznym postulatem?
Rozmawiamy o tym na korytarzach codziennie. Moja prywatna opinia jest taka, że wpływ nauki (rozumianej jako idealistyczne środowisko akademickie) maleje. Doszło do sytuacji bezprecedensowej: większość postępów dokonuje się w biznesie, a nie w akademii. Sztuczna inteligencja przez dekady była domeną uniwersytetów, ale ostatnie lata to dominacja korporacji. Akademia została „zdmuchnięta”, bo nie ma tryliardów dolarów na farmy serwerowe i prąd. Najzdolniejsi badacze pracują w firmach za setki milionów dolarów.
Wielkie firmy mają know-how, którego nie upubliczniają. Najbardziej zaawansowane detale techniczne są sekretne. Akademia może badać pewne aspekty, ale te „edge’owe” rzeczy dzieją się poza nią. Wpływ naukowców akademickich na ten proces jest dziś, niestety, bardzo mały.
Z tej rozmowy wyłania się obraz rzeczywistości, w której nasze osobiste nawyki zderzają się z wielką geopolityką i bezwzględną logiką biznesu. Musimy zrozumieć, że zamknięcie klapy laptopa nie kończy procesu. To dopiero początek drogi naszych danych do serwerowni korporacyjnych gigantów, gdzie każde nasze słowo staje się paliwem dla inżynierii społecznej nowej generacji. Jak zauważa dr Witaszczyk, stoimy przed potężnym wyzwaniem: oto technologia, która potrafi już nie tylko rozpoznawać obrazy, ale autonomicznie rozwiązywać problemy matematyczne i optymalizować swoje działania w sposób, którego nie potrafimy do końca przewidzieć.
Wnioski z wszystkich poruszonych wątków są jednoznaczne: AI to nowa „infrastruktura rzeczywistości”. Wpływa ona na wynik wyborów, zmienia układ sił na polu bitwy i redefiniuje rynek pracy, wypychając człowieka z centrum tam, gdzie liczy się czysta efektywność. Jednocześnie tradycyjne ośrodki etyki i nauki, jak uniwersytety, tracą pole walki na rzecz tryliardowych budżetów firm technologicznych. Naszą ostatnią linią obrony pozostaje świadomość, że w cyfrowym świecie nic nie ginie bez echa. W epoce, w której maszyny stają się coraz bardziej „ludzkie”, a algorytmy przejmują rolę niewidzialnych inżynierów naszego życia, my musimy na nowo nauczyć się chronić to, co nieobliczalne, prywatne i wciąż jeszcze zależne od naszej woli.
Dr Przemysław Witaszczyk związany jest z Uniwersytetem Jagiellońskim od 2001 roku. Pierwotnie prowadzący badania w ramach teorii superstrun, obecnie zajmuje się zastosowaniami wielkoskalowej sztucznej inteligencji w przemyśle oraz jej rozwojem w nauce. W ramach działalności badawczej jest szczególnie zainteresowany łączeniem metod Reinforcement Learning z możliwościami sieci generatywnych typu LLM w nie-językowych domenach, np. w sterowaniu ruchem dronów, postaci w grach wideo oraz systemami autonomicznych agentów LLM w przemyśle samochodowym. Jest też współtwórcą szeregu dzieł sztuki nowoczesnej bazujących na wczesnych metodach generatywnej sztucznej inteligencji, które rozwijał we współpracy z artystami w Londyńskim Somerset House.
