Technologie – lekarstwo czy trucizna? A może to źle postawione pytanie?

Rezultaty rozwoju technologii można łatwo przewidzieć niezależnie od tego, czy będziemy mówić o sztucznej inteligencji, internecie rzeczy czy o jakimkolwiek innym zjawisku, którego nawet jeszcze nie znamy. Będą one ekstrapolacją naszych obecnych wartości, potrzeb i dążeń. Każda nowa technologia, oprócz zastosowań pro publico bono jest potencjalnie narzędziem kontroli. Dlatego zawsze w największym stopniu służy ona istniejącym już ośrodkom władzy politycznej i finansowej, gdyż są one w uprzywilejowanej pozycji i mają naturalną skłonność do dalszej kumulacji władzy.

Każda nowa technologia, oprócz zastosowań pro publico bono jest potencjalnie narzędziem kontroli. Dlatego zawsze w największym stopniu służy ona istniejącym już ośrodkom władzy politycznej i finansowej, gdyż są one w uprzywilejowanej pozycji i mają naturalną skłonność do dalszej kumulacji władzy.

Z rozwoju technologicznego będziemy więc mieli mówiące lodówki i wykrywacze raka, ale przede wszystkim stanie się on przewagą konkurencyjną ośrodków kontroli w walce z innymi ośrodkami kontroli. Natomiast który z nich wygra i jakim kosztem społecznym, tego nie da się przewidzieć. Już teraz jesteśmy manipulowani każdym politycznym czy komercyjnym billboardem, który przygotował żywy ekspert. Wraz z postępem technologicznym efekt będzie ten sam, tylko osiągany bardziej zaawansowanymi metodami, wraz z postępem komunikacyjnego wyścigu zbrojeń.

Co nam mówi o nas technologia?

Warto więc spojrzeć na rozwój techniki z innej perspektywy niż zazwyczaj: nie futurologicznej, czyli jak technika zmieni świat, lecz samopoznawczej, a więc czego możemy się dzięki niej dowiedzieć o nas samych. Dlaczego to ważne? Bo każda technologia ma dobrą i złą stronę, a użytek, jaki ludzie robią z owoców poznania, zależy od nich samych. Zatem z postępem technicznym jest tak jak z brzytwą: można się nią ogolić, a można i gardło podciąć. Głównym przeciwnikiem, wrogiem i szkodnikiem dla człowieka okazuje się więc sam człowiek. Podsumowując, człowiek nie może zmieniać świata, nie zmieniając samego siebie¹. Te cztery ostatnie zdania to cytaty ze Stanisława Lema.

Już samo tytułowe pytanie jest odkrywcze. Trafia w sedno zarówno natury aktualnej transformacji technologicznej, jak i pewnej słabości naszego rozumu, przez którą możemy sobie z tą transformacją nie poradzić. Jak wiadomo, sola dosis facit venenum – o tym, czy coś będzie trucizną czy lekarstwem decyduje tylko dawka. Chociaż technologia nie jest dawkowalną substancją, możemy to powiedzenie Paracelsusa odnieść i do niej. Wiele zależy choćby od tego, w jakich proporcjach w stosunku do innych spraw będzie ona zaprzątała naszą uwagę i będzie obecna w naszym życiu. Nie możemy bowiem myśleć o wszystkim. Dlatego im więcej myślimy o technice, tym mniej o innych rzeczach.

Proporcje to jeden z aspektów relacyjnego postrzegania świata, z którym mamy kłopoty. Myślimy konkretnymi bytami, czymś, co można samodzielnie kontrolować, posiadać i gromadzić. Dlatego pytamy: lekarstwo czy trucizna? Relacja zaś to byt niematerialny, który zawsze zależy jeszcze od czegoś lub kogoś drugiego, a czasem i piątego, i dziesiątego. Relacja oznacza zależność, a tego nie lubimy. Relacyjnie myślano natomiast w starożytności. Dbano wtedy o proporcje, o złoty środek i złote podziały. Współcześnie relacjami myśli się na Wschodzie, gdzie kluczowym pojęciem jest równowaga. Na Zachodzie też coraz częściej mówimy o równowadze np. w kontekście faktu, że jesteśmy częścią ekosystemu Ziemi. Czas zastosować to myślenie również do technologii.

Nie chodzi jednak o to, że jesteśmy częścią technologii. Taka teza skazuje nas na utratę podmiotowości na nasze własne życzenie. Technologia, w odróżnieniu od przyrody jest naszym wytworem. Byłoby nadużyciem traktować siebie samych jako część tego, co tworzymy. Jest dokładnie odwrotnie: technologia jest częścią nas, co oznacza, że możemy i powinniśmy ją kontrolować. Niemniej jednak trzeba przyznać, że wizja bycia częścią technologicznych przemian, ich przedmiotem, a nie podmiotem, jest w jakiś sposób dla nas atrakcyjna jako narracja, sposób wyobrażania się w świecie. Dlaczego taka wizja nas pociąga?

Technologia jest częścią nas, co oznacza, że możemy i powinniśmy ją kontrolować. Niemniej jednak trzeba przyznać, że wizja bycia częścią technologicznych przemian, ich przedmiotem, a nie podmiotem, jest w jakiś sposób dla nas atrakcyjna jako narracja, sposób wyobrażania się w świecie. Dlaczego?

Niewątpliwie między innymi dlatego, że tworzy ją nieustannie i z premedytacją machina promocji produktów nowoczesnej gospodarki. W krajach rozwiniętych panuje narracja nieustającego, w zasadzie obserwowanego z dnia na dzień, postępu technologicznego. Ma ona na nas wpływ dokładnie taki sam jak film lub książka. Świetnym przykładem jest tutaj powieść Jacka Dukaja „Czarne oceany”, w której postęp technologiczny tworzy w zasadzie osobną fabułę. „Oglądanie” siebie jako bohaterów takiej akcji jest po prostu ekscytujące. Już nie tylko smart city, ale i metaversum. Wkraczamy wyobraźnią w świat magii. Budzi to też niepokój, ale bać się również lubimy. Można więc powiedzieć, że jeśli chodzi o postęp technologiczny, czujemy się trochę jak bohaterowie thrillera i znajdujemy upodobanie w zastanawianiu się, czy wygrają siły zła czy dobra. W tej autoreprezentacji tkwi jednak pewne niebezpieczeństwo, że jest ona po prostu ucieczką od odpowiedzialności.

Zachować łączność jako społeczeństwo

Za co powinniśmy być odpowiedzialni? Za nasze relacje między nami jako ludźmi. Nie trzeba zaawansowanej techniki, żebyśmy zaczęli zachowywać się jak trybiki maszyny. Wystarczy trochę władzy i zwykłych biurokratycznych algorytmów. Zwrócił na to uwagę Václav Havel w eseju „Siła bezsilnych”, sygnalizując że w zasadzie każdy taki system zaczyna wytwarzać tajemniczy „samoruch”, czyli zamiast służyć ludziom, zaczyna pracować nad podtrzymaniem swojego własnego bytu niezależnego od dobra ludzi. W tym duchu Havel krytykuje również demokrację i kapitalizm jako niewolne od „samoruchu”. Jego racje potwierdza intuicyjne przekonanie technokratyczne, że jeśli coś w naszej cywilizacji nie działa, to jest to wina systemu, a więc wystarczy zaimplementować jakiś nowy system, aby osiągnąć pożądany efekt. Z tego zaś przekonania wynika entuzjazm dla nowych technologii, które przecież na pewno dostarczą jeszcze lepszych systemów. W taki sposób tworzy się sprzężenie zwrotne między samymi systemami, które wypierają człowieka z podmiotowości zarówno jako sprawcy, jak i adresata swoich działań.

Nie trzeba też zaawansowanej techniki, abyśmy stracili między sobą łączność jako społeczeństwo. Ponieważ zasadniczo społeczeństwo składa się ze zróżnicowanych jednostek, każda silna zmiana działa jak centryfuga, doprowadzając do rozwarstwienia mas ludzkich i pogorszenia możliwości wewnętrznego porozumiewania się między nimi co do wspólnych wartości a więc planów, zamierzeń oraz sposobów ich realizacji dla wspólnego dobra. Obserwując aktualny poziom i temperaturę debat na społecznie ważne tematy, wydaje się, że tę kognitywną płynność już straciliśmy, a postęp technologiczny może ten kryzys tylko pogłębić. Chyba, że kiedy społeczeństwo będą tworzyć tylko osoby wychowane na przysłowiowym TikToku okaże się, że wreszcie będą oni mogli dogadać się na temat najważniejszych spraw, co do których nie mogli dogadać się ich dziadkowie, bo tylko najważniejsze sprawy będą w stanie zrozumieć. Nie będzie ich przesłaniał nadmiar eksperckiej retoryki. Kusząca perspektywa.

W tej dość bliskiej już przyszłości prawdopodobnie roboty będą udawać ludzi w sposób doskonały. Jeśli interpretujemy tę hipotetyczną sytuację przez pryzmat doskonałości technologicznej homoidalnej sztucznej inteligencji, to znowu jesteśmy w pułapce naszej narracji postępu technologicznego. Od kilku lat słyszy się, że programy „tworzą” dzieła sztuki, piszą książki jak Hemingway, malują obrazy w dowolnym stylu, jakaś sztuczna inteligencja dokończyła X Symfonię Beethovena. Czy na pewno możemy użyć słowa „tworzyć” w odniesieniu do takich procesów?

Akt twórczy jest działaniem człowieka związanym z wyrażeniem siebie, z grą językiem tego wyrazu, a przede wszystkim z chęcią kontaktu z drugim człowiekiem, czyli aktem komunikacji, w którym jest nadawca i adresat. Tworzenie jest więc relacją interpersonalną wynikającą z potrzeby kontaktu z drugim człowiekiem. Programy niczego nie wyrażają i nic nie chcą. Mogą jedynie skopiować rezultat ludzkiego działania, czyli obliczyć konfigurację znaków, pikseli lub częstotliwości w sposób, który im zadamy. Ze złożoności tego procesu, która przekracza nasze pojmowanie, nie wynika żadna nowa jakość. Na razie nie istnieje żadne wytłumaczenie mechanizmu, który wielość procesów obliczeniowych zamieniałby w inne zjawisko.

Akt twórczy jest działaniem człowieka związanym z wyrażeniem siebie, z grą językiem tego wyrazu, a przede wszystkim z chęcią kontaktu z drugim człowiekiem, czyli aktem komunikacji, w którym jest nadawca i adresat. Tworzenie jest więc relacją interpersonalną wynikającą z potrzeby kontaktu z drugim człowiekiem. Programy niczego nie wyrażają i nic nie chcą.

Grozi nam więc sytuacja, w której stworzymy nowy byt nie mniej martwy od kamienia przydrożnego, ale nieodróżnialny od człowieka, czym wprawi nas w ontologiczną konsternację, bo nie będziemy mogli sprawdzić, czy nasz twór jest wciąż tylko czymś, czy już kimś. Wtedy staniemy przed najważniejszym egzaminem dla naszego człowieczeństwa: czy damy sobie wmówić przez sam fakt używania języka antropomorfizującego maszyny, że są one ludźmi? Że sztuczna inteligencja emulująca naszą zmarłą matkę w zasadzie może być naszą matką? Czy pojawią się ruchy walczące o prawa i „wolność” dla takich programów? A może przeciwnie, nagle wzrośnie cena autentyku i kontakty z żywą osobą w call center staną się usługą premium? Nie mówiąc o tym, jakie pieniądze będą wtedy zarabiać animatorzy kultury.

W dość bliskiej już przyszłości prawdopodobnie roboty będą udawać ludzi w sposób doskonały. I to wtedy nadejdzie najważniejszy egzamin dla naszego człowieczeństwa: czy damy sobie wmówić używanym obecnie językiem antropomorfizującym maszyny, że są one ludźmi?

Nie można wykluczyć, że dialogi z maszynowymi asystentami osobistymi jakoś wzbogacą lub zasuplementują nasze życie osobiste. Może powiemy kiedyś Siri coś, za powiedzenie czego dziś musimy płacić duże pieniądze psychologowi, żeby lepiej zrozumieć samych siebie. Od zawsze przecież rozmawiamy tak z psami czy kotami, antropomorfizujemy przedmioty i bohaterów książek czy filmów. Żeby daleko nie szukać, trzeba przyznać, że związek ostatniego Terminatora T‑800 z kobietą, w którym doskonale sprawdzał się jako partner, bo pomagał jej w gospodarstwie, był bardzo przekonujący a nawet zawstydzający dla wielu mężczyzn. W tych wszystkich przykładach jednak nigdy nie mylimy człowieka z psem, aplikacją czy fikcyjną postacią.

Jeśli kiedyś zakochamy się w cyfrowym posągu, jak Pigmalion w swojej rzeźbie idealnej kobiety, przede wszystkim wprowadzi to jeszcze większy zamęt w pojmowanie przez nas relacji, z którymi już teraz mamy problem. Na przykład, będziemy mogli kochać, jak ów mitologiczny król, tylko idealnych sztucznych ludzi, a nie takich, jakimi są. Jednak żadna Afrodyta ich dla nas nie ożywi. Przed nami zatem nowy, odwrócony test Turinga: czy jesteśmy na serio w stanie przyjąć, że stworzony przez program obraz lub melodia nie zostały obliczone lecz faktycznie stworzone jako akt komunikacji z nami? Czy pomylimy kiedyś maszynę z człowiekiem do tego stopnia, że będziemy chcieli być dla niej bliźnimi tak samo albo bardziej, niż jesteśmy nimi teraz dla drugiego człowieka? I kim wtedy będziemy – jak nas, ludzi spełniających się jako ludzie w obecności robota, będzie można nazywać? Jedno jest pewne: jeśli kiedyś przekroczymy tę barierę, zostanie ona przekroczona po naszej stronie, nie po stronie maszyny.

¹ Źródła cytatów kolejno: „Dziury w całym” https://roklema.pl/dzien-171/, „W globalnej mordowni”, https://roklema.pl/dzien-322/, „Świat na krawędzi”, https://roklema.pl/dzien-216/, „Summa technologiae”, https://roklema.pl/dzien-004/.

Artykuł ukazał się w Pomorskim Thinkletterze nr 4/2021. Kompletne wydanie w postaci pliku pdf można pobrać tutaj.

Wydawca

Partnerzy