Lokalna demokracja a nowe technologie

Uwaga współczesnego, niestabilnego świata jest skupiona na obszarach kryzysu: na rozregulowanym klimacie, turbulencjach społeczno­‑politycznych, na globalnych łańcuchach dostaw rwących się jak słabe nici w czasach pandemii. Słuchamy niepokojących komunikatów, trzymamy kurczowo kciuki za powodzenie spóźnionych działań, staramy się odpowiedzialnie włączać w słuszne inicjatywy. Skupieni na tym nie zauważamy fundamentalnego procesu, który właśnie zmienia nasz świat i za chwilę może uzdrowić, lub też ostatecznie zmumifikować demokrację. Ten proces to czwarta rewolucja przemysłowa.

Za pierwszą rewolucję przemysłową można uznać „wiek pary”: rozkwit masowej produkcji, wynikający z wynalazku maszyny parowej, a przypadający na ostatnie czterdziestolecie XVIII i pierwsze czterdziestolecie XIX w. Druga to „wiek elektryczności”, którego symbolem jest przemysłowa linia produkcyjna. Trzecia – „wiek komputeryzacji” – wybuchła w ostatnim trzydziestoleciu XX w. i trwała nadal w początkach XXI w. Jej symbolem był komputer osobisty. Od około 2015 r. możemy mówić o czwartej rewolucji przemysłowej (Industry 4.0). Jej symbole to przede wszystkim mobilna łączność bezprzewodowa, big data, chmura obliczeniowa i sztuczna inteligencja.

Rewolucja bez demokratycznej kontroli

Najistotniejszą właściwością epoki czwartej rewolucji przemysłowej nie są jednak poszczególne technologie, ale głęboka konwergencja pomiędzy technologiami i wynikające z niej wykładnicze tempo rozwoju nowych rozwiązań. Za chwilę te technologie fundamentalnie zmienią lokalną demokrację naszych miast. Czyż w poprzednich falach rewolucji przemysłowej radio i telewizja nie zmieniły mechanizmów demokratycznych? A od tego czasu stało się dodatkowo jeszcze coś bardzo niepokojącego: uznaliśmy milcząco, że nowoczesne technologie to dziedzina specjalistyczna, nad którą wystarczająco dobrze czuwają inżynierowie­‑eksperci i zbędna jest już kontrola demokratyczna.

Niepokojące jest, że uznaliśmy milcząco, iż nowoczesne technologie to dziedzina specjalistyczna, nad którą wystarczająco dobrze czuwają inżynierowie­‑eksperci i zbędna jest już kontrola demokratyczna.

Mamy więc toczący się w coraz szybszym tempie proces zmian, który sam się napędza i przyspiesza, a którego nie kontrolujemy demokratycznie, gdyż jako niefachowcy nie czujemy się wystarczająco kompetentni. Tymczasem technologie Industry 4.0 i ich konwergentny splot, to wprawdzie tylko narzędzia, ale narzędzia nieprawdopodobnie potężne, rozwijające się z szybkością, za którą nie nadąża nasza ludzka refleksja. A jak przypomina Yuval Noah Harari, ludziom zawsze lepiej wychodziło wynajdowanie narzędzi, niż ich mądre używanie¹.

Można więc czuć zarówno nadzieję, jak i niepokój: ludzkość właśnie zyskuje najpotężniejsze w dziejach instrumentarium i jednocześnie wydaje się mieć zupełnie nieprzemyślane cele, w jakich będzie warto nowych narzędzi użyć oraz ograniczenia, jakie warto na nie nałożyć. Być może właśnie na naszych oczach spełnia się w taki sposób pesymistyczna prognoza filozofów szkoły frankfurckiej Adorna i Horgheimera o nieuchronności pęknięcia pomiędzy tym, co techniczne, a tym, co ludzkie.

Technologie a demokracja lokalna

Czy rzeczywiście demokracja musi się czujnie przyglądać czwartej rewolucji przemysłowej? Czy opieka inżynierów­‑fachowców nie wystarczy? Przyjrzyjmy się kluczowym technologiom i zastanówmy się, co mogą oznaczać dla lokalnej demokracji.

Mobilna łączność jako istotny komponent świata Industry 4.0, to komunikacja już nie tylko ludzi z ludźmi, ale – urządzeń z urządzeniami. W smart city elementy infrastruktury miejskiej porozumiewają się pomiędzy sobą przez internet, bez zawracania głowy człowiekowi­‑operatorowi. Jednym z tego skutków może być poprawa naszego bezpieczeństwa, ale innym – ograniczenie naszych wolności i praw, w tym prawa do prywatności. A konwergencja mobilnej łączności z chmurą obliczeniową, internetem rzeczy i masowym przetwarzaniem danych wykładniczo zwiększa skalę możliwych zastosowań i… jeszcze bardziej podkopuje poczucie autonomii i prywatności współczesnego mieszkańca miasta.

Big data

Być może najważniejsze dla wykładniczego tempa rozwoju technologii jest przetwarzanie wielkich zbiorów danych – źródło zarówno nadziei, jak i niepokoju. Kiedy Harari powiada, że Facebook wie o mnie więcej, niż ja sam, to mamy tu definicję big data w pigułce. Trzeba jednak przyjąć, że wielkie zbiory danych i techniczna zdolność do ich analitycznego przetwarzania w czasie rzeczywistym same w sobie nie są ani dobre ani złe. Są tylko niewyobrażalnie potężnym narzędziem i warto myśleć o chroniącym społeczeństwo systemie regulacji tego, w czyje ręce i w jakim celu to potężne narzędzie trafia.

Wielkie zbiory danych i techniczna zdolność do ich analitycznego przetwarzania w czasie rzeczywistym same w sobie nie są ani dobre ani złe. Są tylko niewyobrażalnie potężnym narzędziem i warto myśleć o chroniącym społeczeństwo systemie regulacji tego, w czyje ręce i w jakim celu to potężne narzędzie trafia.

Przetwarzanie w mega­‑skali zbieranych w sieci danych o naszych zachowaniach w wirtualnym i realnym świecie umożliwia bowiem już dziś w znacznym stopniu „hakowanie” naszych mózgów i wpływanie na nasze decyzje: skoro producenci wiedzą lepiej niż my sami, jak skutecznie zasugerować nam nowe potrzeby konsumpcyjne, to kto zapewni, że te same zbiory danych nie posłużą do manipulowania naszymi decyzjami w wyborach władz lokalnych czy w miejskich referendach, albo choćby w budżecie obywatelskim? Kto ma dane, ten ma władzę.

Z drugiej strony, to samo narzędzie, jakim jest analityczne przetwarzanie wielkich zbiorów danych, oddane w dobre ręce, może w naszych miastach ograniczyć zużycie energii i wytwarzanie odpadów, zoptymalizować transport publiczny, przywrócić uczciwe hierarchie ważności w dysponowaniu deficytowym dobrem, jakim jest przestrzeń miejska i przysłużyć się stu innym pozytywnym zmianom. Big data to – tylko i aż – potężne narzędzie. Miasta muszą nauczyć się z niego mądrze i odpowiedzialnie korzystać.

Rozwiązania chmurowe

Kolejną technologią czwartej rewolucji przemysłowej są rozwiązania chmurowe. W całym procesie przetwarzania danych cyfrowych następuje zresztą właśnie oderwanie treści od urządzenia, na którym pracuje użytkownik. Jeśli twój laptop spłonie w pożarze, nie naruszy to zasobów twojej pracy, gdyż są one fizycznie umieszczone w oderwanej od twojego sprzętu chmurze na serwerach dostawcy usługi chmurowej, gdzie korzystają ze współdzielenia zasobów i wirtualizacji sprzętu. Zarówno więc kopie bezpieczeństwa danych klienta, jak i wykorzystywana przez niego moc obliczeniowa są niezależne od awarii pojedynczego serwera.

Przetwarzanie chmurowe i współdzielenie zasobów to także kierunek usprawniania pracy dla samorządów. Ale przechowywanie danych publicznych w chmurze obliczeniowej, będącej usługą rynkową wymaga takich samych standardów regulacji i bezpieczeństwa, jak przechowywanie publicznych pieniędzy w prywatnym banku. Czy dziś mamy takie standardy? Nie mam pewności, ale wiem że nie toczy się na ten temat szeroka, demokratyczna debata.

Sztuczna inteligencja

Kolejnym filarem Industry 4.0 jest sztuczna inteligencja (AI od Artifical Intelligence), i to ona wzbudza najwięcej niepokoju o przetrwanie lokalnych demokracji. Czym jest AI? To oprogramowanie zdolne do podejmowania problemów na tyle złożonych, że potrzebny jest tryb pracy podobny do myślenia człowieka. Wyobraźmy sobie oprogramowanie, które jest – póki co – takie sobie, ale za to umie się uczyć i stopniowo udoskonalać własne działanie. Wobec takiego oprogramowania przestaje być istotne pytanie, czy działa ono perfekcyjnie, a zaczyna być istotne pytanie, kiedy uzyska ono perfekcję. Obecne rozwiązania AI są wąskotematyczne, jak np. programy grające w szachy, ale już przed 2024 r. możemy spodziewać się sztucznej inteligencji uniwersalnej, która spełni kryteria testu Touringa².

Kevin Kelly stwierdza³, że typów sztucznej inteligencji mogą być setki i sam podaje ponad 20 przykładów, wśród których mamy – uwaga! – ekstensywną sztuczną inteligencję działającą w sposób na tyle spowolniony i rozproszony, by pozostać niewidoczną dla innych sztucznych inteligencji. Czy szanowny czytelnik wyobraża sobie tę gigantyczną możliwość manipulowania decyzjami wyborców przez sączenie im podprogowego przekazu, którego nie będą w stanie zauważyć, ani świadomie kontrolować?

Jeśli w tym momencie powiało grozą, to proszę jednak pamiętać, że w sztucznej inteligencji pokładamy nadzieję przede wszystkim na zoptymalizowanie procesów w naszych domach i miastach, w których na razie marnujemy 40 proc. żywności i być może nawet 70 proc. energii⁴. Jeśli AI miałaby nam w tym pomóc i dzięki temu udałoby się oddalić kryzys klimatyczny i zmniejszyć poziom stresu w naszym życiu, gra jest warta świeczki. Tyle tylko, że lokalna demokracja bezwzględnie musi na powrót poczuć odpowiedzialność za kontrolowanie wpływu technologii Industry 4.0 na nasze życie.

W sztucznej inteligencji pokładamy nadzieję przede wszystkim na zoptymalizowanie procesów w naszych domach i miastach, w których na razie marnujemy 40 proc. żywności i być może nawet 70 proc. energii. Jeśli AI miałaby nam w tym pomóc i dzięki temu udałoby się oddalić kryzys klimatyczny i zmniejszyć poziom stresu w naszym życiu, gra jest warta świeczki.

¹ J. N. Harari: 21 lekcji na XXI wiek, Wydawnictwo Literackie, Kraków 2018, s. 23. Bardzo polecam zresztą całą tę znakomitą książkę.

² Test Touringa – zaproponowane przez Alana Touringa kryterium uznania za „sztuczną inteligencję”: jeśli dane oprogramowanie prowadząc swobodną rozmowę z człowiekiem zostanie przez ponad 60% rozmówców rozpoznane jako człowiek, test jest zaliczony.

³ Kevin Kelly: Nieuniknione. Jak inteligentne technologie zmienią naszą rzeczywistość, Wydawnictwo Poltext, Warszawa 2017, s. 69

⁴ Taki wskaźnik pojawia się w energetycznym rachunku ciągnionym, gdzie uwzględniamy także energię zużytą na wszystkich etapach do wytworzenia żywności, materiałów i produktów, które marnotrawimy.