[00:03.74 → 04:47.90] A: Panie, panowie, dobry wieczór. Kłaniam się bardzo serdecznie. Kłaniam się państwu. Kłaniam się państwu, bo dwa różne sposoby wybrali państwo na dzisiejszy wieczór, żeby spędzić ten czas w Teatrze Starym w Luglinie podczas kolejnego spotkania z cyklu Bitwa o kulturę. Można było albo przyjść, wstając z kanapy, zamykając za sobą drzwi, albo zostać na kanapie z zamkniętymi drzwiami, ale włączonym internetem. W zasięgu. To jest hasło naszego dzisiejszego spotkania. O zasięgu i o naszym byciu w sieci, a przede wszystkim o tym, jaka jest przyszłość tego zjawiska, będę rozmawiać z profesorem Piotrem Celińskim. Zapraszam. Profesor Piotr Celiński, związany z Uniwersytetem Marii Curie-Skłodowskiej w Lublinie, medioznawca, znawca internetu, kultury cyfrowej, zresztą także jeden ze współzałożycieli Instytutu Kultury Cyfrowej. To nie są jedyne rzeczy, które powinnam powiedzieć, przedstawiając naszego gościa. Zresztą też zauważyli Państwo pewnie znak, naszych czasów. Kiedyś się na przykład mówiło profesor od anatomii albo pisarz i już. A teraz przedstawiając gości należy wymieniać bardzo wiele innych zjawisk, których dotykają z tego to prostego powodu, że zajmują się tak bardzo wieloma sprawami. Czy się rozproszyliśmy, czy też wręcz przeciwnie, tak bardzo skoncentrowaliśmy się na życiu, że stać nas na zdecydowanie więcej zainteresowań, O tym być może też dzisiaj porozmawiamy. Ale najpierw muszę się Państwu do czegoś przyznać. Mianowicie między mną a Piotrem Celińskim jest nie tylko jakieś półtora metra odległości na scenie Teatru Starego, ale także co najmniej jedna bardzo istotna data. Ta data to 29.10.1969. Ja oswajałam już wtedy, od jakiegoś czasu trzeba przyznać świat, natomiast Piotr Celiński o tym świecie jeszcze nic nie wiedział, bo go zwyczajnie na tym świecie nie było. I wprawdzie nie dzieli nas jakoś strasznie dużo lat, trochę, to jednak dzieli nas pokolenie. Ta data jest bowiem datą niezwykle istotną, ta data to data, którą uznaje się za tą która jest związana z powstaniem internetu. Wtedy bowiem na Uniwersytecie w Kalifornii dokonano pewnego eksperymentu z udziałem czegoś, co możemy nazwać przodkiem internetu. I tu prawdopodobnie mówiąc o tym wszystkim użyłam kilku bardzo nieprecyzyjnych, a może nawet nieprawidłowych określeń, bo, i to jest właśnie to, do czego chcę się Państwu przyznać, kiedy przed tygodniem na tej scenie stała sarangi, To choć instrument, który pierwszy raz w życiu widziałam na oczy i który jest związany z kulturą Indii, myślę, że był mi bliższy niż to, w czym żyję, czego codziennie używam, czyli Internet. Trochę boję się tego zjawiska, trochę boję się naszej rozmowy, ale jednocześnie i to zjawisko, i ta rozmowa niezwykle mnie interesuje, bardzo mnie fascynuje, a przede wszystkim bardzo ciekawi. Dużo więc sobie obiecuję po wyjaśnieniach naszego gościa, który w tym świecie, o którym będziemy mówić, którego będziemy dziś próbować dotykać, siedzi. Mocno siedzi. Na ile mocno da się w ogóle zadomowić w tym świecie, o tym też powiemy. Ale najpierw pozwolisz, Piotrze, pozwolę Państwu, że będziemy po imieniu, bo tak też jesteśmy, pozwolisz, że cię zapytam, czy jest jakaś dziedzina, której nie dotknął i nie zmienił Internet? Czy gospodarka, ekonomia, podróże, stosunki międzyludzkie, właściwie wszystko, co przychodzi mi do głowy, uległo ostatnio zmianie, bo stosunkowo niedawno temu pojawił się Internet. Czy zostało coś jeszcze nietknięte?
[04:49.82 → 07:25.28] B: Dobry wieczór Państwu, dobry wieczór, dziękuję za zaproszenie. niezwykłe okoliczności do rozmowy o internecie rzeczywiście. Zapewne ciężko by było wskazać na takie miejsca w świecie, w naszym życiu, które nie zostały zawirusowane poprzez technologie cyfrowe i poprzez naszą w nich obecność. I wydaje mi się, że to jest właśnie powód, dla którego tak nam trudno jednoznacznie o tym mówić, że to jest tak wszechobecne, tak wielowymiarowe, że jakikolwiek przymiotnik, który próbowałby naraz to wszystko objąć, ujmowałby, ale jednocześnie nie opowiadałby wszystkiego. Troszkę to jest też tak, że Ostatnio był proces, być może Państwo gdzieś tam słyszeliście o tym w wiadomościach, był proces jednego z założycieli tej największej strony pirackiej szwedzkiej, The Pirate Bay. Między innymi pytano go w ogóle o sens tego działania, sens internetu. I w pewnym momencie, kiedy skład sędziowski zaczął go pytać, czy on jakoś w ogóle jeszcze oddziela życie bez internetu od życia z internetem, czy życie przed komputerem od życia bez komputera, to on powiedział, że według niego to jest źle postawione pytanie, dlatego że prawdziwe życie to jest wtedy, kiedy jest się przy klawiaturze, a cała reszta to jest tylko dodatek. My oczywiście zakładam, że w większości jak tu siedzimy, ciągle myślimy o tym naszym życiu jednak w takich kategoriach bardziej tradycyjnych. To znaczy, że te momenty z klawiaturą przed ekranem, to są te momenty raczej niezwykłe. Natomiast to co robimy analogowo, to są te momenty, którym poświęcamy większość naszego czasu. No, ale żeby zrozumieć rzeczywiście internet i te wszystkie płaszczyzny, w których on funkcjonuje, warto pamiętać o tym, że wszyscy jesteśmy w zasadzie w pewnym sensie świadkami zdarzenia typu supernowa, że to się dopiero zaczęło dziać. Historia, powszechna historia internetu ma raptem niecałe 30 lat, pomimo tego, że on oczywiście w laboratoriach i na uniwersytetach działał nieco wcześniej. I przez te 30 lat zdążył pochłonąć rzeczywiście tak wiele przestrzeni naszego życia, czy wpłynąć na tak wiele przestrzeni naszego życia, a jednocześnie ciągle możemy mieć o nim poczucie, że jest to faza dziecięca, faza prototypowa, faza, której się wszyscy jego i siebie w nim dopiero uczymy.
[07:25.68 → 08:30.23] A: Mam takie wrażenie, że o ile podejmując decyzję o uczestnictwie w dzisiejszym wieczorze państwo i państwo podjęli decyzję, bo mieli wybór, o tyle w tej fazie, o której wspomniałeś, w przyszłości specjalnego wyboru nie będziemy mieć, ale do przyszłości jeszcze dojdziemy. Bo tak sobie myślę, że ta osoba, o której wspomniałeś, Ma rację, choć tak naprawdę są to dwie skrajności, jedna mówiąca o tym, że życie jest wyłącznie w internecie, druga, że to prawdziwe jest poza siecią. Czy przypadkiem nie jest w tej chwili tak, że nie trzeba, że prawda jest pośrodku zwyczajnie, czyli że nie ma dwóch światów, nie ma co oddzielać, że tak naprawdę jest jeden świat, który jest trochę tu, trochę tam. ale ani jeden, ani drugi nie jest sztuczny. Jeszcze na razie ciągle tak jest. A my, choć jak mówiłam, sporo nas dzieni, ciągle jeszcze stoimy jedną nogą tu, drugą tu, pięknie widząc jedno i drugie, zwłaszcza ty.
[08:31.78 → 12:39.12] B: Myślę, że to pytanie na takie dwie rzeczy kieruje nasze myśli. Pierwsza z nich dotyczy rzeczywiście tego, że na naszym doświadczeniu tego, czym jest rzeczywistość cyfrowa i media cyfrowe, zaważył kształt, który znamy jako komputer osobisty. W późniejszej fazie nazywany również laptopem, smartfonem, tabletem. To jest taka faza, w której musimy rzeczywiście skupić się mocno na tym, co przed nami, a nawet w wersji komputer osobisty siedzieć przy tym urządzeniu, żeby w ogóle cokolwiek przy jego pomocy zrobić. To nas rzeczywiście jakoś wyrywa z naturalnego ruchu, z naszego bycia w przestrzeni. ale ta faza się powoli kończy. Komputery są coraz mniejsze, coraz więcej potrafią, ale przede wszystkim potrafią wykonywać rzeczy bez naszej bieżącej kontroli. Możemy uruchomić urządzenia, porozstawiać je w swoim środowisku, zlecić im pracę do wykonania i one sobie dadzą z tym radę. Niekoniecznie musimy tego pilnować. To by oznaczało, Wychodzimy poza ten okres, kiedy komputer był w pewnym sensie ołtarzykiem, do którego musieliśmy podejść, się pomodlić, pogłaskać go, włączyć, turbo włączyć i poklikać do niego klawiszami po to, żeby w ogóle się z nim, żeby się z nim porozumieć. Druga rzecz jest taka, że co wokół tego urosło, jakby w świadomości społecznej, to taki podział na to, że istnieje coś takiego jak rzeczywistość wirtualna i ta realna i że ci, którzy są w tej wirtualnej, To są straceni w zasadzie, bo oni są zapewne uzależnieni i zapewne tam tylko to porno oglądają albo tylko te zakupy robią. Tak mówili niektórzy politycy w naszym kraju, pewnie państwo pamiętacie. A z drugiej strony mamy to prawdziwe życie, prawdziwą rzeczywistość, mięso, te instrumenty, o których mówiłaś, z których da się dotknąć, z których da się wydobyć bezpośrednio jakiś dźwięk, zrobić jakieś zdarzenie. I myślę, że kiedy te dwie rzeczy na siebie nałożymy, to mamy taki obrazek, w którym faktycznie to była taka polaryzacja. Natomiast wydaje mi się, że im dalej w las, im bardziej doskonałe są te technologie, tym bardziej wychodzi na to, że faktycznie jest to po hegelowsku, jest to ten złoty środek. To znaczy, że nie chodzi o to, żeby właśnie jakoś ustawiać siebie w dwóch światach jednocześnie, tylko chodzi o to raczej, żeby skonstruować swoje życie, nie odrzucając technologii, ale w taki sposób hybrydowy, który jest i w tym świecie i w tym i nie na zasadzie opozycji między tymi światami, tylko raczej na zasadzie tego, że te światy są komplementarne, że jeden drugiemu pomaga, że mogę zlecić maszynie przypilnowanie, nie wiem, odkręconego kurka w domu, a jednocześnie jest to rzecz, która wpływa na moje realne, fizyczne bycie tu i teraz, że nie będę głodny, że mi się dom nie spali i tak dalej i tak dalej. I to hybrydowe Myślenie znów, tu mamy z nim problem i z tą hybrydową rzeczywistością, czyli z tą sklejoną na nowo rzeczywistością. No bo jeśli popatrzymy na to, co się dzieje np. przy okazji Pokemon Go, gdzie się lata za sztucznie wykreowanymi ludzikami, które podobno gdzieś tam w mieście są, w tej przestrzeni miasta są, to możemy odnieść wrażenie, że to jest jakiś żart, to jest jakaś zabawa, to jest jakaś gra, konwencja. Natomiast nie dajmy się zwieść, to jest bardzo obiecująca opowieść o tym, jaki będzie kształt technologii w przyszłości, jak one się rzeczywiście bezstresowo, bezobsługowo wkleją w różne aspekty naszego życia. I jestem przekonany, że w wielu miejscach, w których dzisiaj musimy wykonywać pracę, która często jest nudna, automatyczna, bezpodmiotowa i często również bezprzedmiotowa, to tamte technologie będą w stanie nas wyręczyć, a my dzięki temu uzyskamy możliwość powrotu do tych rzeczy, które chętniej robiliśmy, zanim nie musieliśmy robić tych właśnie.
[12:40.22 → 13:26.93] A: Pytanie, które się tu nasyła, jest mianowicie takie, kto tu rządzi? Albo kto za moment będzie rządził? Bo kiedy kilka dni temu przeczytałam informację o tym, że Bruksela zaczyna przygotowywać przepisy dla robotów, które pojawią się nie gdzieś tam, gdzie oko nie sięga, tylko góra za jakieś 10-15 lat, to pomyśla... i to przepisy mają dotyczyć między innymi odpowiedzialności i etyki, to bardzo dobry wydał mi się tytuł tego artykułu, Robot też człowiek. Więc pytanie, kto tu rządzi w tym świecie, o którym opowiadasz? Jeszcze my.
[13:28.29 → 17:17.58] B: Ja bym też bardzo chciał w to wierzyć, że nie ma narzędzi złych i nie ma narzędzi dobrych. Są źli albo dobrzy użytkownicy, którzy te narzędzia wykorzystują w pewnych kontekstach, w pewnym celu i robią z nimi albo dobre rzeczy, albo złe rzeczy. Mi się wydaje, że oczywiście świat technologiczny jest przedmiotem konstrukcji społecznej, że my wszyscy jakoś się umawiamy. Oczywiście to nie jest proste, nie działa to na zasadzie A może dzisiaj się na to umówimy i to zrobimy. To działa bardziej długofalowo i jest oczywiście bardziej abstrakcyjne i mniej ogarnialne niż nam się może na pierwszy rzut oka wydawać. Ale jednak ostatecznie to my jako społeczeństwo, jako ludzie decydujemy, które technologie z nami zostają, a które odrzucamy. Których sensy zaprogramowane przyjmujemy, a których wydźwięk musimy zupełnie zmienić po to, żeby były tym czym chcemy, żeby były. No i myślę podobnie jest z robotami, chociaż tutaj jest problem wydaje mi się nieco bardziej złożony. To znaczy, to nie jest tylko pytanie o to, gdzie zaczyna się robot. To jest bardziej pytanie o to, gdzie się kończy człowiek. Bo jeśli pomyślimy oczywiście o takim skrajnym przykładzie, to znaczy maszynka jakaś tam z metalu, z krzemu i z różnych sensorów, kabelków i baterii, która robi coś autonomicznie gdzieś obok nas, no to oczywiście Ta konwencja jest, wydaje mi się, stosunkowo jasna. Natomiast prawdziwe zabawa i prawdziwe pytanie o podmiotowość zaczyna się wtedy, kiedy my te maszynki różnego rodzaju zaczynamy wmontowywać sobie pod skórę. Kiedy zaczynamy wmontowywać, kiedy zaczynamy poszerzać zdolności naszego organizmu o możliwości tych technologii w sposób taki bardzo bezpośredni, bardzo namacalny. To się już bardzo dawno temu zaczęło wraz z całą protetyką, wraz ze stymulatorami serca, wraz ze wszystkimi bypasami i tak dalej, które bardzo często są czymś jednak więcej niż tylko fragmentem plastiku czy jakiegoś innego tworzywa. To są urządzenia, które w pewnym sensie żyją swoim własnym życiem, mają swój własny program i zachowują się niezależnie od tego, co my chcemy, żeby robiły. Taki stymulator serca gdyby się zachowywał tak jak my chcemy, no to by nie spełniał swojej roli, prawda? Czyli jest autonomiczny, jednak w obszarze pewnego systemu, którym jest człowiek. Wiem, że to jest jeszcze nie ten moment, kiedy mieliśmy rozmawiać o przyszłości, ale warto na ten aspekt teraz zwrócić uwagę, Ewolucja robotów w takim dosłownym rozumieniu, samych w sobie, wydaje mi się, jest w pewnym sensie ślepą uliczką. To będą zawsze tylko i wyłącznie zaawansowane młotki, które będą wykonywały mniej lub bardziej zaawansowane czynności. Będą przykręcone do podłogi w fabryce albo będą jeździły, będą obsługiwały gości w hotelu itd. To jest skończony program. Siła tej konwencji polega na tym, że my wiemy, że ten robot nie jest doskonały. warunek sympatii wobec robotów, i to wychodzi z badań psychologów, antropologów, warunek sympatii wobec robotów jest taki, że one mają być uproszczoną wersją nas. Czyli musimy mieć to poczucie, że to my jesteśmy panami i że to my rządzimy w tej sytuacji. I paniami, przepraszam. I my rządzimy w tej sytuacji. Natomiast właśnie rzeczywiście opowieść o przyszłości jest opowieść o tym, kiedy malutkie fragmenty technologii zaczynamy wprowadzać pod skórę i tracimy nad nimi taką zdystansowaną kontrolę, jaką mamy, kiedy je widzimy, kiedy je słyszymy, kiedy możemy ich dotknąć, kiedy możemy im powiedzieć, co mają zrobić. I to się dzieje. To się dzisiaj coraz częściej na świecie rzeczywiście zdarza.
[17:18.00 → 18:30.54] A: Ale to, o czym ty mówisz, ta relacja pomiędzy robotem a człowiekiem jest relacją, którą ustala człowiek o takim, a nie innym umyśle. A, wróćmy do internetu, zmiany jakie zachodzą także w naszych umysłach, Jacek Dukaj chyba jako pierwszy użył takiego określenia zgooglowane umysły, zmiany jakie zachodzą w naszych umysłach mają swoje konsekwencje. To, że zaczęliśmy korzystać z internetu powoduje, że na rzeczywistość patrzymy w sposób zupełnie odmienny niż patrzyliśmy kiedyś. My ciągle jeszcze w znacznej mierze stojąc na dwóch nogach, więc mając to myślenie przyczynowo-skutkowe, którego pozbawia nas w dużej mierze Internet. Ale to jest tylko wyimek zmian, jakie w naszym umyśle zachodzą. Więc teraz jeszcze tak, a nie inaczej myślimy, na przykład o robotach. Ale jak będzie za dekadę czy za dwie, kiedy nasz umysł się zmieni? Jak to wygląda? Zatrzymajmy się przy tym umyśle. Jaki wpływ na to, jacy jesteśmy, kim jesteśmy, ma Internet?
[18:31.58 → 26:59.32] B: To bardzo ważne pytanie w kontekście tego, o czym mówiłaś wcześniej, mianowicie o tym takim zawieszeniu pomiędzy dwoma światami, dwoma tradycjami myślenia o rzeczywistości. I tak najbardziej generalnie, jak mi się wydaje można, to powiedziałbym, że ja też do tej grupy należę, że Ludzie w pewnym wieku są siłą rzeczy przywiązani do tego wszystkiego, co się wiąże z Gutenbergiem i z myśleniem w kategoriach pismo, linearność, a zatem również i pochodne tego sposobu myślenia, czyli film, czyli prasa, czyli radio. To są wszystko historie linearne, których nie dość, że jest ta linearność przekazu, który jakby leje się przed nami tak jak książka, ale jednocześnie jest to pewien sposób wyobrażania sobie rzeczywistości, że my tą linearność przerzucamy, przekładamy, myślimy w ten sposób o całym świecie. Lubimy patrzeć na nasze życie jak na księgę. Lubimy patrzeć na nasze życie jak na jak na podróż do odbycia przez pielgrzyma, tak że ono się gdzieś zaczyna i że gdzieś się kończy. I bezpieczne ono jest wtedy, kiedy my rzeczywiście znamy te etapy podróży z wyprzedzeniem i jesteśmy przygotowani na to, żeby je przejść. I to jest bardzo wyraźnie widać w momencie, kiedy na przykład przyjrzymy się oczekiwaniom studentów, którzy nie chcą, nie lubią, robią wszystko, żeby do tego nie doszło, nie chcą się pogodzić z narzuconą nam przy okazji również tych nowych technologii, ale nie tylko, wyobraźnią świata zachodniego, w którym liberalizm nałożony na tą linearność powoduje, że jakby ta podróż przez życie nie jest wcale taka określona, jak mogłoby nam się wydawać. Że na przykład pracę trzeba zmieniać. że nie wiadomo do końca, czy będziemy mieszkali w jednym miejscu, czy trzeba będzie zmienić mieszkanie w trakcie życia. Że cały szereg parametrów, w których się poruszamy, to są zmienne po prostu. Przyzwyczajenie się do tej zmienności jest trudne dla kogoś, kto był wychowany w duchu myślenia linearnego. Kiedy te opowieści się zaczynały i kończyły i było wiadomo, Lektura książki, tak jak lektura życia, polega na tym, że zaczynamy na początku i kończymy na końcu. I tutaj rzeczywiście na poziomie wyobrażenia świata, wyobrażenia rzeczywistości, a zatem również pewnej wyobraźni społecznej, to co się wydarzyło przy okazji komputerów i to co ma w głowie, czy jak ma poukładane w głowie nowe pokolenie, wydaje mi się być radykalnie inne. To znaczy oni są przyzwyczajeni Im młodsi, tym bardziej są, wydaje mi się, przyzwyczajeni do tego, że ta linearność to już jest tylko jedna z wielu możliwości. Księga życia to jest jeden z wielu modeli życia, które oni mają do wyboru. Muszę odwołać się do takiego super technicznego słowa, ale myślę, że państwo mi wybaczycie. Baza danych. W najprostszy sposób tłumacząc z inżynierskiego na ludzkie. Baza danych to podstawowa reguła myślenia o zasobach cyfrowych. Wszystko w internecie jest bazą danych i nią się zarządza na różne sposoby. Wszystko, co się tam znajduje, jest cyfrowe, jest bazą danych. Tę bazę danych można by sobie wyobrazić, tak myślę, już teraz przechodzę do tego naszego zwykłego języka, można by sobie wyobrazić jako worek z piaskiem, z którego można usypać dowolny kształt, jaki chcemy. Mało tego, te kształty możemy nieustannie zmieniać i uspywać od nowa. Nie zaszkodzimy w ten sposób piaskowi. Inaczej mówiąc, nie zaszkodzimy naszemu życiu, jeśli będziemy je rekonstruować, jeśli będziemy budować swoją opowieść na bieżąco. No i teraz jakie są tego, wydaje mi się, polityczne, społeczne, kulturowe konsekwencje. Człowiek Gutenberga, jest szczęśliwy, bo książę myśli za niego, jak to mówił Herbert. Szczęśliwy jest dlatego, że może w księgach przeczytać swoje życie i dowiedzieć się o tym, jakie ono będzie z zewnątrz. To szczególnie widać właśnie w kontekście pracy. On ma spokój o tyle, że on wie, że on pójdzie do szkoły, potem zda maturę, potem pójdzie na studia, albo nie pójdzie. Jest parę możliwości do wyboru. Potem się ożeni, czy wyjdzie za mąż, pójdzie do pracy, przepracuje, pójdzie na emeryturę, w międzyczasie będzie miał dzieci i już. I fajnie, wszystko mu się zgadza, jest to bezpieczne, sympatyczne, wszyscy się na to zgadzamy. Natomiast człowiek, który widzi przed sobą ziarenka piasku, on by chciał, on by bardzo tego chciał, żeby tak sobie ułożyć swoją podróż przez życie, ale on nie jest pewny, że to mu się uda. Jemu się to może równie dobrze, a nawet w większości wypadków nie udać. I on czuje się zmuszony do tego, żeby tak jak klikając w internecie i wybierając różne linki pomiędzy wielu, on tak samo będzie musiał skonstruować swoją ścieżkę przez życie. I on się niestety musi za nią uczynić odpowiedzialnym. To znaczy nie może tego zwalić. rzeczywiście zwala, ale domyślnie ma taką możliwość, żeby tego nie zwalać. Niektórzy z nas czują w sobie taką zdolność, żeby jednak podjąć ten ciężar, tę odpowiedzialność, a inni z utęsknieniem odwracają się za siebie i myślą, jak to było fajnie, kiedy książę myślał za nas, kiedy nam mówił, co możemy, czego nie możemy, kiedy wszystkie zasady były proste i wyraźne. No ale oczywiście za to nie było aż tyle wolności. Ale za to było bezpieczeństwo. I to, myślę, jest taka chyba najbardziej generalna różnica, że te nowe technologie, internet, komputer, one utrwalają w nas to poczucie, że rzeczywistość jest do skonstruowania. Rzeczywistość jest zbiorem klocków, ziarenek piasku, z których możemy lepić kształty. Ma to swoje świetne, fantastyczne strony, bo każdy kto buduje, to nie tylko jakby jest przedmiotem czyjegoś działania, ale przede wszystkim jest aktorem w świecie i za każdym razem, kiedy coś budujemy, to mamy poczucie jednak większej satysfakcji. No ale z drugiej strony i socjologowie, i psychologowie mówią o czymś takim jak wyobraźnia rozproszona, wielowątkowa, że współczesny człowiek za to, w konsekwencji ma coraz większy problem z tym, żeby się skupić na pracy nad czymś pojedynczym przez dłuższy okres czasu, że jak się na przykład przeciętnemu studentowi zadaje książkę, to na trzeciej stronie wysiada i mówi nie wiem ile jeszcze mam czytać, trzy strony przeczytałem, to by wystarczyło, ale on jednocześnie czytając książkę robi pięć innych rzeczy, pięć innych rzeczy. Ogląda, pisze smsa, lajkuje na Facebooku, rozmawia z mamą i jednocześnie się uczy i robi notatki jeszcze tam ósmą ręką. Mi się wydaje, że może nawet nie ma potrzeby mówić o tym w kategoriach, a się rozgadałem, już kończy. Nie ma potrzeby mówić o tym w kategoriach, czy to dobrze, czy źle. Ja bym tylko zwrócił uwagę na to, że bardzo często mamy do czynienia i to robi młodemu pokoleniu szkoła i później uniwersytet zresztą też. Problemem jest w moim odczuciu postrzeganie tych nowych kompetencji, tej nowej wyobraźni z pozycji tej starej i ocenianie, że my byliśmy książkowi i my wiemy lepiej, my byliśmy mądrzejsi, piękniejsi, bardziej odpowiedzialni i tak dalej i tak dalej. Ja myślę, że Taki sposób myślenia, taki sposób oceniania zmian w kulturze jest w pewnym sensie taką ślepą uliczką, bo to nas do nikąd nie zaprowadzi. Natomiast są też złe i dobre rzeczy a propos starej wyobraźni i są złe i dobre rzeczy a propos nowej wyobraźni. Ważne jest chyba jednak balansowanie, a nie próba negacji tego nowego, dlatego że nie pasuje do tego jak to było kiedyś. Przepraszam, że tak długo.
[26:59.95 → 29:20.87] A: Bardzo bym się marzyła po wysłuchaniu tej opowieści. Czekam na następne, żeby Piotr Celiński zaczął pisać nie tylko poważne, naukowe książki, ale żeby napisał na przykład powieść. Dukaj jest pierwszy, jeśli chodzi o tworzenie nowej jakości powieści, zastosowaniem tego wszystkiego, czego czytelnik współczesny, właśnie ten ze zguglowanym mózgiem wymaga. Myślę sobie, że Piotr Celiński przy takiej umiejętności opowiadania i przy takiej wiedzy mógłby spokojnie skonstruować świat taki jak w starości Axolotla. Ale zatrzymajmy się przy tym bardzo pięknie narysowanym obrazie budowy nowej rzeczywistości, swojej rzeczywistości z piasku, bo ta budowla odbywa się też... Jak państwo zauważyli, oczywiście nikt z nas tutaj nie używa określenia, że coś jest gorsze, a coś jest lepsze, jest inne. I na tym właśnie innym przez moment się skupmy. Bo to budowanie naszej rzeczywistości, żeby odnosiło skutek, musi być też robione inaczej. Tu nie ma miejsca na niuanse. Tu nie ma miejsca na jakieś brylowanie, Odnoszenie się do historyczności, do jakiegoś zjawiska, do jakichś metafor na przykład. Trzeba konkretnie stawiać sprawy. Jest tak i tak. Ten język robi się prostszy. Mam takie wrażenie, jakby powoli upodabniał się, żeby być skutecznym do języka komputerowego. To oczywiście będzie miało później swoje konsekwencje, bo komputer zawsze będzie lepszy od nas. więc nie jestem pewna, dokąd nas to zaprowadzi, ale o przyszłości jeszcze później. Więc raz taki bardzo konkretny sposób wypowiadania się. Gdzie tu miejsce na intuicję, na elegorię, a z drugiej strony trzeba skrajniej formułować sądy, bo jeśli one skrajnie nie będą formułowane, to się w tej rozmowie internetowej pogubimy. Więc zapominamy o bardzo ważnej części naszego sposobu myślenia, funkcjonowania naszego umysłu. To też ma konsekwencje, prawda?
[29:23.03 → 32:01.71] B: Przy czym nie stawiałbym jeszcze krzyżyka na rozmowie jako takiej, bo ciągle mam poczucie, jeśli przyjrzymy się sposobowi, w jaki powstają najważniejsze technologiczne projekty na świecie, typu Facebook, typu Google, typu Amazon, czy procesory, czy jakiekolwiek komputery, to one nie powstają dlatego, że ludzie mają jakieś nowe kompetencje i niezwykle inną od naszej wyobraźnię, której potrafią używać. One powstają w najbardziej możliwie tradycyjny sposób, jak to jest tylko osiągalne dla nas. Czyli po prostu ludzie siadają naprzeciwko siebie i rozmawiają. Do skutku. Do skutku. Jak już się narozmawiają, to dopiero wtedy idą i wiercą wiertarką, stukają młotkiem, lutują lutownicą. Ale wydaje mi się, że Bardziej niż kiedykolwiek dzisiaj zdajemy sobie sprawę z tego, że dysponujemy wieloma możliwymi kanałami komunikowania się. I być może za cenę tego, że Jakoś tam się godzimy, czy już nawet trochę pogodziliśmy z faktem, że mowa, tekst, pismo nie są kanałami uświęconymi, nie są kanałami jedynymi, chociaż nie do końca, bo ciągle musimy się na dokumentach podpisać, a na spowiedzi przemówić. To wydaje mi się, że jednocześnie rośnie w nas ta świadomość tego, czym są inne formy komunikacji, że obrazy mają również swoje miejsce i że mamy dzisiaj fantastyczną zdolność rozmawiania obrazami, Dźwięki są dzisiaj tak dostępne, instrumenty wszelkiego rodzaju są tak dostępne, że budowanie przy tej pomocy tego, co chcemy powiedzieć, jest również niezwykle proste i łatwe. Zatem oczywiście każdy z nas tą hierarchię kanałów komunikacji buduje sobie na własne potrzeby. Niektórym z nas lepiej idzie milczenie niż mówienie, inni świetnie piszą, jeszcze inni robią zdjęcia i to jest ich sposób ekspresji i rozmawiania. Ale wydaje mi się, że zdobyczą w ogóle cywilizacji mediów jest to, że mamy możliwość wyboru, że nie jesteśmy przypisani, skazani na przykład na to, że możemy tylko mówić, a ja jestem słaby w mówieniu, to znaczy, że w ogóle nie mogę nic zrobić. Ale może jestem fajny, może jestem dobry, może jestem kompetentny w innych sportach, w innych możliwościach i to by było fajne. Wydaje mi się, podsumowując ten wątek, że pluralizm możliwości komunikowania jest absolutnie fantastyczny.
[32:02.07 → 32:37.96] A: Ale tu ciągle jeszcze mówisz o wyborze, że ciągle jeszcze możemy wybrać, czy obrazkiem się komunikujemy, czy pismem. Nie jestem pewna, czy ten wybór za jakiś czas będziemy mieć, ale to jest znakomity moment, żeby zapytać się w ogóle o media. to jest twój główny nurt działania. Jakie będą media za moment? One już zmieniają się niezwykle na naszych oczach. Powiedz proszę, jak będziemy opowiadać o świecie i czy w ogóle będziemy potrzebować jeszcze takich mediów w takim kształcie, jakie w tej chwili istnieją?
[32:40.65 → 35:11.00] B: No i ta wielość oczywiście jest również problemem. Jest z jednej strony możliwością, a z drugiej strony jest kłopotem, który wszyscy mamy, ponieważ musimy niesamowicie dużo czasu dzisiaj poświęcić na to i energii, żeby po pierwsze zorientować się w tym, co te różne kanały komunikacji nam oferują, a B, wybrać spośród nich taki, który akurat pasuje do tego, co chcemy powiedzieć. To dzisiaj jest rzeczywiście troska, jak na przykład taki zakochany młody chce powiedzieć do swojej wybranki, że cię kocham. To czy to jest bardziej wiarygodne, kiedy to napisze mailem, sms-em, czy jeśli powie to słowem, czy może jeśli zrobi laurkę. Czasami to jest jakby... Wiem, że teraz sprowadzam do absurdu, ale czasami to jest rzeczywiście kłopot. przestrzenie naszego życia powierzyć jakim kanałom komunikacji. I czy faktycznie powinniśmy w takim razie jakoś urzędowo, jak to jest obecnie, uznawać, że pewne kanały komunikacji są, czy pewne języki, wypowiedzi są bardziej dosadne niż inne, czy też tak nie jest. Druga sprawa jest taka, że z tymi obrazami, jak się nimi posługujemy, czym one są. I z jednej strony oczywiście raz nie chciałbym oceniać kultury wizualnej przez pryzmat kultury pisma, bo gdybyśmy sięgnęli bardzo daleko wstecz, to byśmy zobaczyli, że nie było różnicy pomiędzy, nie było coś tak jak litera w naszym dzisiejszym rozumieniu, tylko były znaki, które były obrazami. To zostało jeszcze, ciągle to jest w kaligrafii. ciągle to jest w tych sztukach typu tkaniny, które wykonuje się w tradycyjnych technikach i w tradycyjnych społecznościach. Wszędzie tam ta różnica między znakiem a literą nie została jeszcze rozpoznana i nie została uniesiona do rangi czegoś, co miałoby absolutnie prawny i taki konstytutywny dla rzeczywistości społecznej status. To byłby pierwszy argument, a drugi jest taki, że obrazy też nie są tym, czym były jeszcze paręnaście lat wcześniej.
[35:11.22 → 35:12.46] A: Bo inne oko na nie patrzy.
[35:12.76 → 37:42.52] B: Inne oko na nie patrzy, ale też obrazy zyskały niesamowitą funkcję, której nigdy wcześniej nie miały, a wręcz ta funkcja była przed nami szybą pancerną zasłonięta przed nami. Mianowicie funkcję taką, że my dzisiaj możemy obrazów dotykać. i jest to bardzo dosłowne, to znaczy dotykamy ekranu smartfona, dotykamy ekranu tabletu, laptopa, jakiegokolwiek innego ekranu i to powoduje akcję. To nie jest tylko tak, że ja dotknąłem ten ekran, żeby zdrapać farbę, czy żeby pogłaskać Mona Lisa, bo wszyscy to robią. To jest bardzo konkretne działanie, to jest akcja, to jest działanie, które zmienia świat. Ja w ten sposób mogę na przykład polubić albo nie polubić, mogę wysłać albo nie wysłać, Mogę przesunąć, mogę uruchomić, mogę zatrzymać, mogę podgłośnić i tak dalej. I to by powodowało, że jednak ta logika obrazów wymyka się z takiego płaskiego ujęcia. Płaskiego w sensie, że obrazy były płaskie. To były dwuwymiarowe przestrzenie i koniec. I one nam w zasadzie przesłaniały świat. Później komputery pokazały nam, że obraz to może być jednak okno. I to stąd cała ta metafora Windowsa, że to jest okno przez które widzimy świat. A dzisiaj wiemy, że to tak naprawdę nie chodzi o to, że ta szyba nas przed czymś broni, czy my się bronimy przed tym światem przez tą szybę, tylko że ta szyba jest w zasadzie w tym sensie transparentna, że my przez nią dotykamy świata. I ten nowy porządek obrazów obiecuje niesamowicie dużo według mnie. Że my będziemy się prędzej czy później musieli wzbogacić o te kompetencje wizualne, które oczywiście będą dalece bardziej wysublimowane niż to, że tam mamy emot ikony w postaci, że się uśmiecham, bo cię lubię, albo jest mi smutno, bo mnie spotkało coś przykrego. To będzie wyrafinowany język wizualny, ale język wizualny poszerzony o cały bagaż naszych możliwości takich antropologicznych dotyku, działania, rozumienia tego w czasie i w przestrzeni. To mi się wydaje niezwykle obiecujące. To ma jeszcze jedną zaletę, ostatnia sprawa, że to ciągle pozwala nam być jednak krok, to jest ciągle bezpieczna sytuacja dla nas, to znaczy, że jeszcze w tym momencie z takimi obrazami, z taką regułą komunikacji nie przekraczamy bariery, w której narzędzia znikają sprzed naszych oczu, a to mi się wydaje jest rzeczywiście najbardziej z jednej strony fascynujące, a z drugiej złowrogie.
[37:43.82 → 38:48.88] A: Myślę, że To się stanie za moment, to o czym ty mówisz. Nie wiem wprawdzie, co to znaczy moment w dzisiejszych czasach, dlatego że tempo rozwoju, tempo udawania się w przyszłość, jaka by ona nie była, jest bardzo zawrotne. To po pierwsze. A po drugie, trudno dość ocenić, jak wygląda ta prędkość. Zmierzyć ją zwyczajnie. Ale myślę, że mam szansę na przykład jeszcze dotknąć tego świata. Mam też nadzieję, że będę potrafiła to zrobić. Chciałabym Cię zapytać o to, czy wszyscy będziemy nadążać. Takie słowo jak nadążanie za postępem, za rozwojem, które jest nieuniknione, bo tej maszyny nie da się już zatrzymać. Ona się rozpędziła i pędzi. Co z nami? Co nie z tymi, którzy za moment przyjdą na świat i urodzą się w tej rzeczywistości, a na oczach których się to wszystko dzieje? Czy dam radę nadążyć? Tak cię zapytam. A czy ty będziesz zawsze nadążał?
[38:49.38 → 43:57.56] B: Ja nie nadążam i nie ukrywam, że nie nadążam. I myślę, że to jest tak, że nadążanie jest kategorią, która jest zła i dobra jednocześnie. Jest dobra z tego względu, że nadążając myślimy o tym, żeby złapać jakiś wspólny grunt, żeby mieć płaszczyznę porozumienia, wspólną wyobraźnię, wspólne punkty odniesienia. Mieć w głowie podobne rzeczy, wobec których się jakoś dystansujemy, jakoś się wobec nich... Stare kryteria. Tak, tak, tak, tak. Natomiast jednocześnie nadążanie oznacza, że wszyscy musimy iść tym samym tropem, wszyscy mieć kontakt mniej więcej z tymi samymi w tym przypadku technologiami. Wszyscy powinniśmy mieć podobne kompetencje, żeby móc ze sobą rozmawiać. Móc się komunikować i budować wspólny świat. W tym kontekście rozwój technologiczny, szczególnie ostatnich lat, zupełnie nie pomaga. To jest dramat wszystkich żyjących pokoleń. Dziadek nie rozumie wnuczka, wnuczek nie rozumie ojca, babci. Doświadczenia się pokoleniowo rozklejają. Chyba trzeba nam się z tym pogodzić, mając jednocześnie na uwadze fakt, że nigdy to nie jest tak, że te technologie biorą się z niczego. One jednak nie spadają z kosmosu, nie przywożą ich spod ziemi, tylko one jednak są reakcją na to, co było. są rekonstrukcją tego, co było. Przypomnę ten przykład z komputerem osobistym, który trzymaliśmy na biurkach. Jeszcze trzymamy. Ciągle ma się nieźle. Co to jest ten komputer osobisty tak naprawdę? To jest suma wcześniej istniejących narzędzi pod tytułem A. Telewizor, B. Maszyna do pisania i C. Liczydło. Tylko, że z tej sumy wynika coś jeszcze więcej. Nasze doświadczenie komputera nie byłoby możliwe, gdyby nie ślady, gdyby nie echo z przeszłości w postaci tych trzech namacalnych dla nas kształtów technologicznych, które wiedzieliśmy, co z nimi się robi. Wiedzieliśmy, że na ekran się patrzy, wiedzieliśmy, że w klawisze się stuka i wiedzieliśmy, że liczydło liczy. I myślę, że nigdy nie jesteśmy w stanie, to jest właściwość w ogóle rozwoju społecznego, że rewolucje jednak się nie zdarzają. Zdarzają się ewolucje, które mogą być przyspieszone w czasie. Wielu ludzi może nie mieć tej świadomości, dla nich to jest rewolucyjne, ale nie wydarzają się rzeczy na zasadzie, że spadło z kosmosu, nikt nie wie co z tym zrobić i są tylko wybrani, którzy mają do tego dostęp, a cała reszta nigdy się nie dowie. Ja wierzę w te konstrukcje i wierzę w to, Jeśli w ten sposób myślimy w ogóle o całej tej cyfrowej kulturze, w której te gadżety niesamowicie szybko podróżują, to z jednej strony, dobrze, to jest pewien dyskomfort, że musimy tyle tego wszystkiego przez siebie przepuścić, napatrzać się, nauczyć się obsługiwać tyle tych portali, nazwiedzać się, żeby sobie jakoś tam wyrobić o tym wszystkim zdanie. Ale z drugiej strony ciągle bym podkreślał ten wątek, Z tej pracy mamy konkretny zysk. Ten zysk w postaci tego, że jesteśmy w stanie skomponować sobie paletę narzędzi, które najlepiej odpowiadają temu, co sami chcielibyśmy w tym świecie robić. I są tacy, którzy komputerów nowych technologii używają w funkcji, że to jest telewizor albo radio. Są tacy, którzy na komputerze czytają książki. Ale oczywiście równie dobrze są tacy, którzy wyłącznie programują, nie wychodzą ze swoich piwnic, gdzie są po 15 monitorów. I oni zupełnie starają się wymyślać inne rzeczy. Parametrem tego, że jest to dla nas wspólne, jest ciągle to, że mimo wszystko mamy jakieś doświadczenia wspólnotowe, mimo wszystko pewne rzeczy się rozgrywają wolniej niż by tego chciał. cały przemysł technologiczny, no bo oczywiście z jego punktu widzenia najlepiej by było, gdybyśmy co sezon wymieniali wszystkie gadżety, brali następne, uczyli się ich od nowa. Potem one by się psuły i my byśmy znowu kupowali i tak w kółko. Natomiast my jednak tego z wielu powodów nie robimy. Myślę, że jednym z takich powodów jest właśnie to, że jest czas na eksperymenty, jest czas na nowości, ale większa część naszej uwagi jest przede wszystkim skupiona na to, żeby być efektywnym w komunikowaniu się. Czyli chcemy załatwiać sprawy, a nie tylko i wyłącznie poświęcać czas na badanie możliwości, jakie przynoszą kolejne gadżety.
[43:58.10 → 46:19.09] A: Słowo efektywny to brzmi trochę złowrogo. Później może jeszcze przy przyszłości przy tym się zatrzymamy. Teraz wywołałeś u mnie takie dwa skojarzenia. Pierwsze to czytanie książek. które czytane książki na ekranie, to też właściwie nie jest żadna rewolucja. Dlatego, że to jest dalej litera, to jest dalej słowo i to jest dalej patrzenie. No tyle tylko, że z wykorzystaniem nowej technologii. Ale podobno rewolucja dotycząca czytania dopiero przed nami. I to będzie coś zupełnie innego niż po prostu słowo na ekranie. Ale ja słuchając cię miałam skojarzenie, z czym innym, z XVIII wiekiem i z Anglią, i z rewolucją przemysłową, i z maszyną parową. Bo tak sobie pomyślałam, że skoro pierwsza maszyna parowa pojawiła się w starożytnej Grecji, ale bardzo Herodon z Aleksandrii bodajże, chyba że coś przekręcam, był wynalazcą, wynalazł tłok, maszyny parowej, ale to potraktowano jako ciekawostkę i przestano się tym zajmować z takich czy innych powodów. Być może się nie było komu tym zająć, a być może potraktowano tylko jako ciekawostkę, bo wprowadzenie jej wtedy w życie mogło spowodować nieodwracalne skutki socjologiczne. Co z ludźmi, którzy wykonywali potężną pracę, zastąpienie ich maszyną parową, wyeliminowałoby, jak nad nimi wtedy zapanować na przykład, prawda? To tylko teoria rzecz jasna, no ale dlaczego nie? I tak sobie myślę, że to nie ma jakiegoś odniesienia do dzisiejszych czasów i do spraw związanych z rozwiązaniami technologicznymi. Podobno dałoby się zautomatyzować już w tej chwili, bo rozwiązania technologiczne są, tylko nie są wprowadzone w życie. automatyzować zdecydowaną większość czynności, które może wykonywać człowiek. Te rozwiązania są, nie są wprowadzone w
[46:19.09 → 46:28.39] B: życie, bo... Tam, gdzie się oczywiście to ekonomicznie opłaca, to niestety są wprowadzane w życie...
[46:28.39 → 46:39.49] A: Ale to też będzie miało swoje konsekwencje, bo za moment one zostaną ewolucyjnie wprowadzone w życie, prawda? Będziemy zupełnie innym światem, zupełnie innymi społeczeństwami także z tego powodu.
[46:40.84 → 52:28.85] B: Z tym, że oczywiście to jest zawsze coś za coś. Kilka wątków. Pierwszy jest taki, oczywiście jak mówisz o maszynach parowych, to od razu mi się przypomina, jaka była reakcja społeczeństwa angielskiego w momencie, kiedy się pojawiły maszyny parowe. Była taka, że między innymi grupy rolników, widząc maszyny parowe, które przypominały im diabła, bo buchały ciemnym dymem i palił się ogień, wrzucano jakieś czarne substancje do środka. Między innymi angielscy chłopi z widłami zgrabiali i niszczyli te maszyny, po prostu, jako diabła wcielonego. Coś, co żyje, egzystuje, tak im się wydawało, a jednocześnie nie jest człowiekiem, nie jest zwierzęciem, jest czymś kompletnie bez kontroli, to musi być coś złego, to musi być coś absolutnie pokracznie, niepasującego do naszego świata. Ja myślę, że my ten strach przed maszynami ciągle gdzieś w sobie nosimy. Wspaniale go portretują hollywoodzcy artyści, kiedy podsuwają nam takie wyobrażenia jak Terminatory, Robocopy i te wszystkie mniej lub bardziej zaawansowane zabawki. Ja myślę, że chyba nie ma od tego odwrotu. Od tej automatyzacji życia nie ma odwrotu w tym sensie, Myśmy zdecydowali, to oczywiście wiem, teraz będę się wymądrzał do Państwa, przepraszam, ale jedną uwagę muszę poczynić. Myśmy się zdecydowali na ten ruch bardzo dawno temu, kiedy znany filozof Leibniz powiedział, że Bóg to był wielki matematyk, że Bóg tworząc świat napisał go jako wspaniały wzór matematyczny i że powinnością człowieka, powinnością cywilizacji jest odczytać ten wzór i uczyć się z tego wzoru. To powiedział Leibniz i w zasadzie od tamtego momentu widzimy taką emancypację myślenia w duchu matematycznym, że wszystko ma być racjonalne. Karteziusz mówił kalkuluje, więc jestem. Nie myślę, tylko kalkuluje, więc jestem. I to oznacza, że tylko myślenie cyfrowe, tylko myślenie w duchu takim, że się zgadza matematycznie jest myśleniem właściwym człowiekowi inteligentnemu, oświeconemu, wyemancypowanemu itd. Ten krok wykonaliśmy i od niego ja nie widzę możliwości odwrotu. Natomiast ten krok uruchomił ten krok drugi. To jakby rewolucja przemysłowa dzieje się jakieś 200-300 lat po, po lajbnicu i po tym myśleniu matematycznym. I ona jest odpowiedzią na nasze potrzeby filozoficzne. Tak naprawdę. Maszyna jest odpowiedzią na to, co z życiem społecznym zrobiła matematyka i racjonalne myślenie, ponieważ maszyna postępuje z cyframi lepiej, dosadniej, nie męcząc się w porównaniu z człowiekiem. Więc nie ma możliwości, chyba nie ma powodu, żebyśmy nie zlecali maszynom, automatom wykonywania różnego typu działań. Kolejny wątek w tym duchu jest taki, To znów jest pewne uproszczenie, jeśli maszynę zrozumiemy w kategoriach takich, że jest to coś z metalu, śrubek, przewodów, gdzie się pali, coś tam brzęczy, tłucze, jakieś są kółka zębate i tak dalej. To jest wyobrażenie maszyny z przedczasów elektrycznych. Ale później obok tej rewolucji przemysłowej, gdzie mamy rzeczywiście te rzężące, jeżdżące wielkie diabły zionące ogniem i dymem, Dochodzi do tego elektryczność, czyli kolejny z żywiołów ujarzmiony przez naszą cywilizację. I od tego momentu, a dzisiaj to wiemy doskonale, każdy z nas ma przy sobie taką maszynę, zakładam, te maszyny nie wiemy jak działają. To nawet jest taka bariera zupełnie jakby fizyczna, że my nie jesteśmy w stanie powiedzieć tego, co się wewnątrz tej maszyny dzieje, bo co się dzieje tak naprawdę w środku komputera, co się dzieje wewnątrz smartfona. Wiemy, że jest tam prąd, wiemy, że podobno jakieś dane tam są, czyli że jakieś są tam cyferki, ale widział to ktoś kiedyś, te cyferki na oczy? Gdzie one tam są? To jest jakby absolutnie niewiadoma, więc jeśli kiedykolwiek maszyny byłyby Dla nas groźne to z jednej strony na tym etapie właśnie, kiedy nie rozumiemy tego, co się wewnątrz nich dzieje. Ja mówię o kompetencjach społecznych. Oczywiście są tacy, którzy są w stanie te maszyny tworzyć, budować, programować i tak dalej. Ale z drugiej strony zauważcie Państwo, że temu procesowi towarzyszy inny proces, który polega na tym, że te maszyny mają coraz bardziej humanoidalne albo przyjemne dla naszej percepcji kształty. są po prostu miłe. Komputery od jakiegoś czasu są po prostu ładne, telefony są po prostu śliczne, telewizory są w zasadzie dziełami sztuki, są ładniejsze niż obrazki w ramach, bo są ładnie i kolorowe, świecą swoim światłem. I mamy z tym taki problem, że one nas uwodzą, że my się już ich nie boimy. Teraz przeszliśmy do porządku, kiedy maszyny nas uwodzą i kiedy my się poddajemy ich urokowi, kupując te maszyny, używając tych maszyn, chyba nie głównie dlatego, że one są jakieś świetne, wydajne właśnie, czy że są takie racjonalnie pożyteczne. Bardzo często robimy to ze względów wyłącznie estetycznych. Nie wiem, już pogubiłem te wszystkie wątki, bo tego się zrobiło naprawdę dużo, ale zdaje się, że o tych automatach. No dobra, może na razie tak, żeby...
[52:28.85 → 54:53.75] A: Mówi się, że od tych automatów producenci tych pierwszych, które wykorzystujemy w domu, na przykład takiego odkurzacza, który nazywany jest odkurzaczem, a tak naprawdę jest to robot domowy przecież, który nawet jak nas nie ma w domu, to sobie pięknie każdy zakątek sprzątnie. Producenci tego typu maszyn mówią, że jeszcze na razie ciągle wydaje nam się, że Nie potrzebujemy, że to fanaberia, posiadanie czegoś takiego w domu, ale że jesteśmy w tej chwili na takim etapie, na jakim byliśmy wtedy, kiedy wydawało się fanaberią posiadanie komputera osobistego. Przecież da się różne sprawy załatwić inaczej. Za moment to będzie absolutnie niezbędne. I ciągle jesteśmy odpowiednio zdystansowani do czegoś takiego, jak robot koło nas. Dlatego, że przecież to maszyna. Dlatego, że przecież jest pozbawiona wyobraźni. Dlatego, że przecież jest pozbawiona intuicji. To są cechy wyłącznie człowieka. Mówiło się jeszcze niedawno. A tymczasem, na przykład, nie pamiętam niestety jak nazywa się ta gra, ale kilka lat temu robot, to nie są szachy, dlatego że jest to gra, która wymaga intuicji. Po raz pierwszy w życiu robot wygrywa z człowiekiem. Wszyscy obserwatorzy są zaskoczeni, mówią, że ten ostatni wykonany przez robota ruch, był ruchem nie z tej planety. Był ruchem maszyny, która w takim razie ma jakąś inteligencję. Coś, co my nazywamy inteligencją. We wrześniu oglądam film Herzoga. Zaduma nad światem w sieci. I jeden z bohaterów tego filmu pokazuje, jak wygląda wyobraźnia maszyny. Za moment wszystkie te cechy, które uznajemy za cechy właściwe wyłącznie człowiekowi, przestaną być wyłącznie naszymi cechami. Komputer, który mamy, telefon, który mamy w kieszeni, o którym mówisz, że nie mamy pojęcia, co jest w środku i szczerze mówiąc niespecjalnie nas to interesuje, nic o nim nie wiemy, a oddajemy mu swoją wolność. to wszystko wygląda trochę jak z filmu science fiction. Trochę groźnie? Czy to naturalna kolej rzeczy?
[54:54.73 → 59:21.67] B: Oczywiście, że ponieważ jest to, tak jak mówiliśmy o tym na początku, jest to tak olbrzymia przestrzeń, tak wielowymiarowa i wielowpływowa, więc jednocześnie trudno by było myśleć o tym, że ona ma tylko jedną obliczę, że jest na przykład tylko ładna, albo tylko racjonalna, albo tylko niebezpieczna. Ona jest wszystkim tym jednocześnie, w zależności od tego, z której strony się próbujemy jej jej przyjrzeć i oczywiście w ten sam sposób można by w ogóle mówić o rozwoju tej kultury cyfrowej, tego świata cyfrowego. Wydaje mi się, że przede wszystkim trzy takie wielkie siły stoją, pociągają za sznurki w tym obszarze, że wiemy o tym, że komputer w takiej dzisiejszej postaci został wymyślony w laboratoriach wojskowych jako fragment infrastruktury militarnej, czyli coś zupełnie top secret, schowane przed światem cywilnym i wymyślone w taki sposób, żeby osiągnąć przewagę militarną nad resztą świata. Zaczęli Niemcy, skończyli Amerykanie, podłączyli się w międzyczasie inni. I to była pierwsza siła, której wpływu na to, w jaki sposób te komputery przedostały się do społecznego użycia, nie da się o niej zapomnieć nigdy. I ona sobie, ona nam o sobie przypomina, przypomina często właśnie a propos tych wszystkich nadciągających i ze Stanów i z Wielkiej Brytanii doniesień o tych, jak to nas rządy szpiegują, ile danych o nas zbierają, co o nas wiedzą, że zaglądają na nas przez kamerę do naszego domu, że telefon słyszy co mówimy i to wszystko zapamiętuje i wysyła do centrali i tak dalej i tak dalej. Ale to by była jedna siła. Druga siła, która często sama siebie próbuje opowiadać w kategoriach, że była prometeuszem, który wykradł bogom, czyli wykradł wojsku i zaniósł ludowi, czyli sprzedał w supermarketach. To byłby uniwersytet i to byłaby nauka, bo faktycznie te pierwsze e-maile, te pierwsze strony internetowe to są rzeczy, które powstały na uniwersytetach. Nie w laboratoriach wojskowych, tylko na uniwersytetach. Wojsko potrzebowało tych technologii do czegoś innego, ale musiało korzystać z pomocy naukowców, którzy to naukowcy nie do końca posłusznie i częściowo tę technologię wyprowadzili poza świadomość i kontrolę generałów. No ale wreszcie jest również i trzecia siła, która jest wydaje mi się na obecnym etapie najbardziej znacząca. To jest siła rynku i siła zwykłych użytkowników. To jest moment, w którym te technologie przedostają się do życia społecznego rzeczywiście na skalę masową. I te scenariusze napisane przez A rządy i wojsko i B przez naukę są średnio atrakcyjne z punktu widzenia przeciętnego konsumenta świata cyfrowego. On sobie może nawet zdaje sprawę z tego, że rząd go podsłuchuje, że rząd czyta jego maile, ale jakoś niespecjalnie mu to przeszkadza. Nie widać, żebyśmy się o to zabijali na ulicach. Co prawda w Polsce akurat jak zagrożono internautom, że zamkniemy torenty, to wyszliśmy na ulicę. Ale to się zdarzało raz epizodycznie i raczej w niewielkiej skali. No i teraz, a propos tych różnych strachów, które mamy wobec technologii, to jest rzeczywiście odpowiedzią na te strachy w moim odczuciu jest to, że teraz my, jest weekend, jak mówi Barack Obama, to my jesteśmy teraz tą energią społeczną, my użytkownicy właśnie nie wojskowi, nie instytucjonalni, nie korporacyjni, tylko zwykli, prości ludzie, użytkownicy różnych portali, komputerów, narzędzi cyfrowych, to my teraz nadajemy ton i to my powodujemy, że ta kultura cyfrowa jest jednak czymś innym, albo czymś więcej, albo czymś obok tego, co sobie zamierzyli oryginalnie twórcy. Dla mnie to jest najważniejszy mechanizm bezpieczeństwa, ponieważ kiedy jesteśmy w tym, działamy w tym, bierzemy za to odpowiedzialność, czynimy to swoim, oswajamy, mieszkamy, działamy, żyjemy i to jest po prostu nasze życie i ono jest tak samo dobre, jak my jesteśmy.
[59:23.26 → 59:27.47] A: Bardzo duża wiara twoja w to, że utrzymamy to wszystko w ryzach.
[59:27.78 → 01:02:14.51] B: Ale te dwie siły pozostałe ciągle pracują. Chętnie możemy do nich wrócić, bo ich działanie, oni się zorientowali, co się dzieje i widzą, że im się sytuacja wymyka spod kontroli. Spróbujcie państwo, jakby tak zupełnie chłodno się zastanowić nad tym, dlaczego wojsko pogodziło się z faktem, że wypuściło z rąk taką technologię, jaką jest Internet. To się przedostało w ręce obywateli. Dlaczego później generał nie jeździł i nie zabierał tych komputerów z biurek zwykłych obywateli? No oni z góry wiedzieli, że tam jest jakiś ich interes, że przy pomocy tych technologii oni mają do ugrania znacznie więcej, kiedy one są razem z nami niż kiedyby tylko oni mieli je u siebie. Nauka w zasadzie w pewnym sensie jakby pogodziła się ze swoją rolą drugoplanowego czy trzecioplanowego gracza w tym świecie. Człowiek, który napisał pierwsze strony WW i uruchomił w ogóle całą infrastrukturę internetu w takim rozumieniu, jakim my dzisiaj znamy, za co dostał brytyjski tytuł Sarah, Sir Tim Berners-Lee. Dzisiaj zajmuje się, zapytany o przyszłość internetu, zajmuje się w zasadzie udostępnianiem zasobów zgromadzonych przez państwo, czyli wszystko to, co państwo zgromadziło za pieniądze obywatela. Tim Berners-Lee mówi, to powinno trafić z powrotem do obywateli. cokolwiek było wyprodukowane za pieniądze z podatków, to powinno być dzisiaj przy pomocy technologii cyfrowych oddane obywatelom w takiej postaci, żeby oni mogli z tego skorzystać. Czyli Tim Berners-Lee, twórca użytkowego internetu, swoje podsumowanie tego, czym jest internet, wydaje mi się, wyobraża sobie właśnie w ten sposób, że to jest Jeszcze bardziej radykalne oddanie pałeczki w ręce obywateli. Ale z drugiej strony mamy korporacje, olbrzymie korporacje z gigantycznymi wpływami i mamy rządy państw, które niestety z tymi korporacjami ściśle współpracują w aspekcie zbierania danych o obywatelach i kontrolowania nas naprawdę na każdym możliwym kroku. Państwo wiecie, że po 2001 roku, po 11 września, wszystkie próby podważania takiego stanu rzeczy, że czy państwo ma prawo, czy to się mieści w Konstytucji, czy to narusza prawa człowieka i obywatela, czy jakiekolwiek inne prawa, Na takie pytania dostajemy zazwyczaj z rządu odpowiedź, która jest w większości zakreskowana na czarno, ponieważ jest to tajemnica rządowa i dotyczy to bezpieczeństwa narodowego i nie można tego podważać. Tego nie da się podważyć. Żaden sąd nie jest w stanie tego podważyć. Na całym świecie działa to niestety w podobny sposób.
[01:02:15.26 → 01:03:49.22] A: Tylko to, o czym ty mówisz, ta jasna strona internetu, to, że to wszystko trafiło do ludzi, że to my mamy prawo to teraz wykorzystać, a korzystnych stron internetu są setki, tysiące. Jakbyśmy chcieli o tym opowiadać, to trochę czasu by nam zajęło. To wszystko dotyczy człowieka takiego, jaki jest teraz. Ale rozmawialiśmy już o tym. On się zmienia. Człowiek się zmienia także pod wpływem internetu, zmienia mu się umysł, zmieniają mu się uczucia, jeśli się ich w ogóle nie pozbawia, bo one się mało sprawdzają w komunikacji internetowej. Wszystko się zmienia. Wróćmy do filmu Herzoga. Tam jest też zdanie, które brzmi jak science fiction, ale nie jest science fiction zupełnie, dlatego że prace nad tym trwają od lat. Są takie teorie. Tam jeden z bohaterów mówi, za moment będziemy tweetować nasze myśli. To otwiera jeszcze jedną furtkę, niezwykłą furtkę. Tweetować myśli to już nie jest tylko przekopiowanie naszego umysłu do sieci, tak jak to się stało w książce Dukaja i stworzenie nowej cywilizacji z tego, ale to jest tak, że możliwość kopiowania naszego umysłu. To są setki zupełnie nowych możliwości. To jest w ogóle zupełnie nowy świat. Nowy człowiek, jeśli to w ogóle jeszcze jest człowiek.
[01:03:50.97 → 01:15:19.51] B: Pytanie o przyszłość rozwoju komputerów niestety jest pytaniem, które dotyczy przede wszystkim tego, jak będziemy potrafili zachować naszą podmiotowość w świetle prawnym, obyczajowym, społecznym. To może brzmi trochę górnolotnie, ale oczywiście spróbujmy to sprowadzić do konkretów. Rzeczywiście rozwój technologii dzisiaj zmierza w taką stronę, żeby w pewnym sensie unieważnić nasz naturalny sposób widzenia, postrzegania, reagowania na świat, czyli że mamy oczy, mamy uszy, mamy zmysł przestrzeni i w ten sposób się poruszamy w świecie. Jest to dla nas najbardziej możliwie wiarygodny sposób istnienia w świecie. Na tyle wiarygodny, że w zasadzie sobie nie wyobrażamy żadnego innego. Wrócę do tego stymulatora serca. Czy my w ogóle jakby wiemy, co się dzieje z tym stymulatorem, kiedy mamy go zaszytego do środka i kiedy przyglądamy się na niego swoim zdystansowanym okiem. Nic o tym nie wiemy i wydaje mi się, że Jest jeden element, który tutaj jest absolutnie szczególnie ważny i to jest moja życiowa walka na polu technologicznym, że podmiot zaczyna i kończy się tam, gdzie się kończy jego skóra, że tak to wprost powiem. Bo dzisiaj coraz więcej mamy rzeczywiście przykładów na to, kiedy technologie różnego rodzaju, które mieszają w mózgu, czytają z mózgu są w stanie wejść do wewnątrz i one nie wchodzą nam przez oczy. My nie wiemy o tym, że one wchodzą. Nie wchodzą nam przez uszy albo inaczej nie wchodzą nam przez słuch i nie wchodzą nam przez wzrok. Wchodzą nam na zasadzie. Znowu jesteśmy przy tym Leibnizu i Kartezjuszu. To było też tak, że to jest też tak, że w tym myśleniu cyfrowym o świecie. Pojawiła się taka hipoteza, takie domniemanie, że skoro Bóg był matematykiem i że my mamy być tymi matematykami, to tak naprawdę mózg jest niczym więcej, jak tylko jednym wielkim liczydłem. I to jedno wielkie liczydło my sobie tam jakoś doskonalimy i że podobno ta sztuczna inteligencja to jest po prostu super doskonałe liczydło, które wystarczająco wiele operacji przetwarza jednocześnie. To by miało odpowiadać naszemu procesowi myślenia. Ja bym się nie dał w tę pułapkę złapać. Wydaje mi się, że nasze myślenie jest czymś więcej niż tylko matematycznym kalkulowaniem. Ale tym tropem poszli, tej redukcji tropem poszli ci, którzy projektują technologię przyszłości. I oni rzeczywiście doszli do takiego momentu, w którym się przekonali, są na to bardzo poważne dowody i jesteśmy już bardzo daleko w tym procesie, że myślenie, aktywność mózgu da się sprowadzić do da się zredukować do wymiaru, w którym między neuronami podróżują elektrony i jeszcze jakieś tam inne rzeczy. Nie jestem specjalistą, nie będę tego nazywał po imieniu. W każdym razie między neuronami podróżują elektrony i to jest myślenie. I to jest myślenie. To się wspaniale klei z tym cyfrowym wyobrażeniem świata. Ponieważ elektron to jest jeden elektron, a brak elektrona to jest zero i mamy całą historię o cyfrowości świata. Zero i jeden. Brak elektrona, obecność elektrona. Jeśli wyobrazimy sobie ileś tam dziesiąt, miliardów czy jeszcze więcej tych wszystkich połączeń w naszym mózgu, to oczywiście na pierwszy rzut oka jest to sytuacja nie do przebrnięcia i żaden aparat, żadna maszyna nigdy nie będzie w stanie wbić się na taki poziom doskonałości, efektywności, Natomiast tu mam złą informację, bo już tam jesteśmy. Barack Obama w połowie swojej prezydentury ogłosił gigantyczny rządowy program amerykański, który się nazywa Brain Initiative i który ma za zadanie zmapowanie ludzkiego mózgu dokładnie w ten sam sposób, w jaki przez ostatnie 40 lat był mapowany ludzki genom. Wszystkie pojedyncze kombinacje A, G, C, D zostaną rozpisane. Nie wiem, czy Państwo widzieliście ile książek zajmuje ludzki genom. Cała duża biblioteka i to jest chyba, jeśli dobrze pamiętam, 120 tomów, drobnym maczkiem zapisane wszystkie te kombinacje, co jest, jaka literka po jakiej w tym rybonukleinowym kwasie po sobie następuje. W podobny sposób, pracujemy dzisiaj nad mózgiem. Rozpracujemy go, co do pojedynczego neuronu będziemy wiedzieli, że jeżeli myślę o czerwonym, to to się dzieje tutaj, a jeżeli myślę o niebieskim, to to się dzieje tutaj. I teraz, jeśli pójdziemy w tym bardzo daleko, a jednocześnie mamy narzędzia, za pomocą których jesteśmy w stanie wzbudzać i manipulować elektrycznością, to to są narzędzia, którymi w przyszłości będzie można w prosty sposób manipulować przepływami energii elektrycznej w ludzkim mózgu. Czyli myślenie rozumiane redukcjonistycznie jako aktywność elektryczna mózgu będzie mogła być wspomagana, reprogramowana, stymulowana z zewnątrz. Dzisiaj już się to dzieje. Wykonuje się operację na ludziach, którzy mają np. częściowy paraliż. Kiedy im się bezpośrednio na mózgu umieszcza takie elektrody jak na sercu. I te elektrody po prostu kopią mózg prądem. Oczywiście jest to prąd o minimalnym natężeniu. W zasadzie jakbyśmy dotknęli ręką tego urządzenia to byśmy nic nie poczuli. Ale mózg to czuje, bo tu chodzi o miliwolty, miliampery, miliherce. I mózg na to reaguje. Osoba, która ma sparaliżowaną rękę, po jakimś czasie uczenia się tej technologii, uczenia się tego nowego bodźca, jest w stanie przywrócić sobie tę aktywność, przywrócić organizmowi tę aktywność. No ale teraz scenariusz czarny byłby taki, że przyszłość będzie polegała nie tylko na tym, że my będziemy w stanie przeczytać to, co się dzieje w mózgu. Bo to jest jakby znów Gutenberg, czytamy mózg, tak? Natomiast przyszłość będzie niestety interaktywnością z mózgiem. To znaczy, że mózg będziemy kopać prądem i sprawdzać, co się dzieje. Znowu kopać i znowu sprawdzać, co się dzieje. Jeśli by to zostało jakby w naszej gestii, to jest jakby pół biedy, tak? Bo możemy sami siebie kopnąć w mózg prądem. No trudno, jak ktoś lubi, to dlaczego mielibyśmy sobie nie pozwolić na takie ekstrawagancje? Ale myślę, że Problem pojawi się wtedy, kiedy takie technologie będą istnieć, ale dostępu do nich nie będziemy mieli, albo nawet nie będziemy wiedzieli o tym, że ktoś w naszym mózgu wykonuje jakieś procesy elektryczne, które wpływają na to, jak my się zachowujemy. Żeby to zobrazować już zupełnie namacalnie, amerykańskie wojsko pracuje nad technologiami takich nowoczesnych hełmów dla żołnierzy, w których przy pomocy mniej więcej takich czepków, jak się używa na EEG, Żołnierze będą stymulowani elektrycznie w określony sposób. Oni już wiedzą gdzie i jak tam trzeba kopnąć tym prądem, żeby uruchomić pewne mechanizmy. I taki żołnierz nagle będzie czuł wielką potrzebę być odważnym. Albo wielką potrzebę, żeby poświęcić się za ojczyznę. Albo wielką potrzebę, żeby strzelać na oślep. Różne te potrzeby możemy sobie potencjalnie wymyślać. Ja wiem, że to wszystko brzmi jak science fiction. Ale zła informacja jest taka, że my już tam jedną nogą jesteśmy. Jedną nogą już tam jesteśmy. Mamy zmapowany mózg. Kilka lat temu udało się w Izraelu akurat zarejestrować po raz pierwszy na kamerze. Możecie Państwo sobie wpisać na YouTube i to zobaczyć. Moment, w którym następuje przejście ładunku elektrycznego z jednego neuronu do drugiego. Już to widzieliśmy. Jesteśmy tak bardzo blisko. To są wielkości rzędu jednej z setnej tysięcznej części milimetra, ale my to widzimy i my wiemy. Amerykanie cały czas pracują nad tym, żeby ten model ludzkiego mózgu dopracować do takiej formy, że będziemy wiedzieli o tym dokładnie, kiedy, jak, gdzie, co się dzieje w naszym mózgu, kiedy myślimy, kiedy mamy pewne stany emocjonalne, kiedy śpimy. I jeszcze drugi przykład, który udało się akurat w tym przypadku zrobić lekarzom amerykańskim, Udało im się przy pomocy czepków EEG nagrać sen. Czyli to, o czym mówiłaś, to, co gdzieś tam się pojawia przy okazji science fiction, różnych mniej lub bardziej futurystycznych opowieści, dzieje się. Na tym zarejestrowanym śnie widać kształty jako żywo przypominające to, co znamy w ogóle z obrazów dookoła nas. Jeszcze inny eksperyment przeprowadzony na osobach niewidzących, trwale niewidzących, które nigdy nie posiadały zdolności widzenia, polegał na tym, że przy pomocy sztucznie wszczepionych implantów w nerw oka, czyli jakby zaawansowana kamera wszczepiona w oko, te osoby widziały obrazy, które następnie nagrywano na zewnętrzny, czyli najpierw ta osoba ogląda, Potem mózg to przetwarza, a potem przy pomocy następnego sensora, następnego czujnika ten obraz jest przechwytywany przez jakieś urządzenie rejestrujące. Z tego co ja widziałem, to było na etapie takim, że było to białe tło i czarna plama, ale było. Ale coś było widać. I dzisiaj jest to wielka pokusa. Wielka pokusa nasza, nas wszystkich myślę. No bo jakby sobie tu odmówić w przyszłości update'owania się, upgrade'owania się o takie biotechnologiczne sensorium, które będzie pozwalało nam albo zastąpić to nasze niedoskonałe, np. mam takie niedoskonałe, rozważam poważnie zakup jakichś lepszych oczu, albo z drugiej strony zupełnie jakby bezkrytycznie doposażać się, tak jak to robimy przy okazji chirurgii plastycznej, po prostu update'ować się. I tu bym widział ta podmiotowość rozumiana jako nienaruszalna granica cielesności. To znaczy, że ja nie wpuszczam państwa, przynajmniej chciałbym nie wpuszczać w sensie prawnym, że gdzieś mnie jakoś coś chroni. Granica podmiotowości w sensie cielesności wydaje mi się czymś, co jest w ogóle do przeprowadzenia na polu debaty publicznej, na polu rozwiązań prawnych, bo my nie mamy takich przepisów w ogóle, my nie jesteśmy na to gotowi, zupełnie. Nie rozmawiamy o tym jako społeczeństwo, Posłowie się tym nie zajmują w projektach ustaw. Nie jesteśmy co prawda jacyś specjalnie wyjątkowi. Po prostu ten progres technologiczny następuje tak szybko, a jednocześnie jest tak abstrakcyjnie trudny do przeanalizowania, że nie umiemy, nie mamy czasu, a również są też pewne interesy, które powodują, że nie rozmawiamy po prostu o tym w sensie publicznym.
[01:15:19.67 → 01:17:19.30] A: Znaczy zwyczajnie nie jesteśmy na to gotowi. Pytanie czy kiedykolwiek będziemy. Stąd ten mój brak wiary w człowieka właśnie, od którego to tak naprawdę wszystko zależy. I stąd jeszcze wrócę na chwilę do tego słowa, którego użyłaś, skuteczność, która jest szalenie ważna i która bardzo często determinuje nasze życie. Jeśli coś jest skuteczne, przestaje się patrzeć na to, co stoi skuteczności na przeszkodzie. Historia zna straszne momenty w życiu ludzkości, kiedy skuteczność, była najważniejsza, w związku z tym zapominało się o tym, że naprzeciwko nas stoi drugi człowiek, bo należało skutecznie doprowadzić do zwycięstwa jakiegoś systemu. Ta skuteczność też będzie przywilejem robotów, które za moment będą, znaczy, które też są coraz doskonalsze i należy się spodziewać, że będą doskonalsze od wielu z nas. One będą miały na pewno cel numer jeden, bycie skutecznymi. I dopóty, dopóki są takie teorie, nie będziemy stać na przeszkodzie tej skuteczności, to później, bez żadnej sympatii albo antypatii, w momencie, w którym przestaniemy, zaczniemy im stać na przeszkodzie, odsuną nas na bok, delikatnie rzecz ujmując. To też jest pewnie jakiś scenariusz. Pytanie moje jest takie, to dotyczy tego, o czym ja w tej chwili mówię, to dotyczy tego, o czym ty mówisz, jak to nie zatrzymując całości, bo się nie da, ale jak to powstrzymać, jak powstrzymać tą złą stronę takiego rozwoju sytuacji. Może raz jeszcze odpowiedzieć sobie na pytanie, kim jest człowiek? co tak naprawdę jest podstawową cechą człowieka. Może zapominamy trochę o tym.
[01:17:20.20 → 01:28:18.84] B: Pytając o to, kim jest robot, rzeczywiście troszkę zapominamy o tym pytaniu, kim jest człowiek, bo ta druga definicja jest w gruncie rzeczy kluczowa dla tej pierwszej, żeby zdefiniować roboty, nadać im jakiś status prawny, maszynom nadawać status prawny, mieć wobec nich jakieś oczekiwania, zlecać im czynności i działania, które tradycyjnie domagają się ludzkiej odpowiedzialności, to jest systematyczne renegocjowanie w polu prawnym, kulturowym tych właśnie znaczeń, o których mówimy. I mam wrażenie, że to się dzieje bezrefleksyjnie zupełnie. Są firmy, którym zależy na tym, żeby sprzedawać. One nas namawiają do tego, że zobaczcie jakie świetne, zobaczcie jakie to jest wspaniałe, co wam to daje. Ale nie padają te pytania, te drugie pytania nie padają i wydaje mi się, że to jest jakby z takiego tradycyjnego punktu widzenia patrząc, jakby dowód na słabość naszej debaty publicznej, że my rzeczywiście średnio umiemy rozmawiać o takich rzeczach. W Polsce może mamy też taki, miało nie być polityce oczywiście, ale mamy trochę takie przyzwyczajenie do grzebania się głównie w przyszłości, że my nie projektujemy sobie swojej własnej przyszłości. Wolimy wyciągać nieskończenie wiele gorzkich lub mniej gorzkich odpowiedzi z tego co było niż zastanowić się nad tym jak my sobie wyobrazimy siebie za kilkadziesiąt kilkanaście lat. Zobaczcie państwo że nawet w tak prostej sprawie jak budowa nie wiem czy mamy deficyt elektryczności. Kupujemy elektryczność w Niemczech w innych krajach ościennych. I nie potrafimy się zdecydować, czy my chcemy mieć tą elektrownię jądrową, czy nie chcemy. Ja nie zajmuję stanowiska, czy ona jest dobra, czy nie, ale my nawet w takich sprawach nie potrafimy popatrzeć do przodu. Natomiast wracając do tej skuteczności, wracając do tego myślenia w kontekście, co zrobić z technologiami, żeby one nas Nie pożarło. Ja mi się wydaje, że jest to w ogóle bardzo ciekawe, bo z jednej strony mamy na poziomie takiej racjonalności, mamy taką refleksję właśnie, że jakoś powinniśmy się bronić, jakoś powinniśmy się ustawić wobec tego świata, jakoś go nie dopuścić, jakoś go gdzieś tam zdystansować. Ale kiedy przychodzi co do czego, i tutaj podam taki dosyć radykalny przykład mi się wydaje, kiedy przychodzi co do czego, to my jesteśmy gotowi przytulać te maszyny. Przykład jest następujący. W Japonii jest problem z rozpadającymi się więziami rodzinnymi. Bardzo duży. W Japonii wiele osób starszych cierpi na po prostu na samotność. Mają małe mieszkanka w wielkich miastach, nie ma dużo miejsca, nie ma gdzie pójść. Są same, cierpią, zapadają na różnego rodzaju depresje i tak dalej. Więc pragmatyczny przemysł japoński postanowił przyjść im z pomocą i wyprodukował. Honda razem z innymi producentami wyprodukowali takiego Człowieka okształtnego robota, który jest w pewnym sensie taką lalką. Taka biała, robotyczna lalka wielkości, może ma tam 80 centymetrów wielkości. Nie ma nóg, ale ma takie kikutki, jakby rączki i ma twarz, która się porusza, która się uśmiecha, mruga oczami, mówi, słucha. I te roboty zostały kupione w funkcji terapeutycznej przez japońskie szpitale. Okazało się, że po pilotażowym programie, który był absolutnym sukcesem, okazało się, że 80% osób w Stanach takich, które wymagały kontaktu z kimś, w momencie dostarczenia im tego robota, one się zaprzyjaźniały z tym robotem. Mówiły do niego, głaskały, dbały o niego, wymieniały mu bateryjki, zaprowadzali je do innych chorych i mówili, zobacz mój robot dzisiaj mówił do mnie o tym i o tym, albo dzisiaj razem z moim robotem wyglądaliśmy przez okno, robiliśmy to i to. W 80% tych przypadków widać był zauważalny wzrost dobrego samopoczucia. Te roboty zostały oswojone momentalnie i to przez starszych ludzi. Czyli z jednej strony mamy świadomą refleksję nad tym, że ta technologia rzeczywiście zaczyna wchodzić na głowę albo i w głowę, a z drugiej strony, kiedy przychodzi co do czego, kiedy mamy do wyboru kupić sobie nowy gadżet albo poprzytulać robota, z przyjemnością to robimy. I mało tego, do tego stopnia jesteśmy jakby bez dystansu wobec tego, że jesteśmy w stanie przypisać takiemu robotowi, który oni specjalnie go zrobili w taki sposób, żeby on nie przypominał człowieka. Nie ma nóg, nie ma jakby jakichś wyraźnych kształtów. Rączki ma taki trójkątek i kutki. Jest co prawda miły w dotyku, ale znowu bez przesady, bo jest ciężki, bo w środku ma żelastwo. I te roboty myśmy potraktowali jak siebie samych, to fajni znajomi, przyjaciele, przytulanki, misie, po prostu misie, sympatyczne misie, które nas leczą. Więc wydaje mi się, że jest to trudna sprawa na poziomie antropologicznym, że jest naprawdę trudno znaleźć różnicę pomiędzy przedmiotami, ludźmi, maszynami. My tej różnicy nie czujemy, bo jeżeli coś się ubierze, w szaty człowieka, przybiera kształt człowieka, to od razu temu ufamy, bo przecież oczy nas nie mogą ukłamywać. Tak wierzymy naszym oczom. A jednocześnie na poziomie społecznym to jest poważny problem i poważna taka refleksja krytyczna, w której raz, że rzeczywiście potrzeba debaty prawnej. Tu mam taką gorzką refleksję, Generalnie staraniem Unii Europejskiej na terenie całej Unii mamy taką instytucję lidera cyfrowego. Lider cyfrowy to się chyba nazywa, jeśli dobrze pamiętam. Lider cyfrowy i to jest taki rzecznik praw konsumenta w kontakcie, rzecznik praw obywatela w kontaktach z całym tym światem technologicznym, który ma załatwiać sprawy Wskazywać na braki prawne, na jakieś możliwości regulacji, które by się nam wszystkim przydały. Czy państwo słyszeliście o takiej instytucji w Polsce? To jest najlepszy przykład na to, jak ona sobie świetnie radzi. Nikt o niej nigdy nie słyszał, ale jest ktoś taki, gwarantuję wam. Możecie też wygooglać. Jest etat, urząd. Ktoś bierze za to pieniądze. wykonuje jakąś pracę, tylko że gdy na przykład spojrzymy na doświadczenia angielskie, to tamten rzecznik, lider cyfryzacji, zajmuje się nagłaśnianiem problemów. Że na przykład obywatele, słuchajcie, rząd ma pomysł, żeby nas jeszcze bardziej obserwować przy pomocy kamer ulicznych. I co my na to, obywatele? I taki rzecznik mówi, że możemy zrobić to, albo możemy zrobić... Jest takim inicjatorem debaty publicznej. U nas tego rzeczywiście brakuje. Inny przykład to jest To są Niemcy. Ja uwielbiam ten przykład, bo mi się wydaje, że to jest właśnie dowód na obywatelskość niemieckiego społeczeństwa. W Niemczech, jeśli spróbujecie państwo przez Google Street View, czyli tą aplikację Google'a, która jest w stanie chodzić po ulicy, jak jesteśmy na mapach Google'a i możemy chodzić po ulicach, widzieć budynki, ludzi, samochody, kwiatki, czyli być bardzo blisko w sensie takim wizualnym. To w Niemczech była debata publiczna na temat tego, czy i jak możemy wpuścić samochody Google'a, które fotografują ulice. Czy nie powinniśmy tego robić? No i oczywiście nie wszystko w Niemczech da się zobaczyć na Google Street View. A w Polsce? Czy ktoś Państwa kiedyś pytał o to, czy Wasz dom można sfotografować i pokazać w Ameryce? Ja uważam, że powinni się nas zapytać. Ja uważam, że np. jak ja przed moim domem mam jakąś swoją paprodkę, to dlaczego mamy jakiś Japończuk ją oglądać tylko dlatego, że ma na to ochotę. Jak chce to niech przyjedzie, a wtedy okej, ale tak? Więc myślę, że mamy mnóstwo rzeczy rzeczywiście do nadrobienia, że jest gigantyczna przestrzeń, że jakby upajamy się tymi gadżetami, mówimy, powtarzamy te bajki, mity o tym, że ta cyfryzacja załatwi wszystkie nasze problemy, że to jest w ogóle jakieś nowe Eldorado, w którym będą tylko komputery, sztuczna inteligencja, a my już będziemy mogli sobie siedzieć, popijać drinki i nic więcej nie robić. Ale to nie jest takie proste, to nie jest bajka z Hollywood. Tam się dzieją również inne poważne rzeczy, nad którymi niestety nie mamy kontroli. I niestety również wyglądałoby na to, że o te kontrole nie zabiegamy. Czyli tutaj jakby podsumowując, wydaje mi się, że trochę czym innym jest interes i podejście pojedynczego człowieka, a trochę inaczej należy rozumieć interes społeczny. Szczególnie w kontekście gier globalnych, w kontekście tego, że nasze państwo nas podsłuchuje, ale tak naprawdę podsłuchuje nas tak w gruncie rzeczy państwo amerykańskie i też nas nikogo to nigdy nie zapytał, czy my mamy coś jakby przeciwko, czy nam się to podoba, czy nie. Zresztą to jest w ogóle cały kompromis państw europejskich ze Stanami Zjednoczonymi, że w zamian za to, że Amerykanie dostarczyli technologię do obserwowania obywateli, to państwa europejskie zgodziły się na to, Amerykanie dostają tę samą wiedzę, którą oni dostają albo nawet jeszcze więcej, bo nie wiadomo czy... Pamiętacie państwo też była taka sprawa jak Angela Merkel znienacka dowiedziała się o tym, że jest na podsłuchu Amerykanów. No jeśli Angela Merkel o tym nie wiedziała, że Amerykanie ją podsłuchują, no to pomyślcie kto jeszcze nie wie. Albo w zasadzie kto wie i co wie na ten temat. No więc to byłby ten czarny scenariusz, ale i znów kluczem do tego, narzędziem, które ja rozumiem jako jakiś antidotum na te wszystkie nasze strachy, powinności, jest po prostu żyć z tymi technologiami, używać ich. To jest jedyna droga. Nie możemy się obrazić, udawać, że one nie istnieją. Chyba nie możemy. Nie powinniśmy, wydaje mi się, ich fetyszyzować i modlić się do nich, tak jak się modlimy do iPodów, iPhone'ów i jeszcze tam wielu innych urządzeń, Nawet z badań wyszło, że użytkownicy iPhone'ów nie zmieniają dzwonka, ponieważ dzwonek fabryczny jest wyraźnym komunikatem w stronę pozostałych, że ja mam iPhone'a. Ja mam iPhone'a. Ja nie mam, ale ja mam. I tutaj mamy problem. Zresztą to jest jakby generalnie fragment takiego zjawiska, które jest tutaj szczególnie niebezpieczne. To o czym już wcześniej zaczęliśmy mówić, że państwa i rynek i jadą na tym samym wózku, że my nie mamy sprzymierzeńców jako obywatele, że nikt się z nami nie ujmie. Nie ujmie się z nami państwo wobec wojska albo wobec korporacji. Nie, dlatego że oni mają te same narzędzia i te same dane napędzają ich mechanizmy. I tutaj tylko i wyłącznie my obywatele małymi krokami na własnym podwórku, bawiąc się z tymi technologiami, używając ich, próbując coś z nimi zrobić. Możemy chyba dla siebie, ale również potem w skali makro wygenerować jakąś różnicę. Zbrzmiało jakbym kandydował w wyborach.
[01:28:20.18 → 01:28:48.14] A: Masz mój głos. Czy mają państwo ochotę zadać pytanie naszemu gościowi? Bardzo proszę. Albo zająć stanowisko. Albo powiedzieć, że się nie zgadzają. To to jest ten moment. Bardzo proszę. Ja postaram się powtórzyć pana pytanie, żeby internauci też słyszeli dobrze, bo bez mikrofonu jest to niemożliwe.
[01:28:49.76 → 01:28:53.58] B: Czy nie grozi nam technototalitaryzm?
[01:28:57.28 → 01:28:57.76] A: Pan pyta.
[01:28:58.64 → 01:35:11.00] B: No nie tyle nam grozi, co on się ziszcza. Technokratyzm to jest jakby inne słowo, które to myślę ciekawiej opisuje, że państwo nie chce zrezygnować i robi bardzo dużo, żeby nie przestać być regulatorem i dysponentem rozwiązań cyfrowych. Zobaczcie państwo, gdzie rejestrujemy domeny, nazwy domen stron www. Muszą być zarejestrowane w urzędzie. To nie jest demokratyczna sytuacja, w której każdy z nas może chcieć mieć. i uruchomić sobie stronę internetową jaką jakąkolwiek byśmy byśmy chcieli. Czyli raz, że musimy to zarejestrować, uzyskać zezwolenie w pewnym sensie, a dwa oczywiście, że musimy również za to zapłacić. Natomiast wydaje mi się szczególnie, szczególnie groźne, niekontrolowane rozrastanie się tych wszystkich narzędzi w przestrzeni publicznej, które służą do obserwowania obywateli i do zbierania danych o obywatelach. Ja wiem, ja rozumiem terroryzm i absolutnie nie drwię z tego problemu. Natomiast jednocześnie, jeśli weźmiemy pod uwagę ilość tych kamer i np. niektóre miejsca ich lokalizacji, to możemy mieć pewne podejrzenia co do tego, że to nie tylko i wyłącznie chodzi o nasze bezpieczeństwo. Np. jak się jedzie samochodem zajanowym lubelskim tam przez te lasy, nagle w środku lasu, ni stąd, ni zowu, wyskakuje konstrukcja stalowa, do której są podwieszone kamery. Komu one zapewniają bezpieczeństwo? To jest środek lasu. Autentyczny przykład. No one są po co innego? One są po to, żeby państwo wiedziało jakie samochody i ile przejeżdża w tym konkretnym miejscu. Czyli to są kamery, które rejestrują numery rejestracyjne samochodów i zapisują je w centralnej ewidencji. Dlaczego państwo chce wiedzieć gdzie my jeździmy, kiedy my jeździmy, jak szybko my jeździmy? No po co? Po co chce wiedzieć? Jaki to ma związek z naszym bezpieczeństwem? OK, zapewne państwo wypowie się w ten sposób, że ale tamtędy mógłby jechać terrorysta i my chcemy to wiedzieć. Inny przykład znów z drogi jest taki, jak być może państwo jeździliście kiedyś samochodem do Wrocławia, to jeszcze nie autostradą, tylko tą starą drogą. Tam jest taki fragment ekspresówki przed samym Wrocławiem, jakieś za 20 kilometrów i tam są, tam jest takie miejsce, gdzie jest kilka takich właśnie masztów, na których są kamery i te kamery działają w ten sposób. Wyświetla się rejestracja samochodu i jest napisane LU ileś tam ileś, zwolni. Myślę sobie, czy nie wystarczyłoby zwolni? Państwo się nie boi, znaczy państwo się w ogóle nie krępuje z tym, że ono mnie straszy, że ono o mnie wie. Może to jest właśnie dlatego, że to nie jest jakby grożąca nam sytuacja, tylko to jest jakby projekt, który jest w procesie, który się ziszcza. Ilość tych kamer jest montowana, proszę Państwa, no po prostu to jest wolna amerykanka. Gdzie chcą, tam montują kamery. W Nowym Jorku doszło nawet do tego, że obywatele się skrzyknęli i postanowili stworzyć mapę miasta, na której będą oznaczone tylko te miejsca, w których nie ma kamer. I nie dało się oczywiście zrobić takiej mapy, no bo w Nowym Jorku te kamery są wszędzie i one są jakby... Jaki jest krok następny? I tu też pytanie, jak to powstrzymać i czy to powstrzymać? Oczywiście rozumiem argumenty obu stron. W Nowym Jorku wprowadzono na razie pilotażowo, ale za chwilę to będzie zjawisko powszechne, drony policyjne, które latają nad ulicami miasta, filmują, ale Amerykanie zastanawiają się, czy te drony nie powinny przypadkiem strzelać na wypadek, gdyby była taka konieczność. W imię naszego bezpieczeństwa, wiadomo. To są mniej więcej te same drony, które w Pakistanie wybiły w ciągu ostatnich kilku lat paręnaście tysięcy ludzi. Zabiły. I oczywiście do tego stopnia jesteśmy nieprzygotowani na rozmawianie o tym, że pakistańscy prawnicy opłacani przez ludzi, którzy mieszkają w tych wioskach, które straciły rodziny, bo to były pomyłkowe bombardowania. Nie mają możliwości zaczepienia tego od strony prawnej, ponieważ amerykańskie prawo jest tak skonstruowane sprytnie, że jak dron strzelał, to nie wiadomo kto strzelał. Czyli w zasadzie się strzelało. W imię naszego bezpieczeństwa. Te przykłady można by oczywiście mnożyć w nieskończoność. Ja nie chciałbym tutaj jakby tego przeciągać. Nie chciałbym znowu, żeby to było zbyt czarne w odbiorze. Natomiast mam poczucie, że ten obszar, o którym Pan mówił, się rozrasta w sposób niekontrolowany. Nie rozmawiamy o tym. Politycy, posłowie, rzecznicy różnej maści nie wnoszą zapytań do Sejmu, do służb, do policji nawet, co się dzieje, jak się to dzieje. W Polsce mamy jeszcze tylko jeden komentarz. W Polsce mamy prawdopodobnie najbardziej restrykcyjne przepisy spośród wielu krajów europejskich na temat tego, ile czasu można przechowywać dane pochodzące z rejestracji rozmów przez telefony komórkowe. W Polsce można przechowywać takie dane przez 5 lat i jednocześnie nie potrzeba nawet wyroku sądu, żeby policja mogła posłuchać sobie dowolnej rozmowy telefonicznej dowolnego obywatela. Zapewne Państwo słyszeliście, media o tym jakiś czas temu mówiły, że w Polsce mamy jednocześnie największą ilość zapytań w przeliczeniu na tysiąc obywateli, jeśli chodzi o dostęp właśnie do takich danych. Ale przecież u nas nie ma terroryzmu. Czy był u nas jakiś zamach terrorystyczny? No państwo zapewne odpowie w ten sposób, że to właśnie dlatego, że my was podsłuchujemy i my te wszystkie zamachy, zanim one się zdarzyły. To jest taka przepychanka i ona trwa nieustannie, przy czym wyglądałaby zapewne inaczej, gdyby po stronie obywatelskiej Ten głos był jednak mocniejszy, bardziej słyszalny, bardziej wyartykułowany.
[01:35:11.46 → 01:35:51.30] A: Żeby ten głos był bardziej słyszalny, bardziej wyartykułowany, żebyśmy mogli zajmować stanowisko, inicjować debatę publiczną, brać udział w tej debacie publicznej, to musimy dbać o swój rozwój. Zwyczajnie musimy pamiętać, że jesteśmy na to przygotowani. Uczyć się zwyczajnie, korzystając z tych narzędzi, o których mówisz. próbować się rozwijać, żeby móc w tej debacie zająć jakieś stanowisko, bo ten przykład z dronami bardzo drastyczny. Za moment będziemy takimi... To już nie jest homo sapiens, to jest hominid jakiś, który ma narzędzia, ale właściwie nie bardzo
[01:35:51.30 → 01:35:53.00] B: wie co nimi... Małpa z brzydwą.
[01:35:53.14 → 01:35:53.60] A: Tak jest.
[01:35:54.72 → 01:39:41.18] B: Żeby jeszcze podbić koloryt, bo widzę, że niektórzy z Państwa już raczej przesypiają, to bym powiedział, że eksperymentalnie w Kalifornii wprowadzono w kilkunastu szkołach w jednym okręgu program, nowy program nauczania, w którym nie ma w ogóle uczenia się pisania. W ogóle. Dzieci się nie uczą pisać, znaczy w sensie ręcznie długopisem. Dzieci przychodzą na lekcje wyłącznie z laptopami i cała lekcja ze wszystkich, no może poza WF-em oczywiście, Wszystkie lekcje polegają na klepaniu w klawiaturę i załatwianiu spraw przez komputer. No i oczywiście z takich humanistycznych pobudek, które tutaj myślę, że jakoś wszyscy dzielimy, trzeba by się złapać za głowę i zapytać, o co chodzi, jak oni mogą sobie sami to robić. Ale Amerykanie, jak państwo wiecie, mają ten swój własny mit produktywności, efektywności, sukcesu, bycia zawsze pierwszym, najważniejszym, najsilniejszym i tak dalej. Myślę, że to jest sprytnie wykoncypowana strategia, która polega na tym, że zaeksperymentujmy, wychowajmy pierwsze radykalnie cyfrowe społeczeństwo. Zobaczymy, co to będą za ludzie. Ja myślę, że to jest eksperyment na żywym człowieku. Co to będą za ludzie, którzy nie umieją pisać długopisem, ale za to wszystkie sprawy załatwiają przez komputer. O efektywność takiego podejścia można by zapytać w kontekście tego, co my byśmy mogli w tym temacie zrobić. Czy my mamy pójść tą samą drogą? Wiecie Państwo, że nas się namawia zawsze wszędzie teraz, żebyśmy się ścigali, żebyśmy równali z zachodem. Ja pracuję na uczelni i u mnie na uczelni minister mówi zawsze, że macie się ścigać z Amerykanami. To jest najważniejszy, jedyny punkt odniesienia. Amerykanie, Amerykanie, rozwalimy tych Amerykanów. One mają te swoje miliony, my mamy tam te swoje złotówki, ale to nikogo specjalnie nie przekonuje. Problem jest taki, że przez uwolnienie tych technologii w skali globalnej, to znaczy, że dystrybucja technologii cyfrowej w skali globalnej spowodowała, że myśmy uzależnili się od tego systemu społecznego. Trudno sobie wyobrazić dzisiaj, że nagle jakieś państwo mówi, nie, komputery są złem i my z tego rezygnujemy. My właśnie będziemy się uczyć pisać, śpiewać, biegać i nie będziemy grać na komputerach. Ciężko sobie coś takiego wyobrazić, ale jeżeli sobie czegoś takiego nie wyobrazimy, to jednocześnie wszyscy będziemy przegrani w wyścigu z Amerykanami, którzy zrobią coś po raz pierwszy, przekroczą kolejną granicę. Potem to zrobią Chińczycy i my znowu potem będziemy w pozycji takiej, w której o kurcze, świat nas wyprzedził, a my musimy jakoś nadganiać, czyli pewnie jesteśmy pewnie jesteśmy gorsi. Ja myślę, że to jest fatalne. Fatalna koincydencja. Rzeczywiście Amerykanie nie mają oporu. Grzebanie w mózgu. Co prawda mamy podpisane te wszystkie i Amerykanie też mają, ale Chińczycy nie mają. Podpisane konwencje o zakazie manipulacji genetycznych, o nieprodukowaniu klonów, o nie ingerowaniu w genotyp w trakcie kiedy organizm żyje itd. No ale konwencje konwencjami, a to co się dzieje w rzeczywistości to się zapewne dzieje. Wiele wskazuje na to, że wyścig zbrojeń w takim klasycznym rozumieniu przeniósł się dzisiaj na wyścig na poziomie takim biotechnologiczno-cybernetycznym, czyli kto pierwszy w jaki sposób przy pomocy komputerów przeprogramuje genotyp w taki sposób, żeby osiągnąć nową jakość w postaci właśnie tej efficiency, w postaci tego skutecznego nowego człowieka, który będzie sobie radził z problemami cyfrowymi w sposób napstryk.
[01:39:41.90 → 01:40:24.90] A: Użyłeś już dzisiaj tego określenia. Wrócę do niego. Nikt tutaj do nas ani z podziemi, ani z innej planety nie przyleci, żeby nam te wszystkie prawa formułować. To jest ciągle jeszcze w naszych rękach. Więc to od nas tak naprawdę zależy, w którą stronę to pójdzie i czy zadbamy o te nieprzekraczalne granice, czy też, co jest dużo prostsze, a człowiek jest leniwy i tu widziałabym niebezpieczeństwo, oddamy swoją wolność za dość dużą, płacąc za tą dość dużą cenę. Bardzo Państwu dziękuję. Bardzo Ci dziękuję. Piotr Celiński. Profesor Piotr Celiński był naszym gościem.
[01:40:24.92 → 01:40:25.34] B: Bardzo dziękuję.