Skip to main content
Zapraszamy

Czytelników, rozmówców na forum, Autorów, Blogerów, Redaktorów,...

Przeczytaj o możliwościach korzystania z witryny i współpracy

Salon Business Dialog Klub Inspirations Klub Dialog CIO Business Meeting Point Kwintesencja Projekty Business Dialog

Sztuczna inteligencja - kto zaciągnie hamulec? A jak było w przypadku bomby atomowej?

November 18, 2019 by Anonimowy

Tak się złożyło się, że ostatnio sporo czytałam i rozmawiałam o wybitnych fizykach i matematykach XX wieku, wśród których było też sporo Polaków, jak Stanisław Ulam, Leopold Infeld czy Józef Rotblat. Rotblat był też laureatem pokojowej Nagrody Nobla, paszport miał brytyjski, ale urodził się i 30 lat mieszkał w Polsce, zawsze uważał się za Polaka i do końca życia płynnie mówił po polsku. Życie ich wszystkich rozdarte było na kilka krajów, bo przypadło na okres II wojny światowej i późniejszy podział świata przez żelazną kurtynę. Ale nie o tym chciałam mówić.
Wszystkich trzech łączy również to, że pracowali nad bombą atomową, Ulama można uważać wręcz za jej współtwórcę. Każdy z nich miał też wielki dylemat, czy swoją pracą naukową - w tym tą związaną z powstaniem bomby atomowej - czynią świat lepszym. Miało go też wielu innych naukowców, różnych narodowości. Nauka być może jest zawsze dobra, ale jej zastosowania niekoniecznie. Na ile naukowcy - albo też nowych narzędzi, technologii - odpowiadają za te zastosowania?
Warto się nad tym zastanowić w kontekście AI i skorzystać z wniosków, bo dzisiaj sztuczna inteligencja jest taką bombą atomową, która ma dać nowy lepszy świat, ale ten szlachetny cel może zostać wypaczony przez ludzi o nieszlachetnych intencjach. Bomba atomowa miała uratować wolny świat, ale mogła też stać się igraszką sił zniewalających. I dzisiaj nie wiadomo jak będzie, ale pewne sposoby ograniczania tego ryzyka znaleziono, rozpoznano też te ryzyka, z początku nieoczywiste. 
Przykład tych trzech naukowców jest pouczający, bo to konkretni ludzi, z konkretnymi życiorysami, mający wpływ na produkt niezwykle silnie oddziałujący na rzeczywistość.
Stanisław Ulam nie miał żadnych wyrzutów sumienia, że pracuje nad bombą, ponieważ nie wierzył w NATO, nie wierzył że NATO powstrzyma Związek Radziecki, uważał NATO za chwyt propagandowy, w ogóle nie ufał wojskowym. Natomiast ufał naukowcom, wierzył, że dopóki naukowcy zajmują się bombą, będą w stanie powstrzymać jej nieodpowiedzialne używanie przez fanatyków. Sam nazywał swój pogląd idealistycznym. 
Życie jednak wykręciło mu psikusa w postaci poważnej choroby mózgu, podczas której majaczył, miał halucynacje, opowiadał niestworzone rzeczy, ale także mówił o swojej pracy w Los Alamos. Były bardzo poważne obawy, czy w trakcie choroby nie zdradzi mimowolnie tajemnic swojej pracy nad bombą. Nic takiego co prawda się nie stało, został wyleczony, ale pozostało pytanie, co dzieje się z naszą wiedzą, gdy tracimy władzę nad naszym rozumem i wolą w skutek choroby.
Leopold Infeld, wybitny fizyk, współpracownik Einsteina, też przyczynił się do powstania bomby, z czego nie był dumny. Ale istotniejszy jest inny wątek. Jeszcze przed wojną znalazł się w Kanadzie, pracował na Uniwersytecie w Toronto. Po wojnie pragnął wrócić do Polski, nie znając w ogóle komunistycznych realiów, ale szczerze pragnąc przyczynić się do rozwoju nauki w Polsce. Był naiwny, uważał, że chodzi o naukę a nie wzmocnienie sił militarnych Rosji, został wykorzystany przez komunistów w grze propagandowej z Zachodem, ale w żadną współprace w wojskiem czy służbami nie dał się wciągnąć.  Zapłacił za powrót do Ojczyzny utratą zaufania europejskich i amerykańskich naukowców, przypuszczających, ż pracuje na rzecz komunistów, został ogłoszony zdrajcą, odebrano mu obywatelstwo kanadyjskie. Ale spełnił to, co uważał za swoją misję życiową: zbudować warunku do rozwoju fizyki w Polsce, nadać jej wysoką rangę. Ostatecznie też włączył się do działań opozycji  antykomunistycznej,  został też zrehabilitowany przez Uniwersystet Toronto. Jego syn Eryk był wybitnym polskim naukowcem, również traktującym naukę jako patriotyczne powołanie.
Jednak ta okoliczność - chęć służby nauce swojej Ojczyzny, nawet wtedy gdy ta Ojczyzna jest we władzy wojowniczego reżimu oraz naiwność naukowca w sprawach politycznych - jest jednym z ryzyk, gdy dana osoba jest posiadaczem ważnej wiedzy w takiej sprawie jak bomba atomowa czy sztuczna inteligencja.
A teraz Józef Rotblat. 
W czasach zimnej wojny Rotblat został czołowym krytykiem koncepcji odstraszania militarnego za pomocą posiadania broni masowej zagłady. Przekonywał, iż broń taka zagraża dalszemu istnieniu ludzkości. Wraz z Bertrandem Russellem doprowadził do powstania w 1957 międzynarodowego ruchu pacyfistycznego uczonych działających na rzecz rozbrojenia nuklearnego pod nazwą Pugwash. Ruch ten skupiał ludzi nauki z obu stron dzielącej Europę na pół „żelaznej kurtyny”. Rotblat dążył do zbliżenia naukowców z obu bloków politycznych oraz ich solidarności przeciwko rozwijaniu badań naukowych mogących owocować nowymi rodzajami broni. Postulował, aby naukowcy przyjęli sposób postępowania na wzór lekarskiej przysięgi Hipokratesa, tzn. aby powstrzymywali zaspokajanie własnej ciekawości naukowej i samoograniczali się w badaniach, jeśli ich wyniki mogłyby okazać się zgubne dla świata.
W 50 rocznicę Hiroszimy otrzymał Pokojową Nagrodę Nobla.
Słowo należy się Russellowi, wybitnemu brytyjskiemu filozofowi, matematykowi, literatowi i działaczowi społecznemu. Otrzymał nagrodzę Nobla, ale też siedział w więzieniu za sprzeciw wobec wojny, wyrzucano go z uczelni i oskarżano o brak moralności - ten wzór moralności!!!! Był gościem otwarcie krytykującym chrześcijaństwo za podwójną moralność, czlowiekiem prawdziwym i szczerym do bólu, pacyfistą w każdym calu, nie akceptującym jakiejkolwiek wojny. Skarb wydawałoby się, ale tylko dla wybitnych umysłów. Einstein bronił go przed represjami tymi słowami: „wspaniałe osobowości zawsze napotykały na brutalną opozycję miernych umysłów". Russell był człowiekiem czynu, działał na rzecz swoich ideałów. 
Tak to właśnie jest. Liczy się osobista postawa człowieka, który świadomie ponosi konsekwencje swoich poglądów, a nie tylko je głosi.
Dzisiaj w wielu firmach, na uczelniach, w agendach rządowych pracuje się nad rozwiązaniami sztucznej inteligencji, która w postaci bardziej zaawansowanej niż obecna będzie mieć wielką moc rażenia. Nawet jeśli napiszemy kodeksy postępowania, nawet jeśli założymy prawne ograniczenia i zasady, nawet jeśli odpowiednio wykreujemy rachunek ekonomiczny, nawet jeśli powołamy kontrolujące organizacje międzynarodowe, zawsze pozostanie ryzyko w postaci człowieka, który ma w głowie kluczową wiedzą, a który jest poddany różnym emocjom, uczuciom, chorobom, ułomnościom oraz  intelektualnym i moralnym ograniczeniom. 
Uważam, że jeśli zdecydujemy się na rozwój sztucznej inteligencji, to po pierwsze, przede wszystkim musimy skupić się na jakości człowieka, starając się z całych sił formować ludzi mądrych, czułych i zaangażowanych,  a po drugie, nastawmy się na najgorszy możliwy scenariusz.

Jeśli nie, to lepiej zaciągnijmy hamulec.

W blogu Spostrzeżenia 11/18/2019 - 00:59 Czytaj

Business Dialog Bulletin - widok książki

Premium Drupal Themes by Adaptivethemes