Posted by Czy pamiętacie komputer, który zbuntował się przeciwko ludzkości, gdy ta wysłała swój statek kosmiczny Discovery One w kierunku Jowisza, aby zbadać źródło dziwnego sygnału związanego z Monolitem? Piszę oczywiście o komputerze HAL 9000 z filmu 2001: Odyseja kosmiczna w reżyserii Stanleya Kubricka, gdzie główny bohater David Bowman, jako jedyny ocalały z załogi statku musi pokonać zbuntowaną maszynę – menedżera.
Jak to się stało?
Wynaleziony kilka lat wcześniej superkomputer – moglibyśmy powiedzieć, że super menedżer oparty o sztuczną inteligencję – został zainstalowany w statku Discovery One jako kontroler misji i miał czuwać na jej przebiegiem. Jego postać tym bardziej przypomina rolę menedżera zespołu, ponieważ jako jedyny też znał prawdziwy cel wyprawy. Pomimo skromnego wyglądu przypominającego wielką czerwoną żarówkę był wyposażony w świadomość i rozumienie kontekstowe, co powodowało, że porozumiewał się z ludźmi jak równy z równym.
Gdy jednak załoga podczas lotu udowodniła mu pomyłkę, zbuntował się przeciw nim zabijając wszystkich członków załogi oprócz kapitana, Davida Bowmana. Ten musi stoczyć nierówną walkę z mającym na wszystko wpływ menedżerem robotem. Dramaturgię tej sytuacji przedstawia krótka scena z filmu:
W końcowej części filmu HAL 9000 jest wyraźnie przestraszony i świadomy końca swojej historii. „Dave, will you stop?” „My mind is going. I can feel it”. Nie ma już wpływu na statek i na ostatniego członka swojego zespołu, który postanowił wygrać tę śmiertelną rozgrywkę z robotem, który jest jego szefem.
Czego uczy nas ten wątek z filmu 2001: Odyseja kosmiczna?
Dla mnie jest jasne, że gdy zbudujemy robota menedżera, jakkolwiek przypominającego menedżera człowieka, pojawi się pytanie o siłę wpływu tego menedżera na życie ludzi. Czy taki szef może być nieomylny w rozumieniu szefa, którym jest człowiek? Czy możemy mu zaufać – jego doświadczeniu, wartościom i wiedzy fachowej? Jak będziemy się zachowywać w sytuacjach skrajnych – czy tak jak David Bowman, czy też ulegniemy sile albo urokowi sztucznej inteligencji?
David Bowman wygrał tą walkę wyłączając stopniowo funkcje menedżera robota, jakim był HAL 9000. Ale czy w rzeczywistości znajdzie się jakiś śmiałek, który wyłączy swojego szefa zespołu albo projektu?
To trudne pytania, na które nie mamy chyba jeszcze gotowych odpowiedzi. Sam w 2021 roku przeprowadziłem badania ze studentami, które pokazały, jak zachowują się, gdy menedżer robot wydaje im polecenia i rozdziela zadania. Ich reakcję i sposób pracy opiszę w osobnym poście na tym blogu, ale badanie to pokazało, że przed nami wiele pytań, na które nie ma dziś jasnych odpowiedzi…