Posted by To kolejny wpis pokazujący znane osoby, które przestrzegają przed niekontrolowanym rozwojem sztucznej inteligencji. Przypomnę, że dyskusja na ten temat trwa dopiero od kilku tygodni, może miesięcy, gdy firma Open AI wypuściła dostępną dla wszystkich wersję swojego robota GPT pod nazwą ChatGPT. Dopiero wtedy odezwały się głosy, że należy zaprzestać na 6 miesięcy eksperymentów z tą technologią, a w tym czasie zorganizować wielką debatę nad ochroną ludzkości przez sztuczną inteligencją i zasadami użycia tej technologii.
Mówi o tym jeden z moich ulubionych autorów książek na ten temat, Max Tegmark. Zobacz na YT: Max Tegmark interview: Six months to save humanity from AI? | DW Business Special
Główne wnioski z tego wywiadu są następujące:
Po pierwsze, inteligencja nie jest tylko cechą ludzką, ale może być cechą istot, które jesteśmy w stanie stworzyć. To coś całkowicie nowego w historii ludzkości.
Po drugie, z tymi istotami mamy dzielić planetę, a przecież szybko będą od nas bardziej inteligentne, jeśli już nie są. I to jest niebezpieczne.
Po trzecie, rozwój sztucznej inteligencji jest tak jak wyścig do klifu, którego istnieniu każdy zaprzecza. A przecież w tym wyścigu uczestniczą wielkie korporacje, które wcale nie chcą się zatrzymać w obawie przed swoimi akcjonariuszami.
I w końcu, po czwarte – to nie jest niebezpieczny wyścig, tylko to jest samobójczy wyścig.
Najbardziej przekonuje mnie wniosek trzeci – ze względu na to, że w wyścigu biorą udział firmy notowane na giełdzie i nastawione na zysk, nie można go zatrzymać. Jednak takich wyścigów było już przecież wiele w historii ludzkości – rozwój kolei, samolotów pasażerskich (w których można by robić wszystko jak najmniejszym kosztem, a są najbezpieczniejszym środkiem transportu) czy w końcu sprzedaży przez Internet. Wszystkie te dziedziny życia funkcjonują, żadna nie pochłonęła ludzkości w chaosie lub zniszczeniu.
Wiem, że sztuczna inteligencja jest bardziej inteligentna niż my, jednak jak już pisałem kiedyś – to my trzymamy rękę na przełączniku zasilania. I inaczej być nie może, bo to fizyczny świat, dostępny tylko człowiekowi.
Kim jest Max Tegmark?
Obecnie Max Tegmark pracuje jako profesor fizyki w Massachusetts Institute of Technology. Głównym celem jego badań jest fizyka inteligencji: wykorzystanie technik opartych na fizyce do lepszego zrozumienia biologicznej i sztucznej inteligencji (AI). Był jednym z czterech naukowców (obok Stephena Hawkinga, Franka Wilczka, i Stuarta Russella), którzy w roku 2014 wystosowali apel do czytelników brytyjskiej gazety The Independent, w którym ostrzegali przed bagatelizowaniem inteligentnych maszyn i postrzeganiem ich wyłącznie w kategoriach science fiction. Otrzymał wiele nagród za swoje badania, w tym Packard Fellowship (2001–2006), Cottrell Scholar Award (2002–2007) oraz NSF Career Grant (2002–2007); jest członkiem Amerykańskiego Towarzystwa Fizycznego.