Moralność maszyn

Wyobraźmy sobie, na pasach mamy dwie grupy ludzi idących w pewnej odległości od siebie jedna za drugą. Z przodu idzie matka z dzieckiem, z tyłu staruszka o lasce. Ominąć się nie da, zahamować też. Gdzie skierować samochód?

 

 

Już jakiś czas temu dano badanym do wykonania pewien proste zadanie. Jest stacja kolejowa mająca dwa tory, główny i boczny. Złoczyńca przywiązał do toru głównego pięć osób, do toru bocznego jedną. Zwrotnica ustawiona jest na tor główny, ale masz po ręką przycisk a jego naciśnięcie zmieni położenie zwrotnicy i pociąg pojedzie na tor boczny zabijając zamiast pięciu tylko jednego człowieka. Zjeżdża pociąg, którego zahamować nie można. Masz dwie możliwości. Naciśniesz przycisk to TY zdecydujesz o śmierci 1 osoby. Nie naciśniesz zginie pięć, ale będziesz bez winy, złoczyńca tak zadecydował. Nie robiąc nic masz jak Piłat "czyste ręce", to nie ja odpowiadam, to złoczyńca. Naciśniesz, śmierć tej osoby spada na ciebie bo to ty zadecydowałeś/aś o tej śmierci. Przyjdzie dziecko tej osoby i zapyta, dlaczego zabiłeś mi matkę, ona była bezpieczna, była na bezpiecznym torze, to tamtych chciał zamordować złoczyńca. A co by było, gdyby tą osobą był ktoś ci znany?

 

 

Niby sprawa dla producentów samochodów kierowanych sztuczną inteligencją jest prosta. Zbadać statystyczne zachowania kierowców w analogicznych wypadkach i to odzwierciedlić w generatorze losowym inteligencji samochodu. Czyli np. w pierwszym przykładzie z matką z dzieckiem i staruszką raz na 10 razy samochód kieruje się na matkę z dzieckiem, 9 razy na staruszkę.

 

 

Dziś za wypadek odpowiada kierowca, w ocenie społecznej nawet pieszemu, który złamał przepisy przypisuje się większą sympatię. Bo przecież każdy z nas jest pieszym, a nie każdy kierowcą. Dodatkowo, z reguły to pieszy ma boleśniejsze obrażenia. W mojej prywatnej ocenie w prasie istnieje taka tendencja: znajdziesz tam tytuł artykułu "Samochód/kierowca potrącił pieszego" a z tekstu wynika, że pieszy wlazł pod pojazd w miejscu gdzie nie powinien wogóle się znajdować (kiedyś czytałem tego typu tytuł w artykule o wypadku w którym pieszy wlazł pod samochód na autostradzie). „Samochód potrącił człowieka na autostradzie" brzmiał tytuł. Widzimy człowieka - pieszego, a kierowca to już nie człowiek i jego przecież nie boli. Nie sądzę, by można było znaleźć tytuł sugerujący, że to pieszy spowodował wypadek, choćby szedł w czarnym ubraniu, deszczową nocą, środkiem drogi między wsiami. To oczywiście moje odczucie, nie poparte żadnymi badaniami tylko własną obserwacją, ale czy nie jest tak?

 

 

W przypadku samochodu kierowanego sztuczną inteligencją odpowiedzialność przechodzi na sztuczną inteligencję, a że tę oskarżać trudno to na producentów i twórców oprogramowania. Jak znamy system prawny w USA, gdzie w każdym szpitalu siedzi pomocnik prawnika i każdego zmartwionego pacjenta próbuje przekonać, że to lekarz zawinił, a nie wina tego, że pacjent ten palił papierosy pół życia. A z reguły prawnicy, odszkodowań szukają u bogatych, a producent bogaty i nikt nie będzie mówił, że dzięki odebraniu człowiekowi kierownicy wypadkowość spadła o... a, że był wypadek a wypadków nie miało być, z biznesowego punktu widzenia poprawa bezpieczeństwae może okazać się nieopłacalna. Bo winnym na pewno nie będzie pieszy a ta "piekielna maszyna". Nadal znaczna część społeczeństwa nie ma pojęcia, że istnieje coś takiego jak "droga hamowania".

 

 

Mamy więc sytuację przynajmniej dwóch typów badań,  jedne oparte o rzeczywiste zachowania kierowców w wypadkach. Tych, którzy w sytuacji stresu, strachu o własne życie, o życie pasażerów w samochodzie z którymi emocjonalnie kierowca związany jest znacznie bardziej niż np. z takim przechodniem co mu się pojawi przed nosem na drodze. On zachowa się zupełnie inaczej, niż by zadecydował w fotelu przed telewizorem. I ta pierwsza metoda badań z pewnością lepiej by odzwierciedlała rzeczywistą prawdę.

 

 

Z drugiej strony mamy badania na ludziach zupełnie nie zaangażowanych emocjonalnie. Ot siedzi sobie w pokoju badany i odpowiada jak by zareagował w danej sytuacji, i wie on, że za chwilę skończą się badania odbierze te kilka zł. za wsparcie dla nauk i pójdzie na kawę. Tu głównie zadziałają zasady moralne, przy wyborze uderzyć w dziecko czy staruszka uderzysz w staruszka. Bo ten przeżył już swoje życie, a przed dzieckiem całe życie. Nie będziesz myśleć, że obok ciebie siedzi twoje dziecko bo nawet "śmierć" tego dziecka będzie tylko wirtualna, nie rzeczywista z konsekwencjami żałoby, traumy. I znowu sędzia rozstrzygający sprawę będzie przecież należał do tej drugiej grupy, on też wie, że jak zdejmie togę to wróci spokojnie do domu na ulubioną lampkę wina, czy koniaku.

 

 

Do tego dojdą naciski marketingowe. Bo przecież w mojej marki (producent) samochodzie nie może zginąć pasażer, bo klient nie po to kupuję samochód ze sztuczną inteligencją, nie po to rezygnuje z przyjemności kierowania, by ten nie chronił niego i jego współpasażerów. Nawet jeśli z punktu widzenia zimnego rachunku przydatności dla społeczeństwa jego współpasażer jest tym "mniej wartościowym". Jeśli musi ktoś ucierpieć, to już niech ucierp ten drugi uczestnik ruchu.

 

 

I rodzi się kolejne pytanie, czy jeśli maszyna zadziała zgodnie w tak ustawionym programem to na pewno społeczeństwo zaakceptuje, że za wszystkie wypadki odpowiadają ludzie? Szmochód działa ściśle z zasadami, człowiek nie. Ile razy mówimy, ten głupi komputer nie działa a nie, moja głupota, nie nacisnąłem odpowiedniego przycisku. W naszej mentalności winę ponosi zawsze ten drugi a nie ja i niekiedy ciężko przekonać "delikwenta", że to jednak on był winien. Patrz program telewizyjny „Drogówka”

 

 

Po co w ogóle takie sprawy rozważać, przecież samochody te mają być bezwypadkowe, mają chronić nas przed wypadkami? Tu pojawia się pojęcie „czynnik ludzki”. Samochody te będą jeździły zgodnie z zasadami ruchu. Ale ludzie? Jakże często, traktują te zasady jako zbędną uciążliwość. Po co czekać na światłach, kiedy nic nie jedzie? Po co iść do przejścia dla pieszych, gdy mogę przebiec tu gdzie stoję, choćby to była dwupasmowa droga tylko dla samochodów? Dla niektórych wręcz będzie to chwila satysfakcji.