Wraz z rozwojem autonomicznej technologii samochodowej istnieje jeden obszar, który pozostaje w tyle: akceptacja społeczna. W tym artykule przyjrzymy się niektórym dylematom etycznym i obecnym procesom sądowym, które nie pozwalają konsumentom akceptować i ufać samochodom autonomicznym.
Tytuł pracy “operator windy” jest obecnie rzadko słyszany, ale w latach 40. XX wieku sam Nowy Jork posiadał ponad 23 000 operatorów dźwigów w 2000 budynkach. Kiedy w 1945 r. Strajkowali, żądając wyższych zarobków, gazety donosiły, że windy w całym mieście były bezużyteczne, a “olbrzymie rzesze pracowników biurowych … zmagały się z klatkami schodowymi, które wydawały się nie mieć końca, włącznie z budynkami Empire State Building”.
Dziś koncepcja wydaje się dziwna: mężczyźni i kobiety płacą za stoisko lub siedzenie wewnątrz windy i “jeżdżą” od podłogi do podłogi. Być może pewnego dnia ludzie pomyślą, że to równie dziwne, że sami kierowaliśmy naszymi samochodami.
Jeszcze dziwniejsze jest to, że od 1945 roku w pełni zautomatyzowane windy były już dostępne od dziesięcioleci, ale pasażerowie niechętnie korzystali z nich, głównie ze względów bezpieczeństwa.
Czy rozwój autonomicznych pojazdów będzie przebiegał podobnie powoli? Czy opóźnienia w akceptacji społecznej będą opóźniać się o kilka lat za możliwościami inżynieryjnymi? Odpowiedzi na te pytania zależą od kwestii etycznych i odpowiedzialności, które wydają się być bardzo skomplikowane – a ostatecznie od publicznego postrzegania rozwiązań tych problemów przez branżę.
Problem z wózkiem
Jednym z popularnych sposobów wyróżnienia tych zagadnień jest uwzględnienie “problemu wózka”, eksperymentu myślowego, w którym podmiot zmuszony jest wybierać między dwoma nieprzyjemnymi rezultatami.
Wyobraź sobie, że droga przed autonomicznym pojazdem jest nagle zablokowana przez spadający głaz. Kolizja byłaby śmiertelna. Samochód musi wybierać pomiędzy wpadaniem na przeciwny ruch na drugim pasie lub zjechaniem z drogi do rzeki. Idealnie, chcielibyśmy, aby pojazd wybrał najmniej szkodliwy wynik. Być może wolelibyśmy, żeby samochód wpadł do rzeki i zaryzykował życie starszego kierowcy, zamiast rozbić się na autobus szkolnych dzieciaków (kierowca może oczywiście nie zgodzić się z nami).
Najwyraźniej jednak prosi się samochód, aby miał głębię zrozumienia świata, który jest daleko poza jakąkolwiek sztuczną inteligencją generacji. W rzeczywistości jest to wybór, który jest niemożliwy dla człowieka, aby w pełni rozważyć dostępne chwile. To samo w sobie pokazuje, że wpływ dodania sztucznej inteligencji generującej prąd do równania bezpieczeństwa jest być może zawyżony.
Ważne jest, aby zdać sobie sprawę, że te trudne kwestie etyczne i odpowiedzialności nie są nowe. Dzieje się tak dlatego, że żyjemy już w świecie, w którym złożone systemy obejmujące ludzi, maszyny i przyrodę wchodzą ze sobą w interakcję i powodują nieprzewidywalne skutki. Żyjemy już w świecie, w którym zwykle nie mamy zasobów ani informacji, aby podejmować optymalne decyzje przez cały czas – możemy tylko zrobić wszystko, co w naszej mocy. Opracowano już obszerne standardy i kodeksy najlepszych praktyk, które mają pomóc deweloperom w tym złożonym świecie.
FTC vs. D-Link
Eksperymenty myślowe, takie jak The Trolley Problem, mają do odegrania rolę w dostarczaniu teoretycznych ram dla zrozumienia zagadnień etycznych i odpowiedzialności. To są przykłady z życia wzięte, takie jak niedawny przypadek, w którym FTC złożył pozew przeciwko producentowi sprzętu IoT, D-Link, za zaniedbanie w zakresie ochrony swoich klientów przed atakami hakerskimi, które ilustrują, jak odpowiedzialność jest oceniana przez system prawny w rzeczywistości. .
Oto kilka kluczowych zwrotów z tego przypadku: według FTC “wrażliwe dane” konsumentów były zagrożone. FTC twierdzi, że firma twierdziła, że jej produkty są “łatwe do zabezpieczenia”, ale w rzeczywistości “nie podjęła racjonalnych kroków w celu” uniknięcia “powszechnie znanego i dającego się przewidzieć ryzyka.”
Przykład FTC kontra D-Link jest jednym przykładem, ale sugeruje, w jaki sposób firmy mogą zmniejszyć swoją potencjalną odpowiedzialność poprzez badanie potencjalnych zagrożeń, budowanie niezawodnych systemów, aby poradzić sobie z tymi zagrożeniami – i na koniec ostrożność w swoich twierdzeniach dotyczących bezpieczeństwa produktów.
Autonomiczni projektanci systemów pojazdowych mogą zacząć od zapoznania się z międzynarodowymi standardami bezpiecznego oprogramowania i sprzętu, takimi jak podstawowy standard IEC 61508 i jego pochodna samochodowa, ISO 26262. Normy te określają wytyczne dotyczące projektowania produktów i systemów o kluczowym znaczeniu dla bezpieczeństwa przez cały cykl rozwoju – począwszy od wstępnej oceny ryzyka.
Wniosek
Możemy mieć nadzieję, że któregoś dnia testy udowodnią, że pojazdy autonomiczne są znacznie bezpieczniejsze niż kierowca ludzki i uratują życie, a następnie zostaną szybko przyjęte. Jednak przez wiele dziesięcioleci przyjęcie opinii publicznej na temat automatycznych wind sugerowało inaczej. Wiadomo, że windy zostały zaakceptowane, ponieważ technologia była testowana i sprawdzana przez wiele lat, a jak pokazał strajk operatorów wind w Nowym Jorku w 1945 roku, rosnące koszty pracy spowodowały, że operatorzy ludzcy stali się nieopłacalni.
