- Testując nasze oprogramowanie, nie znaleźliśmy ani jednej sytuacji, w której auto ze sztuczną inteligencją musiałoby wybierać między życiem kierowcy a pieszego - zauważa dr Michael Fausten, wiceszef ds. inżynierii systemów i jazdy autonomicznej w firmie Bosch.
W razie potrzeby będziemy naprawiać wadliwe oprogramowanie. Tak, jak to robimy w przypadku częściowo automatycznych systemów zamontowanych w obecnych samochodach.
Rzeczywiście będziemy dostarczać do samochodów autopilota podobnego do tego z samolotów, ale pamiętajmy, że w kokpicie jest dwóch żywych pilotów, wytrenowanych do działania w momencie jakiekolwiek awarii czy nawet podejrzenia usterki. Jeśli coś jest nie tak, to piloci są zobowiązani do przejęcia kontroli nad samolotem. My nie chcemy, żeby kierowca musiał obserwować jazdę systemu, chcemy zaoferować mu system, na którym będzie mógł polegać. Czarna skrzynka w samochodzie będzie po to, żeby w razie wypadku odtworzyć sytuację i sprawdzić, czy zawinił system, czy też inny uczestnik ruchu drogowego. Samochody autonomiczne będą uczestniczyć w wypadkach , ale to nie oznacza, że z powodu błędu systemu SI: w ruchu drogowym mamy wielu uczestników, pieszych, rowerzystów, a także autobusy czy inne pojazdy motorowe prowadzone przez ludzi, które nadal będą w użyciu.
Nie uważam, żebyśmy mieli więcej wypadków z udziałem autonomicznych samochodów, niż mamy obecnie z powodu prowadzenia pojazdów przez kierowców. Systemy nie popełniają tylu błędów, ile ludzie – 90 proc. wypadków powstaje z powodu błędu człowieka. Samochody autonomiczne będą bezpieczniejsze. Będziemy je programować w taki sposób, aby zachowywały się nieco bardziej defensywnie niż człowiek, może nawet jeździły nieco wolniej – a na pewno zgodnie z przepisami. Będą zostawiać więcej przestrzeni dla innych samochodów. Czyli tam, gdzie zwykły kierowca próbowałby wcisnąć się na rondzie, tam samochód autonomiczny grzecznie poczeka na swoją kolej. Każdy ewentualny błąd systemu będziemy traktować bardzo poważnie i aktualizować oprogramowanie naszych pojazdów.
Taka opcja będzie możliwa w przyszłości, jednak nie w najbliższej perspektywie. . Na początku chcemy zaoferować autopilota, którego kierowca będzie mógł włączyć wedle uznania. . Z kolei niektórzy lubią prowadzić swoje auto więc będą mogli wyłączyć system SI.
Jest pięć poziomów automatyzacji pojazdu. Wymienione przez pana ułatwienia zaliczamy do pierwszego i drugiego – w których kierowca musi nadzorować działanie systemu, bo on może popełniać pewne błędy. Poziom trzeci oznacza, że kierowca jest zwolniony z odpowiedzialności za prowadzenie pojazdu, ponieważ my bierzemy za to odpowiedzialność. Mogą się jednak zdarzyć sytuacje, w których samochód nie będzie sobie w stanie poradzić i wówczas zakomunikuje kierowcy, by zainterweniował biorąc kierownicę w dłonie. Przykładowo pojawi się monit, że za 3-4 kilometry będzie przeszkoda, która może wymagać ludzkiej ingerencji. Jeśli kierowca w odpowiednim czasie nie przejmie kierownicy, pojazd się zatrzyma. Poziom czwarty oznacza brak tego typu monitów, piąty – brak monitów, kierownicy, a nawet kierowcy. Obecnie pracujemy nad poziomem trzecim i czwartym.
Nasze samochody będą jeździć defensywnie i uważnie. Przyczyną zdarzenia, które pan opisuje jest najczęściej szybka i nieuważna jazda – co sprowadza daną sytuację do takiego scenariusza: czy musi zginąć kierowca, czy pieszy. Jeśli uczestnicy ruchu drogowego będą przemieszczać się bezpiecznie, to nasz samochód, jadąc bezpiecznie, nie zrobi im krzywdy. Jeśli coś lub ktoś wyskoczy nagle przed maskę standardowego samochodu to jego kierowca nie ma większego wyboru, czy skręci w lewo czy też w prawo. Nie ma fizycznej możliwości zareagować. Jeśli musielibyśmy rozpatrywać scenariusze, czy auto wjeżdża w jedną, czy drugą grupę ludzi, to znaczy że na poziomie projektowania systemu popełniliśmy błąd.
Nie mamy takiego algorytmu. Mamy zasady typu: „trzymaj się drogi”, „unikaj kolizji”, „jeżeli jest ślisko - jedź wolno”. A gdy zbliża się pieszy: „zachowaj odległość”. Jeżeli pieszy rzeczywiście przechodzi przez jezdnię, to samochód go widzi. Wiedząc, że droga jest śliska, zmniejsza prędkość i zachowuje dystans, dzięki czemu nawet w razie nieprzewidzianej sytuacji, może zdążyć wyhamować. Nie unikam odpowiedzi, tylko mówię, że zaaplikowaliśmy takie zasady prowadzenia, by zminimalizować ryzyko wypadku. Obecne niemieckie prawo dotyczące prowadzenia pojazdów już w pierwszym artykule zastrzega, by kierowca tak prowadził pojazd żeby był w stanie go zatrzymać przed przeszkodą, którą widzi.
Testując nasze oprogramowanie od dłuższego czasu w warunkach laboratoryjnych nie znaleźliśmy ani jednej sytuacji, w której samochód musiałby dokonać wyboru między życiem kierowcy a pieszego. Dzięki bezpiecznej jeździe ryzyko wypadku jest zminimalizowane tak bardzo, że samochód może mieć kolizję tylko wówczas, gdy fizycznie nie jest możliwe, by jakikolwiek pojazd zdążył zareagować. Kiedy auto się porusza, na bieżąco analizuje około 50-60, czasem więcej scenariuszy i ocenia, który ruch będzie najbezpieczniejszy. Jeżeli nagle liczba tych scenariuszy drastycznie się zmniejsza, to pojazd będzie poruszał się jeszcze ostrożniej, na przykład dzięki zmniejszeniu prędkości..
To prawda. Ale zmniejszamy ryzyko tak bardzo, że zostaje tylko niewielki margines na sytuacje, w których nie da się nic zrobić, bo pojazd jest zbyt ciężki, albo obiekt wybiegł wprost przed maskę.
Mamy już teraz regulacje, które mówią co zrobić w takich sytuacjach. Jeżeli pieszy przechodzi przez jezdnię w miejscu niedozwolonym albo na czerwonym świetle, czego kierowca nie mógł przewidzieć, to nie będzie on obciążony winą. Pamiętajmy, że w każdym przypadku, mamy obowiązkowe ubezpieczenie OC, które pokrywa straty. Jeżeli chodzi o odpowiedzialność karną, to kierowca używający autopilota też nie będzie mógł być sądzony, bo nie popełnił żadnego błędu.
W razie gdyby rzeczywiście udowodniło się, że zawiniło oprogramowanie, czyli np. widziało pieszego i mogło zareagować, ale tego nie zrobiło – producent będzie ponosił odpowiedzialność. Chcemy tego jednak uniknąć za wszelką cenę.
Tylko w pewnym zakresie. Mianowicie wraz z innymi firmami opracowujemy sposoby ich testowania, ustalamy podstawowe zasady zachowania tych pojazdów na drodze, zajmujemy się też kwestią zabezpieczenia danych osobowych. Wszystko odbywa się na przykład dzięki kooperacji w ramach VDI (Zrzeszenie Niemieckich Inżynierów) oraz VDA (Zrzeszenie Branży Motoryzacyjnej) lub projektów finansowanych przez rząd. Ale co do zasady, niemieckie firmy pracują nad własnymi rozwiązaniami, tworząc czasem niewielkie partnerstwa przy opracowywania sensorów, oprogramowania i układów scalonych.
Są podejmowane kroki żeby ustanowić odpowiednie przepisy również w Niemczech. W niektórych krajach już wyznaczono miejsca, w których można testować autonomiczne pojazdy. W Niemczech takie obszary są planowane na autostradach, ale również w strefach zamieszkanych. Nieco ponad miesiąc temu niemiecki rząd opublikował pierwszy draft prawa umożliwiającego jazdę samochodem z SI.
Europejskie firmy wciąż mają czas, by opracować własne systemy SI, zauważamy również polityczną wolę Komisji Europejskiej, by uregulować tę kwestię pod względem prawnym. Pamiętajmy też, że równie ważna jest kwestia homologacji pojazdów – obecnie zajmuje się nią Europejska Komisja Gospodarcza. W tym zakresie mamy nawet więcej problemów do rozwiązania, bo zagadnienie homologacji musi się odbywać w porozumieniu z instytucjami na całym świecie, nie tylko w Unii Europejskiej.
Materiał chroniony prawem autorskim - wszelkie prawa zastrzeżone.
Dalsze rozpowszechnianie artykułu za zgodą wydawcy INFOR PL S.A. Kup licencję.
Wpisz adres e-mail wybranej osoby, a my wyślemy jej bezpłatny dostęp do tego artykułu