All About
Jak jednak wykazano podczas ostatniej konferencji Management Conference & Exhibition, zorganizowanej przez American Trucking Associations (ATA), bezrefleksyjne poleganie wyłącznie na automatycznej detekcji bez udziału człowieka staje się dla firm przewozowych potężną, cichą pułapką prawną.
Głównym zagrożeniem, przed którym ostrzegają eksperci branżowi – adwokat Doug Marcello (specjalizujący się w obronie firm transportowych) oraz Sean Ritchie (wiceprezes Solera Fleet Solutions) – jest tzw. błąd fałszywie ujemny (false negative). Ma on miejsce wtedy, gdy system AI nadzoruje pracę kierowcy, lecz nie potrafi rozpoznać rzeczywistego zagrożenia lub wykroczenia i w efekcie nie oznacza zdarzenia w panelu menedżera.
Większość współczesnych działów bezpieczeństwa w biznesach transportowych działa pod dużą presją czasu i korzysta z fabrycznie przefiltrowanych raportów. Oznacza to, że surowe nagrania wideo zawierające nieoznaczone, ale niebezpieczne nawyki kierowców leżą nietknięte w cyfrowych archiwach firmy.
Sean Ritchie określa to narastające ryzyko mianem „długu sądowego” (judgment debt). Automatyzacja daje przewoźnikowi złudne poczucie bezpieczeństwa, podczas gdy w tle bezgłośnie kumulują się dowody obciążające firmę:
„Oddajemy nadzór automatyzacji i przestajemy zadawać kluczowe pytanie: co system mógł przeoczyć? Usuwamy element ludzkiej inteligencji z równania, a «dług sądowy» zaczyna narastać, aż w końcu całkowicie tracimy kontrolę nad tym, czym naprawdę pragniemy zarządzać” – zauważa Ritchie.
Statystyki nie pozostawiają złudzeń. Zgodnie z najnowszymi badaniami dostawców technologii dla flot około 30% nagrań wideo zarejestrowanych przez systemy AI zawiera dodatkowe, wtórne czynniki ryzyka, których oprogramowanie w ogóle nie wychwyciło i nie zgłosiło.
W sprawach o poważne wypadki drogowe prawnicy powodów (reprezentujący poszkodowanych) rzadko ograniczają się do samych okoliczności zdarzenia. Korzystając z procedury ujawnienia dowodów (discovery), żądają dostępu do pełnych archiwów telematycznych i nagrań z kamer z ostatnich miesięcy, aby zbudować przed sądem narrację o systemowym zaniedbaniu ze strony przewoźnika.
Doug Marcello ostrzega, że firma transportowa nie może zasłaniać się w sądzie usterką technologiczną:
„Jeśli niebezpieczne zachowanie kierowcy zostało zarejestrowane na wideo, ponoszą Państwo za nie pełną odpowiedzialność. Tłumaczenie w stylu: ‘Przecież sztuczna inteligencja tego nie wyłapała’ zostanie przez sąd i ławę przysięgłych bezapelacyjnie odrzucone”.
Korzystając z taktyk procesowych, takich jak reptile theory (teoria manipulowania poczuciem zagrożenia u sędziów i przysięgłych), adwokaci poszkodowanych szukają jakichkolwiek dowodów na brak proaktywnej kultury bezpieczeństwa. Pojedynczy, powtarzający się wzorzec braku reakcji – np. udokumentowane na nagraniach objawy zmęczenia, przekraczanie prędkości czy gwałtowne hamowania, które leżały na serwerze, ale nigdy nie zostały omówione z kierowcą w ramach szkolenia – jest przedstawiany jako dowód rażącej obojętności korporacyjnej.
Tragiczny przykład z sali sądowej w Filadelfii mówi sam za siebie: ława przysięgłych zasądziła tam 26 milionów dolarów odszkodowania od przewoźnika, którego kierowca zjechał z pasa ruchu. Sprawa została rozstrzygnięta na niekorzyść firmy przede wszystkim na podstawie niezwiązanych z samym wypadkiem przypadków przekraczania prędkości z poprzedniego roku, które widniały w rejestrach floty i zostały zignorowane – mimo że biegli ds. rekonstrukcji wypadków z obu stron zgodnie zeznali, że prędkość nie była bezpośrednią przyczyną tej kolizji.
Marcello przestrzega również przed tzw. „pułapką nieświadomości” (discovery fallacy) – błędnym przekonaniem, że niewglądanie do archiwów chroni firmę przed odpowiedzialnością. Dane istnieją i w trakcie procesu zostaną wydobyte. Przewoźnik ma wybór: albo sam uprzedzi fakty, przeanalizuje nagrania i przeprowadzi coaching, albo rozliczy go z tego pełnomocnik powoda.
Automatyzacja procesów bezpieczeństwa jest potężnym narzędziem, ale w realiach amerykańskiego systemu prawnego pełne przekazanie kontroli w ręce samych algorytmów bez weryfikacji czystości danych przez człowieka jest prostą drogą do wyroku skazującego. Jak mawiał prezydent Ronald Reagan: „Trust, but verify” (Ufaj, ale sprawdzaj). W erze sztucznej inteligencji ta zasada staje się najważniejszą polisą ubezpieczeniową każdej firmy transportowej.
