16-latek w Baltimore przeżył traumę – szkolny system wykrywania broni omyłkowo ściągnął na niego szwadron uzbrojonych policjantów.
To, że AI potrafi popełniać błędy – czasem bardzo banalne – wie chyba każdy, kto korzystał z czatbotów czy generatorów grafik. W codziennym użytkowaniu możecie co najwyżej narobić sobie kłopotu, jeśli nauczyciel dopatrzy się wyssanych z cyfrowego palca informacji w wygenerowanej przez ChatGPT rozprawce, ale poważniejszych konsekwencji raczej nie ma się co obawiać. Zupełnie inny ciężar odpowiedzialności leży jednak na służbach porządkowych, które używają sztucznej inteligencji do weryfikacji podejrzanych ludzi i obiektów – szczególnie w USA, gdzie wątpliwości rozwiązuje się kanonadą pocisków. Pewien 16-latek niedawno się o tym przekonał – skończyło się na niepotrzebnych nerwach, ale do tragedii zabrakło niewiele.
AI fatalnie się pomyliło. Do akcji wkroczyła policja z bronią w ręku
Opisywany przypadek dotyczy 16-letniego ucznia szkoły Kenwood High School w Baltimore. Taki Allen i grupa jego znajomych odpoczywali właśnie po treningu futbolowym, gdy nagle pojawiły się radiowozy na sygnale. Policjanci w USA są wyjątkowo wyczuleni na punkcie szkolnych strzelców, więc nie ma mowy o patyczkowaniu się – funkcjonariusze z bronią w ręku szybko dopadli do zdezorientowanego 16-latka i skuli go w kajdanki.
Chłopak został przeszukany i szybko okazało się, że alarm jest fałszywy. Nie uwierzycie jednak, co go wywołało – gniew policji sprowadziła na Allena pognieciona paczka chipsów.
Opakowanie po chipsach postawiło w stan gotowości kilka radiowozów
Nikomu nie trzeba wyjaśniać chyba, jak ogromnym problemem w USA są szkolne strzelaniny. Amerykanie prawa do broni oddać nie chcą, więc wymyślają mnóstwo dziwnych pomysłów na ochronę uczniów przed potencjalnymi strzelcami – wykrywacze metalu w podstawówkach, kuloodporne ścianki w klasach czy systemy automatycznego rozpoznawania broni, wspierane przez sztuczną inteligencję.
To właśnie taki system od firmy Omnilert został zainstalowany w ubiegłym roku w szkołach publicznych w hrabstwie Baltimore. Współgra on ze szkolnym monitoringiem, a jego zadaniem jest wykrywanie podejrzanych obiektów przypominających broń i alarmowanie służb.
W teorii brzmi to nieźle, bo historia nie raz pokazała, że szybka reakcja policji jest w stanie uchronić wiele istnień – wyjące za oknem syreny często bowiem wystarczają, by odwrócić uwagę szkolnych strzelców. Sprawa 16-latka z Baltimore udowadnia jednak, że skuteczność tego rozwiązania jest daleka od perfekcji – ba, ta pomyłka mogła skończyć się tragedią, gdyby Taki Allen nie zachował spokoju i wykonał w stresie podejrzane z punktu widzenia policji ruchy.
Przedmiot zidentyfikowany przez system jako broń okazał się bowiem pogniecioną paczką Doritosów – tak, opakowanie po chipsach postawiło w stan gotowości kilka radiowozów i zafundowało niewinnemu nastolatkowi niemałą traumę.
Kazali mi klęknąć, założyć ręce za plecy, skuć kajdankami. Przeszukali mnie i nic nie znaleźli. Myślałem tylko: „Czy ja umrę? Czy oni mnie zastrzelą?”. Pokazali mi zdjęcie i mówią: „To wygląda jak pistolet”. A ja na to: „Nie, to chipsy” – powiedział Taki Allen w wypowiedzi dla lokalnych mediów.
Firma odpowiedzialna za system przyznała, że doszło do niefortunnej pomyłki, ale mimo to przedstawiciele przekazali, że technologia działa zgodnie z przeznaczeniem. Szkoła niby zaoferowała pomoc psychologa, ale nastolatek twierdzi, że nikt nie skontaktował się z nim bezpośrednio – choćby po to, by przeprosić.
Poszkodowany nie chce wracać do szkoły, bo boi się, że policja znów przyjdzie, gdy otworzy paczkę chipsów lub napój. Nie ma co winić policjantów, bo zareagowali zgodnie z procedurami, jednak Amerykanom powinno dać do myślenia, jak groteskowy jest ustrój, w którym żyją.
Stock image from Depositphotos
