ИИ как свидетель убийства: как алгоритм машинного обучения ошибочно сажает человека в тюрьму

2 лет назад 435

Это обвинение в убийстве было предъявлено подозреваемому в кратчайшие сроки: в мае прошлого года 65-летний Майкл Уильямс из Чикаго, штат Иллинойс, США, взял с собой в поездку на машине своего 25-летнего соседа Сафариана Херринга. Когда Уильямсу пришлось остановиться из-за пробок, другой автомобиль, как говорят, остановился рядом с авто Уильямса. Затем пассажир этого авто вытащил пистолет и произвел выстрел Херрингу в голову. Уильямс хотел, чтобы раненого как можно скорее доставили в больницу. Однако Херринг скончался от огнестрельного ранения, и Уильямс оказался на скамье подсудимых — его обвинили в совершении преступления. Как так получилось, ведь версия Уильмса выглядела вполне правдоподобно? ИИ обнаруживает выстрел в непосредственной близости от предполагаемого преступника Инструмент компании Shotspotter представил важные улики против Уильямса. Компания, работающая в различных городах США, включая Чикаго, установила сеть микрофонов по всему городу. Они записывают шумы, которые затем исследуются с помощью алгоритмов машинного обучения. Если ИИ обнаруживает звуки выстрелов, он предупреждает полицию. По словам прокуратуры, технология Shotspotter зафиксировала выстрел в точке, где Уильямса можно было увидеть на кадрах с камеры наблюдения в его машине. В отсутствие кого-либо вблизи это должно свидетельствовать о том, что Уильямс застрелил Херринга. Однако полиции не удалось найти ни мотива, ни очевидцев, ни орудия убийства. Только показания ИИ и криминальное прошлое Уильямса говорили в пользу его виновности. В молодости Уильямс отбыл срок в тюрьме за попытку убийства, грабежа и стрельбу из пистолета. Однако 65-летний мужчина утверждал, что коренным образом изменил свою жизнь и не имел никакого отношения к преступлению.

Фейерверк или взрыв?

При ближайшем рассмотрении деталей инцидента общественные защитники обвиняемого обнаружили, что ИИ Shotspotter изначально не зафиксировал ни одного выстрела вблизи дома Уильямса. Скорее, речь шла о звуке фейерверка, запущенного в километре от дома. Позже сотрудники Shotspotter вручную переклассифицировали звук как выстрел возле дома Уильямса. Компания Shotspotter утверждает, что доказала это с помощью обширного судебно-медицинского анализа. Этих заявлений и представленного анализа было недостаточно для судьи, тем более что мать жертвы сообщила, что ее сын будет застрелен на автобусной остановке за две недели до убийства. В конце концов, в июле этого года прокуратура отозвала отчет Shotspotter в качестве доказательства и потребовала закрыть дело из-за недостаточности доказательств. «Я продолжаю пытаться выяснить, как им сойдет с рук использование технологии против меня таким образом», — сказал Уильямс в ходе углубленного расследования этого дела.

 

Первоисточник