Сбой программы ценой в жизнь

Не очень радостные новости приходят к нам из сферы высоких технологий в юриспруденции. Замоскворецкий суд Москвы отменил арест учёному-гидрологу Александру Цветкову. Его обвиняли в убийствах 20-летней давности. При этом суд наложил на гражданина Цветкова запрет определённых действий. В частности, ему запрещается общаться с участниками судебного процесса с помощью средств связи и интернета.

Вроде бы, эка невидаль, ошибка следствия. Но пикантность ситуации придаёт то, что совершил эту ошибку искусственный интеллект. Точнее, нейронная сеть, которая нашла 55-процентное совпадение между фотороботом реального преступника и лицом Александра. Для силовиков это оказалось достаточным аргументом, чтобы отправить господина Цветкова на нары и продержать там более полугода.

Задержали его в феврале 2023-го в аэропорту Домодедово, когда тот возвращался с очередной экспедиции. По версии следователей, в 2002 году скромный учёный-гидролог на пару с рецидивистом Андреем Алёшиным по кличке Буратино ограбили и жестоко расправились с жителем посёлка Городище в Подмосковье. Затем преступники отправились в Москву, где ради наживы зарезали пенсионерку. Через ещё 10 дней два негодяя оказались в доме по Ярославскому шоссе и в квартире совершили двойное убийство. Следователи утверждали, что Александр Цветков в то время не имел определённого места жительства и находился на площади трёх вокзалов, периодически отлучаясь в Подмосковье для совершения преступлений.

Все контраргументы на силовиков не произвели никакого впечатления. Ни то, что учёный никогда не имел криминального прошлого и связей в уголовной среде. Ни ходатайства знакомых и коллег, которые как один утверждали, что учёный отличается доброжелательным характером и неконфликтен. Откровенно дико выглядело само знакомство с рецидивистом Андреем Алешиным, который указал на Александра Цветкова как на сообщника.

Многие специалисты и родные жертв также указывают на странности в деле об убийстве и роли в нём Александра Цветкова. В частности, вызывает вопрос то, что к месту первого убийства он сумел добраться, якобы, всего за два часа, а также даже успел за это время сходить за пивом в магазин с товарищем. Наконец, в 2002 году, когда были совершены преступления, учёный находился в экспедиции с коллегами, что было подтверждено показаниями и документами.

На местах преступлений не было найдено ни отпечатков пальцев подозреваемого, ни каких-либо других его следов. Несмотря на это, Александр Цветков провёл полгода в СИЗО, а затем ещё полгода был под домашним арестом.

Ситуация разрешилась только благодаря тому, что друзья учёного смогли добиться рассмотрения дела в Совете при Президенте России по развитию гражданского общества и правам человека, а после член СПЧ Ева Маркачёва рассказала о случае при встрече с Владимиром Путиным. Президент в ответ пообещал детально изучить вопрос. Сама правозащитница отреагировала на решение эмоциональной записью в соцсетях:

Учёный Александр Цветков, о котором я рассказала Президенту, на свободе! Суд постановил «освободить из-под стражи в зале суда». Ура троекратное! Людям нужна вера в справедливость. Иначе никак. И эта история возвращает надежду.

Вот такая занятная история из прекрасного будущего с нейронными сетями и искусственным интеллектом. Получается, что сходства человека даже не с фотографией, а фотороботом, то бишь нарисованной по памяти картинкой, хватило, чтобы задержать его в качестве подозреваемого. Наводит на раздумья и уровень совпадения – 55%, то есть, чуть более точно, чем при подбрасывании монетки «то ли похож, то ли нет».

На днях сообщалось о новых инициативах Минтранса России, который планирует с 1 сентября сего года ввести новый порядок формирования автоматизированных баз персональных данных о пассажирах и персонале (экипаже). Данные должны передавать перевозчики на воздушном, водном и железнодорожном транспорте, а также автотранспорте при междугородном и международном сообщении (кроме рейсов между Москвой и Подмосковьем, Петербургом и Ленобластью). Помимо данных паспорта и билета, перевозчиков обяжут передавать в единую базу данные о банковских картах, IP-адресах, телефонах, адресах электронной почты и пароли учётных записей. Чиновники уверяют, что госсистема хорошо защищена, а отслеживание аномалий в данных позволит быстрее вычислять преступников.

То есть, просто покупая билет на вокзале или в аэропорте каждый из нас получает неиллюзорный шанс встретить суровых людей с усталыми лицами, которые предложат пройти «куда надо» и там разобраться «как положено». Как видим, иногда разбираться приходится очень долго. Учёному ещё повезло – у него нашлись достаточно влиятельные знакомые, чтобы добиться личного участия Президента. А чем бы всё закончилось, если бы ситуация не вызвала общественного резонанса. Жутковатая подробность – после одной из ночей в ИВС Александр Цветков полностью сознался в одном из совершённых преступлений.

Налицо ещё один риск искусственного интеллекта, о котором пока мало кто говорит. И это даже не допускаемые им ошибки, а безграничные возможности для исполнителей и официальных лиц безнаказанно прятаться за программные решения и уходить от ответственности. «А мы чё, вон, программа сказала – это он...». Любой, кто сталкивался со странной модерацией в соцсетях, с банковскими блокировками или тому подобными карательными мерами, знает, что добиться от персонала ответа, в чём состоит нарушение и как его исправить, практически невозможно. Вам скажут, что так решили алгоритмы и отошлют читать километровые правила. Удобство ситуации для сотрудников в том, что они больше ни за что не отвечают! Всё программа, а с неё какой спрос.

И ладно, когда цена ошибки – блокировка копеечного (или даже рублёвого) денежного перевода. А когда это жизнь человека, как в случае с несчастным Александром Цветковым? Или жизнь сотен и тысяч людей – как может быть в случае с экспертными решениями в строительстве, которые начнут выносить по заключениям нейросетей?

При полном и/или частичном копировании данного материала, для последующего размещения его на стороннем ресурсе, обратная, индексируемая ссылка на источник обязательна!