Судный день от ИИ

Первым шагом в этом направлении стала так называемая концепция технологии машиночитаемого права! Документ был подготовлен в недрах инновационного центра и уже утверждён Правительственной комиссией по цифровому развитию, использованию информационных технологий для улучшения качества жизни и условий ведения предпринимательской деятельности.

Поскольку представленные сколковскими специалистами материалы сами больше всего похожи на текст, сгенерированный нейронной сетью, поясним, о чём идёт речь, простыми словами. Концепция машиночитаемого права, как и все остальные цифровые задумки пришла к нам с бездуховного Запада, а подразумевает она внедрение в судебную деятельность искусственного интеллекта. Что, по замыслу идеологов построения светлого киберпанковского будущего, поможет автоматизировать работу судей, сократив количество судебных ошибок, упростив доступ к юридическим услугам, а самое главное – заменив «человеческий фактор» на беспристрастные вердикты электронного разума.

Как пишут в монографиях, концепция машиночитаемого права состоит из алгоритмов, работающих на основе математической логики. Эта логика должна обеспечить трансформацию контрольно-надзорной деятельности государства, повысить комфортность и предсказуемость делового климата, а заодно обеспечить экономический рост и рост инвестиционной привлекательности. Для того, чтобы это прекрасное судебное далёко наступило и не было с нами жестоко, как раз и нужно каким-то образом перевести действующее законодательство в удобный для нейросетей формат. Желательно так, чтобы от бесчисленных коллизий, нормативных несообразностей и странных юридических вывертов у бедных компьютеров не закоротило контакты.

Надо сказать, что сколтеховская концепция сама тоже больше напоминает абстрактные рассуждения за всё хорошее против всего плохого, чем конкретные предложения, как новая система может быть реализована. Да ещё и при описании используется язык, который снова наводит на мысль, что эксперты наукограда сами уже активно переложили свою работу на нейронку. Вот типичный образчик:

Нотации, применяемые для формального описания объектов, в первую очередь – методы и средства онтологического проектирования, требуют использования специальных навыков и технических средств, которыми сообщество юристов в основном не обладает.

В сухом остатке в самой концепции и пояснительной записке подробно анализируются сдерживающие факторы внедрения ИИ в юриспруденцию. Среди них отмечают:

1. Отсутствие удобных инструментов работы с формально-юридическим описанием права в привычных для юристов текстовых и презентационных форматах.
2. Медленное развитие инструментов формального проектирования и интерпретации норм, защищающих от когнитивных искажений, свойственных отдельным людям с определённой точкой зрения или набором убеждений.
3. Есть риск существенного повышение цены ошибки при принятии регуляторных решений, а также многократно усиливаются негативные последствия от выбора решений, нарушающих баланс интересов в экономической и иных сферах.
4. Применение формального языка при подготовке нормы либо при её последующем использовании может затруднить общественный контроль за качеством вновь принимаемых регуляторных требований.
5. Автоматизация правоприменения создаёт риски некорректного распознавания обстоятельств правонарушения на основании первичных данных, включая идентификацию обстоятельств, подтверждающих тот или иной юридически значимый факт. Проще говоря, сделав правовые нормы понятными для нейронок, законотворцы могут превратить их же в совершенно непонятные для человека. На которого они, по идее, и должны быть рассчитаны.

Также указывается на необходимость «стимулирующих факторов для расширения применения формальных языков в праве». То бишь, бюджетное финансирование новых разработок и закрепление требований в законодательстве.

Как полагают авторы концепции, необходим рост количества норм, представленных с помощью формальных языков, а также совместимость формальных представлений норм, полученных в различных условиях, в том числе в рамках экспериментальных правовых режимов. При этом предлагается на первом этапе выделить несколько областей права для проведения таковых экспериментов и предложить сферы для создания полезных правовых моделей.

Идеи о том, чтобы заменить субъективное человеческое правосудие безупречным цифровым звучит уже давно. Но на практике реализуется как-то не очень. Например, в Нью-Йорке ещё в ковидные времена была прекращена деятельность программы, которая решала, отправить подсудимого в камеру или оставить под домашним арестом. Причиной послужило крайне нетолерантное поведение цифрового разума, который кошмарил исключительно негров и латиноамериканцев, оставляя белых граждан на свободе.

В России была нашумевшая история с ложным задержанием учёного-гидролога Александра Цветкова, которого обвинили в убийствах 20-летней давности. При этом следственные органы не смутило ни наличие алиби, ни полное отсутствие улик на месте преступления – отпечатков пальцев подозреваемого, ни каких-либо других его следов.

Единственным аргументом стал вердикт компьютерной программы, которая обнаружила 53-процентное сходство учёного с фотороботом (!) убийцы. В итоге господину Цветкову пришлось полгода провести в тюрьме и ещё столько же под домашним арестом, а спасло только наличие влиятельных друзей в научном мире, которые смогли достучаться до президентского совета по правам человека и рассказать о ситуации в ходе личной встречи у Главы государства Владимира Путина. При этом сами силовики никакого раскаяния в своих действиях не высказали и извинений пострадавшему от произвола человеку не принесли, ограничившись кивками на неправильно работающую программу…

При полном и/или частичном копировании данного материала, для последующего размещения его на стороннем ресурсе, обратная, индексируемая ссылка на источник обязательна!