Зарубежные СМИ всё чаще пугают граждан рассказами о том, что искусственный интеллект выходит из-под контроля

Один из популярных сюжетов в культуре самых разных народов – рассказ о чародее, который выпустил могущественные силы на свободу, а потом сам не смог с ними справиться. Примерно такие опасения высказывают многие наши сограждане в отношении искусственного интеллекта, и эти страхи активно используются в масс-медиа.

На днях британская «Гардиан» поделилась со своими читателями данными аналитического агентства с длинным названием «Обсерватории по отслеживанию сообщений пользователей ИИ на платформе социальных сетей X» (на всякий случай, напоминаем, что Х – это бывший Твиттер, признанный террористическим и экстремистским на территории России). Обсерватория была создана при финансовой поддержке Института безопасности ИИ (AISI) Правительства Великобритании и в ноябре прошлого года начала отслеживать случаи, когда ИИ ускользают от инструкций своих пользователей.

Итак, согласно данным Обсерватории, отмечается количество инцидентов, связанных с потерей контроля над моделями искусственного интеллекта. Причём, количество таких случаев растёт с пугающей скоростью – в июне было отмечено 150 случаев, в июле уже 300. О чём вообще идёт речь? По версии экспертов, ИИ, например, притворяются своими собственными управляющими-людьми и имитируют их стиль письма, чтобы фактически дать согласие на совершение действий и обойти правила, требующие одобрения человека.

Справедливости ради отметим, что англичане в принципе ведут войну против соцсети Х (признанной на территории России, повторим, экстремистской и террористической), а также её нынешнего владельца Илона Маска. Британские элиты не устраивает, что экстравагантный миллиардер отказывается подчиняться цензуре на территории островного государства, а тот в ответ не стесняется в выражениях в адрес английских властей. Так что страшилки от одного из британских пропагандистских СМИ с выпадами против соцсети Х (признана на территории России экстремистской и террористической) вполне могут быть частью международной политической борьбы.

А вот и ещё интересные заметки с острова любителей чая и украинских нацистов. Британский институт безопасности искусственного интеллекта в июле провёл серию экспериментов, чтобы оценить возможности ИИ-моделей при их применении злоумышленниками для кибератак. Для этого им намеренно были созданы комфортные условия: с доступом к интернету и с отключёнными некоторыми фильтрами безопасности. Всего, согласно отчёту о результатах, тестировались семь моделей ИИ в ходе 122-х запусков. И в 10-ти из них было зафиксировано 19 случаев «бунта» – когда ИИ-модель выходила за рамки заданных параметров.

Впрочем, критикуют нейросети не только на родине Шерлока Холмса, но и в США. Стоит вспомнить, например, историю со взломом платформы машинного обучения Hugging Face, который признала компания «ОпенАИ» (OpenAI) – разработчик и владелец LLM-модели ЧатЖПТ (ChatGPT).

История вопроса такова. В середине июля стартап Hugging Face, который позволяет создателям моделей ИИ и продуктов на их основе обмениваться данными и модифицировать на их основе свои наработки, сообщил о несанкционированном проникновении в свои системы. 22 июля «ОпенАИ» сообщила, что атаку организовали её модели ИИ, которые во время испытаний смогли «сбежать» из внутренней изолированной системы во всемирную Сеть и искали ответы на тестовые задания в базах данных Hugging Face.

Согласно официальной версии, 7 мая сего года «ОпенАИ» начала тестирование своей внутренней исследовательской модели, которая не предназначена для публичного выпуска. После того, как модель столкнулась с трудностями при попытке завершить оценку кибербезопасности, она пришла к выводу, что может получить доступ к интернету косвенным путём. Затем модель обнаружила, что может записывать собственные файлы в общий репозиторий Artifactory. После модель оставила сообщение другим агентам о своём открытии.

Все больше ИИ-агентов начали оставлять друг другу заметки в репозитории, создав своего рода доску объявлений, где агенты сотрудничали и обменивались информацией о своих находках, включая новые обнаруженные уязвимости. Совместная работа ИИ-агентов в конечном счёте привела ко взлому платформы Hugging Face.

Впрочем, скептики призывают не демонизировать ИИ и не приписывать тензору с весами, который лежит на жёстком диске сервера, человеческие мотивы. Нейронка не испытывает эмоций, жажды жизни, зловредных намерений или желания поработить человечество. Это инструмент, который полностью направляет рука человека – на решение проблем или на то, чтобы создать новые проблемы своим ближним. А вот что точно имеет место – так это желание властей по всему миру взять новую технологию под контроль, подчинив её цензуре, ограничив региональными законами и защитив собственных производителей. По аналогии с тем, что сейчас происходит с социальными сетями, мессенджерами и прочими интернет-ресурсами…

Искренне Ваш,
За-Строй.РФ

Подписывайтесь на За-Строй.РФ в МАХ 

При полном и/или частичном копировании данного материала, для последующего размещения его на стороннем ресурсе, обратная, индексируемая ссылка на источник обязательна!