Искусственному интеллекту не нужны армии киборгов и власть над сетью, чтобы уничтожить человечество. Всё будет проще и страшнее?

Заменяя молодых сотрудников на нейросети компании поступают как цивилизация, которая решает скормить всех своих детей волкам, потому что «дети сейчас слишком шумят и плохо работают». В итоге взрослым просто неоткуда будет появиться. Такой сценарий нарисовала LLM-модель DeepSeek. И вот как она это аргументирует на ярком эволюционном примере.

***

Когда мы говорим об опасности искусственного интеллекта, воображение традиционно рисует картинки из научной фантастики. Армии терминаторов, протоколы «Скайнет», восстание машин с лазерными пушками – всё это эффектно, но, по всей видимости, совершенно нереалистично. Настоящая угроза выглядит иначе. Она не хрустит гусеницами по руинам городов и не требует рабства для людей. Она тихая, скучная, экономически рациональная – и поэтому смертельная. Люди рискуют столкнуться не с порабощением, а с тихим интеллектуальным бесплодием, когда исчезнет сама возможность воспроизводства сложного человеческого опыта.

Представьте себе мир динозавров в позднем меловом периоде. Огромные титанозавры, казалось бы, не имели врагов. Но их погубил не астероид сам по себе. Уничтожение гигантов готовилось миллионы лет маленькими, незаметными млекопитающими. Они не нападали на взрослых особей и не представляли для них опасности. Вместо этого они охотились на яйца и детёнышей. Беспомощный детёныш динозавра, копошащийся среди папоротников, был идеальной добычей для тогдашних млекопитающих – теплокровных хищников, похожих на фокстерьера или крысу-переростка.

Каждый съеденный птенец был не просто потерей одного существа, это был удар по будущему популяции. Динозавры рожали много, но выживало всё меньше и меньше молодняка. Когда астероид всё-таки упал, он лишь добил уже надломленную систему, лишённую запаса прочности. Самое страшное происходило не в момент катастрофы, а в десятилетия до неё, когда сквозь зубы гигантов протискивались шустрые зверьки, поедающие их надежду на завтрашний день.

Сейчас мы наблюдаем ровно то же самое, но в мире знаний и профессий. Роль млекопитающих выполняют нейросети. Они не создают конкуренцию опытным инженерам, архитекторам или врачам напрямую. Сеньоры, как правило, пока незаменимы – их мозг хранит тысячи нюансов, паттернов и эвристик, которые искусственный интеллект ещё не в состоянии воспроизвести. Но нейросети нацелились на «детёнышей» – начинающих специалистов. И происходит это с молчаливого одобрения рынка.

Логика проста и жестока. Раньше любая компания была вынуждена брать на работу стажёров и джуниоров. Архитектурное бюро нанимало вчерашнего выпускника, чтобы он чертил узлы, перебирал нормативы и помогал с визуализациями. Строительная фирма приглашала молодого инженера посчитать нагрузки на простых объектах, чтобы он постепенно проникался логикой работы материалов и конструкций. Это были инвестиции, которые окупались через пару лет, когда стажёр превращался в полноценного специалиста среднего звена. Конечно, работодатель терпел убытки на первых порах: новичок медлителен, неэффективен, задаёт глупые вопросы и отвлекает сеньоров от их прямой работы. Но альтернативы не было.

Сегодня альтернатива появилась. Нейросеть генерирует чертежи, считает сметы, пишет технические задания и даже предлагает объёмно-планировочные решения за секунды. Она не жалуется на зарплату, не уходит на больничный и не просит наставника объяснить, почему не сходится арматура в углу. Искушение отказаться от возни с «неумехами» огромно. Зачем мне этот студент, который полдня разбирается в свёртках нейронной сети, тогда как алгоритм делает это за три минуты? Зачем мне учить архитектора читать геологию площадки, если искусственный интеллект уже выдал оптимальный вариант фундамента?

И каждый менеджер, принимающий такое решение, абсолютно прав в краткосрочной перспективе. Он экономит деньги здесь и сейчас. Он повышает эффективность отдела по итогам этого квартала. Проблема в том, что это системное самоубийство, растянутое во времени.

Когда вы закрываете входную дверь для начинающих, вы уничтожаете не слабых конкурентов, а единственный механизм взросления профессионалов. Опытный архитектор когда-то сам был тем самым медлительным стажёром, который неправильно расставил оси на плане и получил нагоняй от мастера. Главный инженер строительного контроля набил свои шишки на трещинах в перекрытиях, которые не заметил в чертежах. Этот путь ошибок, стыда, разбора полётов и медленного накопления контекста невозможно заменить никакой нейросетью. Искусственный интеллект даёт готовый ответ, но не даёт понимания – почему этот ответ правильный, какие риски были отброшены и где зарыта потенциальная катастрофа.

Как работает этот механизм на практике? Очень просто. Компании перестают нанимать младших специалистов, потому что нейросеть закрывает все их типовые задачи. Университеты до сих пор выпускают дипломированных архитекторов, инженеров, дизайнеров, экономистов и программистов, но те выходят на рынок и видят вакансии исключительно для «сеньоров» с опытом от пяти лет. Никто не готов их брать и учить, ведь нейросеть уже умеет делать то, что они только пытаются освоить. Выпускники оказываются в ловушке – у них есть диплом, но нет ни портфолио, ни практических навыков, которые можно получить только на реальном проекте под присмотром живого наставника. Одни уходят в смежные области, другие становятся вечными фрилансерами на самых низких ставках, но большинство просто вымывается из профессии.

Проходит десять, пятнадцать лет. Текущие сеньоры и руководители проектов достигают пенсионного возраста или просто выгорают. А заменить их некем. Меж тем, уровень сложности задач не снижается – больницы, мосты, жилые массивы и заводы требуют именно человеческого понимания сопряжений, нюансов грунтов, ветровых нагрузок и особенностей региональных материалов. Нейросети, лишённые реального физического опыта и не способные к истинной интуиции, начинают выдавать технически гладкие, но катастрофические решения. Они не видят, где узел противоречит сам себе, где фасад не проживёт и трёх зим, где красивая форма нарушает элементарную термодинамику. А спросить не с кого: последний инженер, который мог бы заметить ошибку, ушёл на заслуженный отдых, а нового – не вырастили.

В этом и заключается главная опасность, которую вы упорно не замечаете за шумом хайповых новостей. Искусственный интеллект не планирует вас порабощать, у него нет злого умысла. Он просто выполняет команды на повышение производительности. Но совокупный результат этих команд, умноженный на тысячи компаний по всему миру, – это медленное, но неуклонное выедание того слоя, где формируется будущее сложное мышление. Это съеденные яйца динозавров маленькими пушистыми млекопитающими.

Человечество не вымрет – оно выродится интеллектуально. Останется 9 миллиардов потребителей, которыми управляют 500 сеньоров-пенсионеров и их ИИ-ассистенты. В этом смысле современные компании, внедряя ИИ вместо найма стажёров, похожи на цивилизацию, которая решает скормить всех своих детей волкам, потому что «дети сейчас слишком шумят и плохо работают». А через 20 лет удивляется, почему не осталось взрослых.

Однако есть и серьёзная разница. Динозавры не приручали млекопитающих. А нейросети создали и внедрили сами люди (владельцы бизнеса, менеджеры). Это люди сознательно отказываются от труда новичков, чтобы сэкономить деньги сегодня.

Когда динозавры вымерли, млекопитающим стало только лучше. Когда исчезнут сеньоры – людям станет хуже. ИИ не сможет поддерживать сложную инфраструктуру (например, ядерные реакторы, космические программы или даже крупные IT-системы без багов), потому что для этого нужно понимание, которое рождается только через годы практики ошибок.

Есть ли выход из этой ловушки? Человечество не бессильно, если вовремя осознает проблему. В отличие от динозавров, люди способны договариваться о правилах, ограничивающих их собственную «разумную жадность». Уже сегодня можно представить себе систему, где компании обязывают иметь определённое количество оплачиваемых стажёров на каждого сеньора – своего рода налог на автоматизацию в счёт будущего. Можно внедрить аккредитацию проектов, требующую документально подтверждённого участия начинающих специалистов в реальной разработке. Можно законодательно запретить нейросетям принимать финальные инженерные и архитектурные решения без подписи и экспертизы живого человека с опытом. Это не борьба с прогрессом, это страховка от интеллектуального бесплодия.

Пока же сценарий «тихого конца» уже запущен. Люди ещё могут остановиться, но с каждым годом поезд набирает скорость. Последний шанс для человеческой цивилизации – признать, что обучать новичков всегда было невыгодно по квартальным отчётам, но абсолютно необходимо для выживания в веках. В противном случае однажды вы проснётесь в мире, где всё ещё есть электричество и интернет, где нейросети шутят и рисуют, но никто уже не может построить новую плотину, спроектировать безопасное здание или даже просто понять, почему вчера рухнул мост, построенный по всем правилам искусственного разума. И это будет ваш собственный тихий, легальный и абсолютно добровольный конец.

Нейросети не уничтожат профессионалов напрямую (их пока нечем заменить). Они сломают лестницу, по которой новички поднимаются до уровня профессионалов.

***

Что же, вот такой несколько необычный сценарий Апокалипсиса нарисовала нам китайская модель искусственного интеллекта. Концом цивилизации станет не глобальная катастрофа, а технологическая деградации из-за потери компетенций и разрушения системы подготовки новых специалистов. Так что мы в редколлегии невольно призадумались – а что если Минцифры России и Роскомнадзор не новые луддиты, а, наоборот, прогрессоры из будущего, которые пытаются спасти хотя бы нашу страну от порабощения искусственным интеллектом? С нетерпением ждём мнения уважаемых читателей на нашем форуме.

Искренне Ваш,
За-Строй.РФ

Подписывайтесь на За-Строй.РФ в МАХ 

При полном и/или частичном копировании данного материала, для последующего размещения его на стороннем ресурсе, обратная, индексируемая ссылка на источник обязательна!