На Западе чрезмерное увлечение руководителей и менеджеров ИИ-решениями постепенно начинают рассматривать как психическое отклонение

Пока российские власти и крупный бизнес с энтузиазмом внедряют всё новые и новые решения в области искусственного интеллекта, западные специалисты, которые начали этот процесс раньше и успели продвинуться гораздо дальше, переживают своего рода похмелье. Уже стало понятно, что ИИ не способен решить все вопросы, а издержки от новой технологии в большинстве случаев перевешивают выгоды. Однако переломить корпоративный тренд оказывается не так-то просто.

Недавно популярный айти-портал Habr опубликовал перевод статьи Ника Суреша. Это австралийский дата‑инженер родом из Малайзии. Отмучившись в паре крупных корпораций, он основал консалтинговую фирму, помогающую небольшим клиентам налаживать работу с данными. И в последнее время господин Суреш столкнулся с необычной проблемой – бизнес упрямо требует внедрения ИИ, невзирая на любые аргументы о том, что в данном конкретном случае это может быть не просто невыгодно, но прямо опасно для дела. Предлагаем читателям наиболее интересные, на наш взгляд, идеи этой статьи.

Автор начинает с цитаты одного из крупных венчурных инвесторов, Митчела Хасимото:

Я убеждён, что целые компании сейчас в состоянии ИИ‑психоза, с ними невозможно нормально общаться на тему ИИ. Не буду называть имена, потому что среди этих людей есть мои хорошие друзья, но мне страшно представить, чем всё это может для них закончиться.

Со своей стороны он отмечает массовое помешательство по всему частному и государственному сектору, связанное с некритичным отношением к ИИ. Лица, принимающие решения, либо не строят конкретных планов на будущее, либо вообще не видят для себя вариантов, кроме как не высовываться – будь то в банках, медицинских учреждениях, государственных органах или где‑то ещё. По всему миру руководство организациями захватили «легковозбудимые граждане, писающие кипятком от восторга при любом упоминании ИИ», а их более уравновешенные коллеги «вынуждены жить в постоянном страхе и фрустрации».

Эксперт утверждает, что среди всех ИИ‑проектов, в которых он сам участвовал или с которыми сталкивался по работе, процент успеха составил ровно 0%. Даже там, где ИИ помог ускорить отдельные задачи, он совершенно не оправдывает затрат на него. Часто проблема даже не в самом ИИ, а вообще в катастрофически слабом управлении разработкой.

Часто проблема оказывается в принципиальных ограничениях LLM. Самый типичный сценарий, который бизнес пытается внедрить по всему миру – это внутренний чат‑бот для нужд сотрудников, или, для более рисковых – внешний чат‑бот, общающийся с клиентами. Конец как всегда предсказуем. От внутренних чат-ботов нет вообще никакой пользы, сотрудники просто не пользуются ими, потому что LLM – не телепат, он знает только то, что описано в документации, а внутренняя документация у компаний обычно слабая.

Внешние же чат-боты и другие ИИ вызывают лишь раздражение клиентов, которые сразу же пытаются пробиться через электронного болтуна к живому оператору. Единственное исключение, которое смог припомнить эксперт, была нейронка, конспектировавшая разговор с врачом во время приёма – но одного этого недостаточно для ИИ-бизнеса. В обоих случаях руководители проектов старательно избегают очевидных ключевых метрик типа того, пользуется ли вообще кто‑нибудь их продуктом, и выбирают такие метрики, которые легко накрутить. Отсюда он делает неутешительный вывод:

Теперь я глубоко убеждён, что практически все заявления об огромных приростах производительности – откровенная ложь. Даже если у кого‑то где‑то есть прирост, я отнесусь к этому как к исключению, а не к правилу.

По словам Ника Суреша, руководители и топ-менеджеры компаний оказались в заложниках корпоративного тренда. Если человек сомневается в эффективности ИИ, то он предпочитает держать своё мнение при себе, чтобы не поставить под угрозу свою карьеру и репутацию. Он отмечает, что «истинно верующие в ИИ» доминируют в корпоративном обществе, но есть много ораторов и руководителей ИИ‑инициатив, которые в глубине души не верят в то, что сами говорят. Наконец, есть циничные прагматики, которые прекрасно понимают, что искусственный интеллект не способен оправдать возлагаемые на него надежды, но тем не менее, поддерживают всё, что с ним связано – чтобы продавать программные продукты, разгонять акции, получать финансирование от государства или инвесторов.

Наконец, автор предлагает свои советы как «пересидеть пузырь» и выжить в условиях массового ИИ-помешательства. Советы эти, надо признать, чем-то напоминают рецепты общения с душевнобольными или хроническими алкоголиками. Приводим их как есть, с небольшими сокращениями технических терминов.

1. Смиритесь. С ИИ‑помешательством Вы скорее всего ничего не поделаете, и проблема здесь не в ИИ, а в поломанной корпоративной культуре.

2. Если Вы начинаете сходить с ума, попробуйте уйти на контрактную работу. Я давно всем её советую, потому что так обычно можно больше заработать, при этом не участвуя в корпоративных интригах. В худшем случае Вы хотя бы будете знать дату окончания сотрудничества.

3. Я стараюсь ограничивать потребление информации, связанной с ИИ – всё равно оно только впустую отнимает время. Не обязательно совсем отказываться от новостей про ИИ, но при первых же признаках психических нарушений немедленно прекращайте их употребление. То же касается и жалоб друзьям; также обязательно объясните им причину своего брюзжания, чтобы поменьше раздражать их.

4. Когда кто‑то рассказывает мне, как он использует ИИ не по назначению, я молча улыбаюсь и киваю (кроме случаев, когда это что‑то опасное для жизни), даже если это мой родственник. Точнее, особенно если это родственник.

5. Когда кто‑то интересуется моим мнением как программиста, я обычно отвечаю, что от ИИ больше суеты, чем пользы, и меняю тему (кроме случаев, когда от мнения этого человека зависит что‑то важное). Если Вы не программист, то тем более поступайте именно так.

6. Если на работе Вам надо отревьюить тонну сгенерированного говнокода, то от этого Вы гарантированно выгорите и будете уволены. Вряд ли удастся убедить коллег не спамить Вас пулл‑реквестами на 2000 строк. Не тяните время, начинайте искать другую работу.

7. Если менеджер пишет Вам явно сгенерированное письмо, ответ тоже генерируйте нейронкой. Это сэкономит Вам нервные клетки и время на поиск новой работы. Не бойтесь, что это будет выглядеть бестактно – даже наоборот, Вы продемонстрируете черту истинно верующего в ИИ. Знаю, бред, но им это, правда, нравится.

Итак, перед нами мнение откровенного техноскептика. Кому-то оно может показаться излишне предвзятым или пессимистичным. Однако стоит напомнить, что человек, который высказал такие мысли, живёт в западной цивилизации, которая уже успела пройти тот путь, по которому сейчас направляют и нас: первое знакомство с нейронками, скепсис и недоверие, энтузиазм, отношение как к универсальному решению, понимание неизбежных ограничений, разочарование…

А посему небольшая толика холодной воды может быть очень полезна для горячих голов, которые сегодня безоглядно настаивают на цифровизации всего и вся. Безотносительно к реальным запросам отрасли и техническим возможностям.

Искренне Ваш,
За-Строй.РФ

Подписывайтесь на За-Строй.РФ в МАХ 

При полном и/или частичном копировании данного материала, для последующего размещения его на стороннем ресурсе, обратная, индексируемая ссылка на источник обязательна!