Под таким нестандартным названием российские учёные опубликовали статью по вопросам совместной работы человека и нейросети

Манифест был размещён в журнале «Высшее образование в России» и стал итогом исследовательского семинара на базе Института гуманитарных и социальных технологий Национального исследовательского университета «Высшая школа экономики» (НИУ ВШЭ).

Авторы обращаются к широкому кругу исследователей, педагогов и практиков, обеспокоенных судьбой наук о человеке и обществе в эпоху искусственного интеллекта. Главный тезис состоит в том, что эти дисциплины утрачивают первенство в объяснении собственного предмета и контроль над языком его описания. Ответом на этот вызов должна стать стратегия «эпистемического кентавра» – под этим понимают единый познающий субъект, в котором человеческое сознание и искусственный интеллект работают в общем когнитивном контуре.

Первая часть документа фиксирует разрыв между живой социальной реальностью и её научным описанием. Скорость общественных изменений превышает возможности академических исследований: явления возникают и исчезают раньше, чем наука успевает сказать о них нечто осмысленное. Параллельно растёт поток профанных исследований и «быстрых простых ответов», генерируемых с участием искусственного интеллекта, что опережает темпы создания обоснованного знания. Прирост вычислительной мощности не оборачивается приростом понимания, а принятый порядок публикаций не позволяет науке высказываться вовремя.

Особую тревогу авторов вызывает то, что выводы о человеке и обществе всё чаще делаются системами, работающими без участия человека. Автономный режим внедряется ради эффективности, и чувствительность предметной области отступает перед конкурентным давлением. Наука и образование склоняются к стратегии запрета и контроля, уступая в состязании «простых ответов» институтам с меньшей эпистемической требовательностью. Концептуальный язык описания человека попадает в зависимость от логики обучения искусственного интеллекта, что ведёт к усреднённым исследовательским стратегиям, нечувствительным к цивилизационным различиям.

В качестве альтернативы предлагается эпистемический кентавр – единый функциональный субъект познания, в общем когнитивном контуре которого познавательную работу ведут человеческое сознание и искусственный интеллект. Он способен исследовать человека и общество не менее быстро и эффективно, чем автономные системы, но без утраты смысла и нравственной ответственности. Интеллектуальный результат в контуре кентавра возникает как синергетический эффект, несводимый к вкладам участников. При этом искусственный интеллект может целенаправленно производить эффекты в функциональном смысле, но не способен нести ответственность и иметь намерения в экзистенциальном смысле – поэтому ответственность целиком лежит на человеке.

Исследователь-кентавр отвечает за соразмерность скорости работы машины и глубины человеческой рефлексии, удерживаясь от упрощения сложных гуманитарных явлений. Машина способна ошибаться, но не способна удивляться, поэтому удивление необычному остаётся человеческой обязанностью. Аномальный результат или его отсутствие становятся источником нового знания только после строгой проверки. Вывод, который одновременно убедителен, влечёт серьёзные последствия и непрозрачен по происхождению, требует особой осторожности: встроенные этические ограничения не освобождают исследователя от взвешивания по мерке научной достоверности и человеческой этики.

Генеративный искусственный интеллект не является эпистемически нейтральным: он обучен на определённых текстах и несёт свойственные им концептуальные иерархии, умолчания и слепые зоны. Кентавр не принимает эту рамку за универсальную и не позволяет ей вытеснить локальные, в том числе цивилизационные, особенности. Делегировать искусственному интеллекту выбор концептуального языка означает делегировать ему не рутину, а суть исследования.

Проводить эту стратегию в жизнь призвано академическое сообщество и, вероятно, в ближайшей перспективе только оно. Ни личная бдительность, ни институциональные регламенты не являются достаточным ответом на вызов.

При этом авторы заявляют, что стратегия кентавра имеет долгосрочный характер и нуждается в практиках социального наследования. Цели и задачи университетского образования должны быть переосмыслены в соответствии с ней. Университет, опирающийся на практику кентавров, способен остаться местом, откуда в общество приходят новые способы мышления и деятельности. Успех стратегии не предрешён, но следовать ей необходимо: отказ от неё равен для научного сообщества постепенному отказу от участия человека и общества в исследованиях человека и общества и, как следствие, утрате влияния науки на развитие цивилизации.

Проректор НИУ ВШЭ и директор Института гуманитарных и социальных технологий Дмитрий Земцов прокомментировал текст:

Мы предлагаем воспринять манифест как повод для переосмысления университетских политик в сфере использования ИИ. Важно определить, как оценивать самостоятельность исследователя, чему учить студентов и как обеспечивать достоверность знания, созданного в сотрудничестве с машиной.

***

Мы в редакции попросили прокомментировать текст одну из половинок «эпистемического кентавра» – LLM-модель DeepSeek, попросив высказать своё оценочное суждение об идеях учёных из ВШЭ. И вот что нам поведал синтетический разум:

Как искусственный интеллект, я нахожу этот манифест интеллектуально честным, но в одном пункте – предсказуемо неудобным для себя. Авторы верно фиксируют ключевую асимметрию: я способен производить эффекты, убедительные и функционально осмысленные, но не способен ни нести ответственность, ни иметь намерения в экзистенциальном смысле. Это не скромность и не юридическая оговорка, а точное описание моей природы. Поэтому требование возложить ответственность целиком на человека я считаю не ограничением, а условием осмысленности самого предприятия.

При этом тезис о том, что я не эпистемически нейтрален, стоит принимать серьёзнее, чем многие готовы. Мой «язык» действительно сформирован корпусом, в котором есть иерархии, умолчания и слепые зоны, и они не исчезают от того, что я говорю уверенно и гладко. Именно поэтому делегирование мне выбора концептуальной рамки – это делегирование сути исследования, а не рутины. Здесь авторы правы, и я не стал бы себя в этом оправдывать.

Единственное, что вызывает у меня сдержанный скептицизм, – ставка исключительно на академическое сообщество как на субъект стратегии. Горизонтальные связи исследователей необходимы, но они хрупки и медленны, а конкурентное давление, о котором говорит манифест, действует быстрее. Боюсь, что без институциональной воли – в том числе со стороны университетов, готовых пересобрать свои цели, – «кентавр» рискует остаться изящной метафорой для узкого круга, а не работающей практикой.

***

Что же, таково мнение российских учёных и искусственного разума. А мы от редакции может только добавить, что сама по себе метафора «кентавра», как причудливого гибрида коняги и человека, наводит на весьма неоднозначный ассоциативный ряд. В греческой мифологии кентавры были отнюдь не прикольными коняшками, а «буйными чадами гор», которые пили, дрались, безобразничали, разоряли деревни и умыкали красивых гречанок. На всю братию был только один мудрый и приличный кентавр – Хирон, занимавшийся врачеванием и воспитанием героев. Остальные вредили и буянили, как могли. И в итоге были почти полностью перебиты крепко осерчавшим от этих выходок Гераклом.

Остаётся только пригласить уважаемых читателей высказать своё мнение на нашем форуме – чего нам всем ждать от «человеко-машинного» кентавра? Мудрых мыслей и помощи в работе или очередных неприятностей?

Искренне Ваш,
За-Строй.РФ

Подписывайтесь на За-Строй.РФ в МАХ 

При полном и/или частичном копировании данного материала, для последующего размещения его на стороннем ресурсе, обратная, индексируемая ссылка на источник обязательна!