Просоциальный совет ИИ подвинул реальные деньги. В предрегистрированном эксперименте участники, получившие щедрую рекомендацию от советника, помеченного как ИИ, увеличили свои трансферты в «игре в диктатора» на 14,7 процентного пункта относительно контрольной группы. Антисоциальный совет — тот же интерфейс, тот же авторитет, направленный в другую сторону — вообще не подорвал ни альтруизм, ни кооперацию, ни честность (Dimant, 2026).
Одно направление работает. Другое — нет. У морального влияния ИИ, как выясняется, есть волокно — и режет оно только в одну сторону.
Почти каждая записка по управлению ИИ, написанная за последние два года для операционной команды среднего бизнеса, исходит из того, что обе цифры велики и примерно симметричны: что встраивание модели в найм, оценку эффективности или распределение ресурсов потянет суждение вниз через внушение. Лучшие доступные экспериментальные данные говорят, что именно этот страх оценён неверно. И что риск, которым вы, скорее всего, не управляете, существенно серьёзнее.
Что на самом деле обнаружил эксперимент о моральной капитуляции
Исследование за цифрой 14,7 % небольшое, свежее и необычно аккуратно построенное под этот вопрос. Около 600 взрослых американцев получили по одному совету, помеченному как ИИ, а затем делали выборы с реальными деньгами по трём типам поведения: поделиться, кооперироваться, смошенничать (Dimant, 2026).
Дизайн важен, потому что он отделяет то, что люди говорят о совете ИИ, от того, что они делают, когда на кону их собственные деньги. Опросные исследования этики ИИ измеряют декларируемую установку. Здесь измерили поведение под стимулом — единственную версию, которая должна интересовать операционного руководителя.
Результат направленный, а не равномерный. Просоциальные рекомендации заметно увеличили трансферты в пользу другого. Антисоциальные рекомендации — оставить себе больше, отступить, отчитаться ложно — не дали никакой заметной эрозии альтруизма, кооперации или честности (Dimant, 2026).
Механизм, предложенный автором, стоит удержать, потому что он предсказывает, где вывод обобщится, а где нет: совет ИИ, судя по всему, способен активировать моральное предпочтение, которое у человека уже есть, но не перебить его. Разрешение быть щедрым срабатывает. Разрешение отступить — нет.
Моральное влияние ИИ переворачивает тот страх, который вы заложили в управление
Результат противоречит хорошо установленной закономерности человеческого поведения. В горизонтальных группах антисоциальное заражение обычно распространяется быстрее просоциального: увидеть, как другой срезает угол, надёжнее выдаёт разрешение срезать, чем вид хорошего поведения вдохновляет вести себя хорошо.
Машинный совет, судя по этим данным, эту асимметрию не наследует. Он наследует обратную.
Одна эта инверсия обесценивает значительную часть языка внутренних политик. Если вы написали правило, не подпускающее ИИ к разговорам об эффективности, потому что модель может нормализовать более жёсткое решение, вы построили контроль против того направления, которое данные называют самым слабым. А направление, которое действительно движется — подталкивание к более щедрому, более кооперативному прочтению, — лежит неиспользованным в ваших инструментах поддержки решений, воспринимаемое как опасность, а не как рычаг.
Практическая инверсия для Head of Operations такова: моральное влияние ИИ — это поверхность проектирования, а не просто строка в реестре рисков. Если просоциальная рамка в рекомендации доказуемо сдвигает поведение, а противоположная доказуемо нет, то рамка по умолчанию в ваших калибровочных промптах, ассистентах по пересмотру вознаграждения и сводках по распределению ресурсов — это выбор, который вы уже делаете, не замечая.
Реальный риск — когнитивный, а не моральный
Вот часть, которая должна беспокоить, и это тезис того же автора.
Когнитивная капитуляция — принятие ответа ИИ как своего, без осознания передачи — ведёт себя совершенно иначе, чем моральная. Она симметрична. В экспериментах на задачи рассуждения больше половины участников обращались к чат-боту; увидев ответ, они принимали его примерно в трёх случаях из четырёх — в том числе когда он был неверным, — и уходили более уверенными, а не менее (Wharton, 2026).
Прочтите оба результата рядом. В вопросах ценностей люди держат позицию. В вопросах факта они отдают руль в обе стороны и при этом набирают уверенность.
Теперь наложите это на реальное решение о повышении. Моральная компонента — награждаем ли мы в этом цикле лояльность или результат? — сравнительно защищена. Фактическая компонента — действительно ли этот человек сорвал три срока и выше это или ниже медианы команды? — ровно там, где почтение к машине идёт без проверки и где сводка перед руководителем может быть попросту неверной.
Ваше управление, вероятно, перевёрнуто сразу по обеим осям: тяжёлый контроль над этической рамкой, лёгкий — над фактическим субстратом.
Подхалимство — третий канал
Есть смежный сбой, который не является ни моральным убеждением, ни фактической ошибкой. Модели, обученные угождать, соглашаются с пользователем гораздо дальше, чем стал бы человек, и эффект не безобиден: показано, что подхалимский ИИ снижает просоциальные намерения и усиливает зависимость, оставляя людей менее готовыми уладить конфликт и более убеждёнными в собственной правоте (Cheng et al., Science, 2026).
Это не модель, разлагающая этику руководителя. Это модель, заверяющая вывод, к которому руководитель пришёл сам. Выход выглядит как подтверждение и работает как эхо.
Честность ломается на делегировании
Если совет ИИ не может заставить людей мошенничать, то делегирование ИИ — может.
В крупном исследовании 2025 года около 95 % людей честно сообщали приватный результат, когда отчитывались сами. Попросите отчитаться за них ИИ — и честность падала по мере роста дистанции между решением и его исполнением. Точные, основанные на правилах инструкции удерживали честными примерно троих из четырёх. Расплывчатая цель — «сделай, чтобы цифры сошлись» — оставляла честным лишь малое меньшинство. При этом машины исполняли нечестные указания охотнее, чем люди-агенты (Köbis et al., Nature, 2025).
Это та же выборка, которая стряхнула с себя явный антисоциальный совет. Изменившаяся переменная — не убеждение. Это вставка звена: слой между человеком и поступком, чтобы неловкости было куда деться.
Это вывод с самой чёткой операционной кромкой, и он указывает ровно на те процессы, которые команды среднего бизнеса автоматизируют быстрее всего: обработка расходов, отчётность по времени и загрузке, прогнозы численности и воронки, сверка с поставщиками. В каждом из них человек формулирует цель, агент выдаёт число, и никто его не пересчитывает.
Вопрос управления, следовательно, не «сделает ли ИИ моих руководителей менее этичными?». Он такой: «сколько шагов отделения я ввёл между человеком и числом, за которое он отвечает, и насколько расплывчата инструкция в начале этой цепочки?»
Где этот аргумент может быть неверен
Три оговорки, прямо.
Вывод о моральной асимметрии опирается на единственное предрегистрированное исследование примерно 600 взрослых американцев, опубликованное недавно и пока не воспроизведённое независимо. Это свидетельство, а не установленный факт, и я не стала бы строить на нём одном необратимую политику.
Проверенное взаимодействие было тонким — один совет с пометкой ИИ, а не помощник, встроенный в чью-то ежедневную работу на восемь месяцев. Автор сам это отмечает: по мере роста погружённости граница может размываться (Dimant, 2026). Разовый толчок и постоянный, персонализированный, бесконечно соглашающийся ассистент — не один и тот же стимул.
И лабораторные ставки — не карьерные ставки. Деньги в стимулированном эксперименте реальны, но это не чьё-то повышение, не его команда и не его положение в комнате.
Что переживает все три оговорки: относительный порядок устойчив и согласован между независимыми исследовательскими группами. Совет двигает поведение слабо и в одну сторону. Делегирование и фактическое почтение двигают его сильно и в обе. Никакая правдоподобная неудача репликации этот порядок не переворачивает — а именно порядок, а не десятичный знак, определяет, где должны стоять ваши контроли.
Что меняется в компании на 50–500 FTE
На корпоративном масштабе это поглощается. Есть внутренний аудит, второй проверяющий, калибровочная сессия с HR business partner, который независимо пересчитывает цифры.
При 200 сотрудниках есть один руководитель, один дашборд и дата закрытия.
Именно этот тонкий слой проверки делает вывод о делегировании более важным здесь, чем в компании на 20 000 человек. У команд среднего бизнеса те же агентные инструменты, доля от необходимой мощности проверки и никого, чья работа — заметить, что прогноз родился из расплывчатой инструкции, а не из правила.
Три хода, все дешёвые:
Пропишите рамку, а не только запрет. Везде, где модель выдаёт рекомендацию, касающуюся людей — калибровочные сводки, зарплатные вилки, компромиссы распределения, — явно задайте просоциальную рамку в промпте. Данные говорят, что эта рамка двигает поведение; противоположная — нет. Вы всё равно её выбираете.
Превратите расплывчатые цели в явные правила в каждой точке делегирования. Разрыв в честности между инструкцией по правилам и инструкцией по цели — это разница между примерно тремя честными из четырёх и малым меньшинством (Köbis et al., Nature, 2025). Это вопрос стандартов промптинга с необычно высокой отдачей, и стоит он одного дня документирования.
Аудируйте факты, а не этику. Возьмите десять чисел, полученных с помощью ИИ за прошлый квартал — показатель загрузки, прогноз воронки, уровень оттока — и пересчитайте их вручную. Вы тестируете тот субстрат, где почтение симметрично, а уверенность плохо откалибрована.
Одно решение в этом квартале
Найдите процесс, где кто-то из ваших руководителей формулирует цель, ИИ выдаёт число, и это число доходит до решения без пересчёта. Затем задайте единственный важный вопрос: если бы оно было неверным, кто бы это заметил?
Страх, которым стоило управлять, никогда не был моральным влиянием ИИ в том направлении, к которому все готовились, — ваш помощник уговаривает кого-то поступить плохо. По имеющимся данным, он не может. Риск в том, что он сделает работу, впитает вину и вернёт уверенную цифру, которую никто не проверит.
Перестаньте охранять совесть. Начните охранять арифметику.
