Бобры умеют строить весьма сложные и большие плотины. Это врожденное умение. Если маленького бобрёнка вырастить вдали от родителей, то он всё равно будет уметь строить плотины.

Оказывается, бобры ориентируются на звук текущей воды для решения — строить плотину или нет.

Если включить звук текущей воды, то бобры сразу начнут залепливать вокруг громкоговорителя грязь и палки. Если включить громкоговоритель со звуком воды в сухом месте, где вовсе нет воды, бобры все равно начнут строить вокруг него. Если пустить текущую воду, но тихо — бобры будут ее игнорировать. Если тихо пустить воду через прозрачную трубу, а в другом месте повесить источник звука — бобры будут игнорировать видимую протечку, но начнут строить поверх громкоговорителя.

Бобры не строят плотину. Бобры ненавидят звук текущей воды и хотят от него избавиться (а плотина останавливает текущую воду). Да, плотина даёт им и другие выгоды, но главный сигнал, триггер, цель — именно звук.

Простые эвристики могут хорошо работать (и давать сложные результаты и стратегии), но они уязвимы и могут сломаться при изменении окружения. Точно также, как можно заставить бобров делать бесполезные плотины на сухом месте или игнорировать протечки, убирая их звук.

Мы всегда реагируем на сигналы. Некоторые сигналы близки к “реальности”, некоторые — более далеки. Возвращаюсь время от времени к мысли, что нужно стараться распознавать ситуации с “далекими сигналами”, когда реагируешь на “звук текущей воды”, а не на саму текущую воду. В таких ситуациях нет ничего плохого, пока все работает. Но иногда ситуация меняется и важно не строить плотину на сухом месте вокруг громкоговорителя.