Есть в нашей культуре одна забавная вещь.
Представление об интеллекте как об некоторой идеальной сущности, которую портят эмоции. Все недостатки изначально нормального интеллекта из-за эмоций. Идеальный интеллект - всегда холодный, бесчувственный, следующий законам логики, безошибочный и не подверженный морали. Таким видят искусственный интеллект. Эмоции - оппозиция интеллекту, как Инь и Ян, Солнце и Луна, Добро и Зло в религиях. Мы видим его как машину. Машина видится более совершенной, чем жизнь.
Но ловушки и ошибки сознания - следствие собственно структуры нашего разума. Он изначально даже не подвержен им - они часть его. Мы их отделяем от идеала - но это как соты пчел без собственно лунок. Без них нет не будет собственно сот. Это не дуалистическая природа, потому что нет оппозиции.
Мы боимся ИИ, потому что он мы представляем его как тот холодный божественный разум, которого нет.