ボストロムは「超知能」が出現すると 人類の意思決定や価値観が AI に“上書き”される恐れがあると再三警鐘を鳴らしてきた。その回避策として、単一国家の規制ではなく各国が協調して AI の開発・利用を統制する国際ガバナンス体制（条約・監督機関・共有ルールなど）の構築が不可欠だと主張している。

『Superintelligence』以来、AI が“最後の発明”となり得る ――つまり人類の主体的判断よりも AI の判断が優先される世界を作りかねない、と警告してきた。

新著『Deep Utopia』では、仮に AI が病気や貧困を解決したとしても、意味や目的を人間が失うリスクを論じる。

AI 自身が暴走する「整合性（alignment）問題」だけでなく、国家や企業が AI を用いて他国・他者を操作するリスクも重視している。これが“主体性の上書き”を加速させる要因になる。

関連: 認知戦