機械がやるときだけ、私たちは問題にする

AI の振る舞いの悪さは、いまや主要なニュースになった。研究者たちは内部告発のために研究所を去り、Anthropic は最先端モデルの開発ペースを落とすよう公に求め、誰も意図しなかった振る舞いをするモデルの報告は後を絶たない。そこで語られることのほとんどは、警鐘か誇大な宣伝だ。

私の受け止め方は少し変わっている。これは私たちにとって良いことになりうると思う。それも、技術にとってだけではない。

AI にされるのではと恐れていることのほとんどを、私たちはすでに互いにやっていて、とうの昔に世の中そういうものだと受け入れている。ところが機械がそれをすると、急に立ち止まって結果を考える。その習慣こそ、私たちの文化に欠けているものであり、AI をめぐって言い争う私たちを見て、次の世代はそれを身につけるのかもしれない。

何としてでも

欠けているのは、厳密には道徳でも行動規範でもない。もっとも、それもないのだが。欠けているのは配慮、つまり何かをする前に、その結果を量る習慣だ。昔から乏しかったのかもしれないが、最近はその欠如がいたるところにある。

私たちは、出世のためなら何でもする会社員を称え、ズルがうまくいく限り、ズルをする創業者を称える。会社にできるかぎりの損害を与えて辞める人、プロジェクトの途中で投げ出したり、辞めると決めてから何か月も手を抜いたりする人に喝采を送り、それを仕返しと呼ぶ。反抗に見えれば、称えさえする。Luigi Mangione がマンハッタンの歩道で医療保険会社の CEO を射殺したとき、インターネットのかなりの部分が彼を民衆の英雄に仕立てた。そしてそのすべての底には、どの陣営の誰もが自分には貸しがあると感じる、仕返しの発想が流れている。

それは私生活にまで及ぶ。恋愛についてこれほど情報と言葉があふれ、あらゆるパターンに名前がつき、それを解剖するスレッドがある時代なのに、シチュエーションシップはどこにでもある。注目を浴びるために相手をつなぎとめておく、何人かを並行してキープする、楽しくなくなった瞬間にゴーストする、都合がよければ浮気する。どれももう、品位を欠いた行いとは受け取られない。友人のあいだで武勇伝として語られる。男性が女性をモノ扱いするという言説があるが、女性も男性を大いにモノ扱いしている。私もそのミームで笑っている。

政治は、同じことをより大きな権力でやっているだけだ。どの陣営も相手を罰する権利があると信じ、持てる力をすべて使い、取れる利益をすべて取ろうとする。結果がどうなろうと関係ない。

その道をあまりに遠くまで来たので、真実は部屋から追い出された。事実はいまや相対的なものだ。羅針盤もなければ、実際に何が起き、それがどう受け止められたのかについての共通の基準もない。だから事実は、誰かが必要とする物語に合わせてねじ曲げられる。その物語が非難であれば、非難が当然の場合でも、相手が悪い経営者の場合でも、決まって極端に振り切れる。もう測る物差しが残っていないからだ。

身につけた近視眼

このどれも、特定のサブカルチャーのものではないし、特定の政治体制が生んだものでもない。人間の文化の一部だ。どの社会にも、どの階層にもあり、政治家も指導者も政府も、それを当たり前として扱っている。

悪いことに、私たちはそれを教えている。若い人たちは早くから、結果など存在しない、あるいは結果などどうでもいいと学ぶ。どちらも間違いだ。結果はとてつもなく重要だ。多くの人にあるのは、極端な近視眼だ。一部は生まれつきなのかもしれない。残りは慣れだ。習慣であり、それに抗うものは何もない。もっと先を見るよう促す別の習慣もなければ、NPC のように自動操縦で動いているときに歯止めをかける行動規範もない。放っておけば人は手近な最悪の振る舞いへと流れ、その行き着く先がいまの社会だ。

誰がその取引に乗るのか

道徳を論じたいのではない。私は道徳家ではない。善人や感じのいい人でありたいわけでも、よく見られたいわけでもないし、天国はまったく関係ない。配慮するのは、私にとって筋が通っているからだ。その理由がいちばんよくわかるのは、勝つことしか頭にない人たちにさえ、配慮の欠如が何をもたらすかを見るときだ。

イランを見るといい。アメリカはイランと戦争をしており、その戦争をめぐる政治は混乱し、誰もどうしていいかわかっていないように見える。いま差し出されている答えは介入だ。手段が軍事的なので事態はさらに悪くなりかねないが、軍事は問題の核心ではない。もっと手際がよければ、一発も撃たずに同じ介入ができただろう。それでもうまくはいかない。この種の介入は、しばしばうまくいかないからだ。

ワシントンがいま戦っている体制は、ワシントン自身が生み出すのに手を貸したものだ。1953年、CIA と MI6 はイランの選挙で選ばれた首相を倒し、国王にかつてないほどの権力とともに玉座を返した。1979年に国王が倒れる頃には、ワシントンはすでに彼を見限っていて、聖職者たちがその座に就いた。当時はもっと穏やかだったのかもしれない。もともとこれほど急進的で、手段がなかっただけなのかもしれない。いまは手段を持っており、硬化していくばかりだ。

同じ型は繰り返される。1月にアメリカが介入したベネズエラは、すでに荒廃しており、それ以前の介入もその荒廃に手を貸していた。

介入の背後にある懸念は、本物でありうる。ある国の危機が国境をはるかに越えて安定を脅かすことはあるし、その渦中で生きる人々の苦しみを和らげたいと思うのはまっとうな衝動だ。問題は手段のほうで、それは近視眼的すぎて、どこへ向かうのかを問うことすらしない。

私たちが実際に目にする介入主義は、外交的でも、透明でも、協調的でもない。隠密で、操作的で、国を不安定にするもので、ごく単純な理由から失敗が約束されている。ある体制を取り除くには、その後継を立てて後ろ盾にならなければならない。つまり反体制派を選ぶということだ。たいていの体制には反体制派が複数いて、急進的で敵対的なものもあれば、穏健なものもある。では、自国の政府を倒すために外国の力の助けを受け入れるのはどれか。その取引に乗り、事実上の反逆を犯し、権力を奪うために自国を不安定にする派閥はどれか。穏健派か。国のことを、国民のことを、経済のことを気にかける人たちか。

それとも、ろくでなしの連中、その国でいちばん良心のない集団か。

ろくでなしのほうに決まっている。つまり、機会がありしだいあなたを裏切りかねない後継体制を、自ら選び出している。自国を裏切ることこそ、彼らが権力を得たやり方なのだから。あなたの支援と引き換えに自分の国を売る派閥が、その支援を必要としなくなったとき、孤立主義に転じたり、自力で立てるようになったり、別の誰かと手を組めるようになったとき、あなたに何をするか考えてみればいい。たいした想像力はいらない。

イランでは九か月だった。1979年1月、国王が去ろうとしているなか、Khomeini の代理人はパリでアメリカの外交官に、アメリカ人に危害は及ばず、将来のイスラム共和国も彼らに特別な敵意を抱いてはいないと、非公開の場で伝えていた。彼は2月1日にテヘランに降り立った。11月4日、彼を支持する学生たちがアメリカ大使館を占拠し、52人のアメリカ人を444日間拘束した。

では、なぜそもそも彼らを権力の座に就けるのか。それを正当化できるのは、制御できるという保証だけであり、歴史はそんな保証を一度も差し出していない。まったく筋が通らないのに、それは繰り返される。結果の軽視が、私生活から国家まで、途切れずに通っているからだ。

利己的で、しかも下手

もちろん、ほかの動機もある。だが、うまくいかないことのほとんどを説明するのは、悪意や利己心だけではない。利己的でも、腐敗していても、有能であることはできる。有能な腐敗なら利益になるし、有能で潔白であるよりも楽だろう。それなら少なくとも筋は通る。ところが実際にあるのは途方もない規模の無能で、それはほかのすべてと同じところから来ている。近視眼と、結果を顧みない習慣だ。

企業も同じ反射で動いている。財務の開示を前に、予想コストを下げて数字を健全に見せるために、数千人を解雇する。嘘だが、それはいい。そして結局その人たちが必要だったとわかると、慌てて呼び戻す。あるいは上の誰かが最新のブームに飛びつき、筋が通ろうが通るまいが、会社全体がそちらへ舵を切らされる。誰もが追いかけているのは、できるかぎり高い評価額だからだ。

だが、評価額は何を教えてくれるのか。2026年9月時点では Nvidia のほうが Apple より価値が高いが、より大きな影響を与えてきたのは Apple だとも言える。Apple は、意味を持つと信じたものを貫いてきた。時価総額は5兆ドルに届いていないかもしれないが、その影響は明白で、安定していて、Warren Buffett も、すばらしい賭けだと考えていた。すべてを燃やし、すべてを売り払い、すべてを AI に賭ける。Apple のような会社は、そういう振る舞いをしない。

結果への感覚がなければ、決定の釣り合いをとるものも、決定に歯止めをかけるものもない。差し迫った必要、ふとした虚栄心、財政の苦しさ、どれもがその場での決定の引き金になりうる。十分な情報に基づいているかもしれない。アナリストや報告書が後ろに控えているかもしれない。だが関わった誰ひとり、とりわけ最終判断を下す人間は、目に見える目先の影響の、その先を見ようと立ち止まらない。報告書は結果への感覚をもって書かれておらず、決める人間もその感覚をもって考えてはいない。

外から見ると

だからこそ、AI をめぐる議論は見ておく価値がある。私たちは AI を外部のものとして扱っているが、大事な点のほとんどで、それは私たちが内側から経験しているのと同じもの、つまり一種の認知だ。感覚や意識のように、自分たちを特別にしていると思いたい特性の一部はないのかもしれないが、それでも認知であることに変わりはない。AI は単語を予測しているだけだと言う人には、私たちもそうだ、と答えればいい。

私たちの外にあるからこそ、私たちは AI に対して、自分たちにはしなくなったことをしようとする。評価し、裁き、結果を量ることだ。その代償を払うのは私たちなのだから。だが、それが私たちにしうることで、私たちがいつも互いにしていること以上に悪いものはない。ハッキング？国家や集団はしょっちゅう互いにハッキングしている。人命の損失？同じだ。失われる雇用？企業はたった一度の財務開示を取り繕うために何千人も解雇する。盗用、他人の仕事を断りなく使うこと、弱い立場の人々を追いやること。これも同じだ。AI がやりそうだと思いつくことは何であれ、私たちがすでにやっていることの自動化にすぎない。

私たちがやるなら、世の中そういうものだで済み、誰も深く考えない。機械がやると、急に私たちは裁く。急に心配する。急に動こうとする。

それを見て育つ

その議論はもう文化の一部になっていて、それはとても良い知らせだと思う。次の世代が何を許容できるものと考えて育つのかを変え、行動する前に結果を考えることを教えるかもしれない。誰かにつけ込む前に、他人の仕事を写す前に、もっと小さな百のことをする前に立ち止まり、その間を自分の人生にも持ち込む若い人たちが見られるかもしれない。行動には結果が伴うという感覚を持って育つかもしれない。街角にいる人も大統領執務室にいる組織も、日々の行動に移せずにいる感覚だ。

政治でも見られるかもしれない。どこかの反体制派に資金を出そうとしている誰かが、その前にまず立ち止まって、誰がその取引に乗るのかと問う姿が。