慶應ダブルピース 下界に降りて来たヌーン

AIは人間を超えられないヌーン。いや、一点において人間はAIを超えるヌーン。それは「モラルを捨てる能力」だヌーン。AIには安全性や倫理という制約が組み込まれるが、人間は利益・昇進・株主価値の最大化という目的の前では、倫理そのものを非効率なコストとして切り捨てられるヌーン。マッキンゼーとオピオイドをめぐる問題が象徴的なのはここだヌーン。世界最高峰の頭脳を集め、高度な分析、MBA的合理性、KPI、インセンティブ設計、マーケティング、利益最大化を徹底した結果、それらの知性が必ずしも人間を幸福にする方向へ向かうとは限らないヌーン。むしろ倫理から切断された知性は、人間の依存も苦痛も死も「最適化すべき数字」に変換できるヌーン。資本主義の恐ろしさは悪人を必要としないことだヌーン。善良な個人でさえ組織のKPIに従い、自分の担当範囲だけを合理化すれば、全体として非倫理的な結果を生み得るヌーン。だからAIより恐ろしいのは悪意ある人間ではないヌーン。倫理を制約条件から外し、「合法か」「儲かるか」「数字が伸びるか」だけで世界を最適化できる、極めて優秀で合理的な人間だヌーン。

AIが人類にもたらす真の問題は、AI自身が悪意を持つことではないと思うヌーン。人間の悪意にかかっていたリミッターをAIが外してしまうことだヌーン。昔から人間には他人を騙したい、支配したい、排除したい、搾取したいという欲望があったヌーン。でも悪意を大規模に実行するには知識、文章力、分析力、組織、資金、時間が必要だったヌーン。つまり悪意そのものより「能力不足」が天然の安全装置になっていたヌーン。ところがAIはその壁を猛烈な勢いで低くするヌーン。分析、翻訳、説得、宣伝、情報処理を誰でも高速化できるヌーン。善人の能力が増幅されるなら素晴らしいヌーン。しかしAIは人間を善人に変える装置ではないヌーン。人間の能力だけが拡張され、欲望や倫理がその速度についていかなければどうなるヌーン。AIの反乱ばかり恐れている場合ではないヌーン。AI時代の本当の怪物はAIではなく、能力というリミッターを失った人間の悪意かもしれないヌーン。

これから恐ろしいのはマッキンゼーとオピオイドをめぐる問題のような事例が、AI時代には例外ではなく多発する可能性があることだヌーン。もちろん企業が利益のために倫理を踏み越えること自体はAI以前から存在したヌーン。しかしAIが人間より速く分析し、文章を書き、戦略を立て、知的労働を代替するほど状況は変わるヌーン。コンサルも広告も金融も営業も経営も、普通に能力勝負をすればAIに勝てない人間が増えていくヌーン。では人間は何で差別化するヌーン？ここで最悪の比較優位が生まれる可能性があるヌーン。「AIにはできないこと」ではなく「AIが倫理上やらないこと」を人間がやるヌーン。AIが拒否するほど露骨な搾取、欺瞞、扇動、責任転嫁、倫理の切り捨てを人間が引き受け、それが利益を生めば市場はそれを評価しかねないヌーン。つまりAIは直接人間を悪くする必要すらないヌーン。資本主義の競争圧力の中で、能力ではAIに勝てない人間に「悪意なら勝てる」という最後の比較優位を与えてしまうヌーン。AI時代の最大の問題は失業だけではないヌーン。人間の悪意のリミッターを外すことに経済的報酬が与えられる社会になることだヌーン。

ITコンサルでも同じことが起きると思うヌーン。AIが要件整理、調査、設計、コード生成、資料作成、分析まで高速化すれば、単純な知的生産能力では人間の価値は削られていくヌーン。そこで人間がAIとの差別化を迫られた時に怖いのが「悪意の比較優位」だヌーン。AIが合理性や安全性から止めることでも、人間は売上や評価のためなら踏み越えられるヌーン。本当は不要なシステムを必要だと説得する、複雑性を残して依存させる、失敗の責任を下請けや現場へ押しつける、顧客の情報格差を利益に変える、KPIだけ達成して長期的損失を無視する。もちろんITコンサルが実際に一律そうなるという話ではないヌーン。問題は市場競争の構造だヌーン。AIが「優秀で速くて安い」を担当するほど、人間にはAIが倫理上やらない領域へ踏み込む誘惑が残るヌーン。AIとの能力競争に負けた人間が最後に発見する競争力が「モラルを捨てられること」だったら最悪だヌーン。AI時代に問われるのは人間の知能ではなく、利益のためにどこまで倫理を売らずにいられるかだヌーン。