記事の要約とポイント
人がAIを完全に管理する、という思考には限界があります。これからの社会そして組織に大切なのは、防災的なレジリエンス、問いを立てる力、そして多様な知を持ち寄るコミュニティです。
- AIがクリティカルインフラにも入り込んだ現在、重大な事故が起こった際には、社会からの倫理的圧力がすべてを止めてしまう可能性も考えられます。AIを開発・活用推進する立場の人が、危機感と倫理的意識を持つことが重要です。
- 高度化するAIを人が完全に理解・制御することはほぼ不可能であり、事故や障害を前提に、どう備え、どう回復するかを考える姿勢が求められます。
- AIが単純作業や解の提示を担う時代だからこそ、人間には問いを深める力、創造的フォロワーシップ、人文学を含む広い教養を基盤にしたソートリーダーシップが必要となります。
中央集権的な構造は格差とリスクを拡大させる
今の時代、倫理がむずかしいのは、「倫理」というお題目を掲げても現実が動かせなくなっている点にあります。ひと昔前は、もう少し倫理や価値観を大切にする風潮がありました。しかし今は、倫理をいくら強調しても、空回りに終わってしまう。それは、倫理が経済問題や制度的な力学と切り離せるものではないからです。
アメリカ西海岸のIT企業では、インターンの学生が月に1万ドルもの報酬を得るという話を聞きました。それでは格差が拡大するのも、当然でしょう。IT産業は本来、物理的な生産工程を伴う製造業に比べて、価値創出に必要な労働量が相対的に小さく、同じだけの利益を少ない人員で上げることができます。情報産業が盛んになるほどお金はまわっていくけれど、雇用される人数はものづくりに比べるとはるかに少ない。「ひと握りのテック産業vsその他大多数」で格差がどんどん広がる―それが今の構図です。自由競争を重視し、格差を大きくすることでモチベーションを高めようという構造に、社会の限界が来ているのでしょう。
特にAI開発は、計算資源やデータをめぐる「量」の競争に大きく依存しています。結果、開発能力は、巨額の投資を行える一部のスーパー大企業に集中する。片手で数えられるくらいの企業にしか開発ができないといったとき、公正性や公平性は担保できるものでしょうか？
専門家によるガバナンスはAIにも効くか
遺伝子組み換えの技術が発明されたとき、無限の可能性に期待を膨らませながらもリスクを認識していた科学者たちが、自ら国際会議を招集。28ヶ国140人ほどの専門家が、ガイドライン作成のため米国カリフォルニア州に集まりました。1975年のアシロマ会議です。研究者たちが自らの研究の自由を束縛してまでも、自らの社会責任を問うた、「科学の自律的ガバナンスが効いた例」として語り継がれています。
AIに関しても同様の、「AIアシロマ会議」が2017年に開催され、「アシロマAI原則」が提唱されています。しかし、遺伝子組み換えのときとは状況が変わっていて、AIでは技術開発の主体が大学や公的機関から民間企業へと移行し、最先端の知識を持つ専門家はOpenAIやMetaの社員です。民間企業だからダメということではありませんが、営利企業の性格上、共通ルールをつくることよりも、利益やスピードがどうしても優先されてしまう。あるAIモデルを誰がどう使えるのかといったことも、民主的な議論や行政の関与を経て決まるのではなく、テック企業の判断に委ねられるようになっています。
欧州のように、法制度や規制を強化することで対応するアプローチもあります。しかし、国家や行政による規制が技術の進展速度に追いつけるかというと、むずかしい。そうなると、社会から一定の倫理的圧力を、テック企業に対して継続的にかけていくことが鍵になるのでしょう。圧力とは、社会全体のコンセンサスや、批判的な視線です。今や、AIはクリティカルインフラにも入り込んでいます。社会を揺るがすような大きな事故が起きたとき、その圧力がAI開発のすべてを止めるものとなる可能性もあります。それに対する危機感をテック企業の開発者が持つことで、倫理意識が強化される。そもそも、民間企業でAI開発に従事する人たちに良心がないわけではありません。ロボット開発のベンチャーで独自の倫理委員会を設けているところもありますし、今後はそうした流れも増えていくでしょう。
高度化していくAIに対し、大切なのはレジリエンス
ただし、どんなにルールを設定しても、みんながAIを安全に使えるというのは幻想だと思います。AIに限らず、技術をすべて人間が管理できるという発想自体が、幻想です。原子力にしても、飛行機や自動車にしても、一定の確率で事故は起きますが、それを含んだ形で社会に定着しています。重要なのは、一定の事故が起きることを見越して、そこからどう回復するかを考えるレジリエンスです。
説明責任を前提にAIを設計することは、今の段階において重要です。新しい技術を社会に受容させようというときは、メリットや可能性のみが強調されがちです。しかし期待が輝かしく高まるほどに、予期せぬトラブルが起きたときの「話が違うじゃないか」という反発は大きなものとなり、信頼はあっさり損なわれます。ですから、技術のネガティブな側面やリスクについても丁寧に説明し、社会の中に織り込んでいくことが重要です。
実際にAIの何がリスクで、社会はどこまでを許容できるかというコンセンサスも、現時点では十分に形成されていません。そもそも、コンセンサスが得られるべきものではないかもしれない。リスクの感受性は、個人によって異なります。その差異が存在すること自体が、健全な状態であるとも考えられます。実際、金融やインフラの情報システムに対する不信感は、過去の障害や事故の記憶と結びついたもの、すなわち個人や社会の具体的経験から「また何かあれば危うい」と形成されるものです。そのようなばらつきを前提とした上で、社会全体としてはどの水準のリスクを許容するのかを考えていく必要があるのでしょう。
ただし、自然の生態系を人間がすべて管理できないのと同様に、この先もずっと、人がAIのすべてを管理できるとは考えないほうがよいと思います。Claude Mythosのような超高度なモデルの登場は、10年以上前からずっと予想されていました。これからは、AIの攻撃に対しAIで防御する、AI同士の軍拡競争のようなものがより当たり前になってきます。チェスにおいても、AI同士の対戦は人知の及ばない範囲となりましたが、チェスに限らずAI全般、その内部構造や判断過程はすでに、人間による完全な理解・説明が不可能なブラックボックスとなっています。透明性を求めるといっても、すべてを可視化することはほとんど不可能ですし、仮に透明化できたとしても工程数があまりに膨大で、人間が追跡するのは現実的ではない可能性もあります。よって、今後のあり方としては、情報空間でのAIの挙動やAI同士のやりとりはAIに任せ、人間は関わらない。生態系のごく一部の遺伝子資源を家畜化あるいは栽培植物化してきたように、多くの活動はAIに任せ、人は使える部分を切り出して利用する。そして自然災害と同様に、なにか事故が起きたとき素早く復旧するための手立てを備えておくことが重要になるのだと思います。責任を放棄するという意味ではありません。人間による制御には限界があることを認めたうえで、高度化したAIシステムとどう共存し、事故や障害が起きたときにどう備え、どう回復するかを考えるということです。
Human-in-the-loopという考えが4、5年前からよく言われるようになりましたが、日本人の私には違和感がありました。東洋には長らく、人間と道具を一体で捉える感覚があります。たとえば日本では、長く使った道具には神が宿る、つまり生き物のように進化すると考えられてきました。人間と技術は不可分に関わりあう存在で、システムに人が「あとから介在する」という発想は、東洋では生まれにくいのです。AIを生態系の中で共生する相手と捉えれば、管理するという思考から離れることができ、今後どんなに強力なモデルが現れても、最初からそれを敵とみなす必要もなくなるのでは、と思います。
今後は情報空間でのAIの挙動やAI同士のやりとりはAIに任せ、人間はそれに関わらない。多くの活動はAIに任せ、人は使える部分を切り出して利用する
AIネイティブ時代に必要とされる能力
実際、ChatGPTのような大規模言語モデル（LLM）は、多くの人にとってお友達的存在となっています。メールを書く、一次資料を整理し秘書的な事務作業をこなすなど、個人の仕事をエンパワーメントする存在として、日常にすっかり定着しました。しかしここでひとつ問題になるのが、AIに置き替わった単純作業を経験していない、AIネイティブ世代への職業訓練のあり方です。
人間が実世界との相互作用の中で言語を獲得するのに対し、LLMはまったく異なるアルゴリズムで学習をしており、単純に人間の言語を使った思考や発想と置き替えることはできません。判断の妥当性をチェックする場面においても、AIは現在手元にある情報をもとに判断するのであって、未来に向けた新しい価値や方向性を自律的に生み出せるのかというと、おそらくまだそうではありません。少なくとも今の段階では、ひらめきや、発想に飛躍を与える最後のひと突きはまだ人間の領域にあって、これからしばらくも人の役割として残ると思います。
しかし、そうした判断やチェックを担える専門家を育てるには、長い時間をかけた反復訓練がこれまで必要とされてきました。たとえば医療の画像診断では、何千枚もの画像を見ながら、微細な差異を見分ける訓練を十年、二十年とかけて積みます。ところがAIが非常に高い精度で判定できるようになった今、若い世代の医療従事者からすれば、AIができる作業をなぜ自分が反復練習しなければならないのか、という疑問が生じます。つまり、これまで専門性を支えてきた、スクワットのような基礎体力づくりの機会が急速に失われつつあるわけです。今、AIをうまく使いこなしているのは、AIのない時代にそういったドリル的訓練を受けてきた世代ですが、これからのAIネイティブな人たちに同じ訓練をくり返せと言うのは、別の問題を生みかねません。
単純作業の反復を人がしなくなった時代の、専門性のあり方とは何か。ひとつの鍵は「問いを立てる力」を育てることにあります。自分ひとりでは見出せない論点を引き出し、問いを深め、問い直すための、いわゆる「壁打ち」の相手としてAIを用いることが有効であることは、教育学の研究でも証明されつつあります。大学でも、答えを求める訓練から、問いを組み立てる訓練へ教育の焦点がシフトしています。従来の、レポートを提出させて評価するやり方は、生成AIの登場で通用しなくなりました。今は学生をひとところに集め、課題に対して自分なりにどうアプローチするか、どこから攻めるかを見て、評価するようになっています。
フォロワーシップを支えるソートリーダーシップ
大学教育でひとつ気になるのが、どの大学も「次世代型リーダーを育てる」というようなスローガンを掲げていることです。しかし卒業生の圧倒的多数は、実際にはリーダーではなく、組織の中間層として働く「フォロワー」になります。本来育てるべきなのは、組織を内側から動かす力を持った、賢くクリエイティブなフォロワーです。とりわけ、個々の能力がAIによってエンパワーメントされ、フォロワー個人がAIを活用しながら現状の問題を自律的に見つけ出せるようになったとき、求められるのは「創造的フォロワーシップ」、すなわち時にはリーダーに異議を唱え、チーム全体を底上げできるフォロワーのあり方です。
そうした前提に立つと、AI時代の組織に求められるのは、チームを後押しする「調整型」のリーダーシップです。問題が起きるたびに上から解を与え、定めた方向に引っ張っていくリーダーシップではありません。特に価値観や経済状況、国際関係が揺らぐ今の時代においては、ドグマティックな態度では現実に対応することがむずかしいでしょう。目的を共有しながら、チームが持ち寄った問いを対話を通じて磨き上げ、柔軟に軌道修正しながら進めていく――そうしたモデレーター的なあり方が重要になります。
そうなったときフォロワーを動かすのは、売上や効率といった近視眼的な目標ではありません。リーダーには、より大きな目的や価値を、皆が納得できるかたちで示す力が求められます。その意味で、歴史や哲学、芸術といった人文学の重要性が、改めて高まっているのではないでしょうか。AIが解を導く時代だからこそ、人間には、立ち止まって考え、問いを深め、省察する力が求められるのです。
レジリエンスとは、単なる回復力ではなく、状況の変化に応じて方向を柔軟に修正する力です。レジリエンスを高めるためにも、広い知識や判断力が必要です。AIに関する知識はもちろん、人類の歴史や哲学についての素養も含めた、幅広く分厚い教養。そういったソートリーダーシップをリーダーが発揮できることは重要ですが、ひとりの人がすべてを担うのも現実的ではありません。コミュニティの考え方が重要です。歴史に強い人、哲学に強い人、技術に強い人、それぞれの知が持ち寄られ、支え合う。その知をAIが束ねていくことも可能かもしれません。そんなAI empowered communityが組織内にあり、さらにコミュニティ同士が連携していくことで、社会全体をよくする力ができていくのではないでしょうか。
お問い合わせはこちら
