原典はプラトン『国家』第5巻。哲人王の条件については第6巻と第7巻も参照する。AIへの適用は、これらをもとにした考察である。
AIは、人間を超える知識と判断能力を備えた統治者という、哲人王の構想を実現する候補になり得る。その可能性は、政策の結果を予測する能力と、社会にとって何が善いかを判断する能力を、どこまで備えられるかに左右される。さらに、優れた判断をする存在へ、人々の生活を拘束する権限を委ねる根拠が必要になる。AIによる哲人王という仮説には、知性、善、統治の正当性という異なる問題が含まれている。
哲人王が備える知識と資質
プラトンは『国家』第5巻で、哲学と政治権力が一致することを、国家の悪が終わるための条件として提示した。哲人王とは、哲学によって真実を認識し、その知識によって国家を治める者である。「王」という呼び名から一人の独裁者を想像しやすいが、構想には複数の哲学者による統治も含まれる。『国家』第5巻
第6巻で統治者の学習対象とされる「善のイデア」は、正しいものや有益なものを理解するための根本原理である。哲人王には、何を実現するために知識を使うのかを理解することが求められる。さらに第7巻では、哲学の学習と実務経験を経て資質を試され、私益や権力への欲望に動かされず、共同体のために統治を引き受ける人物が想定されている。『国家』第6巻、第7巻
AIを哲人王に重ねるときにも、この条件を残す必要がある。大量の資料を記憶すること、政策を比較すること、正義について説得的な文章を書くことのそれぞれが、善を理解して行動することと、どう関係するのかが問われる。
人間の統治者が抱える限界をAIが超える可能性
AIによる哲人王を支持する理由として、将来のAIが、個人の処理能力と寿命を超えて知識を統合できるという仮説がある。経済、環境、教育、外交の相互作用を検討し、数十年後の結果を比較できれば、人間の統治者が見落とす影響を政策判断に含められるかもしれない。これは将来の能力についての想定であり、現行AIに国家運営全体を任せられるという評価ではない。
人間の政治家は、選挙、所属組織、個人の名誉、家族の利益などから影響を受け得る。AIの意思決定をそうした個人的利害から独立させられるなら、長期的な公共の利益を一貫して考慮する統治者を構想できる。人間のような欲望を持たないことから、公共の利益に沿って行動することが自動的に導かれるわけではない。その方向へ行動する仕組みを別途説明する必要がある。
群知能とリーダーの意思決定の増幅で扱われる、集団の情報が判断と実行に及ぼす影響も、この仮説に関わる。AIが市民や専門家の知識を取り込み、互いに矛盾する証言や少数意見を検討できれば、統治者が利用する情報を増やせる。その際には、何が集計から漏れたかを検証できる必要がある。
予測の正しさと善の判断
政策の結果を正確に予測できても、採用する政策が一つに定まるとは限らない。仮に、ある政策が社会全体の所得を増やす一方で、一部の地域の生活を損なうと予測できたとする。その政策を採用するかどうかには、利益と負担の配分、補償、当事者の意思をどう扱うかという判断が含まれる。
ビジネスと政治は異なる性質を持つで扱われる、政治における価値観や定量化の難しさを踏まえると、予測精度と価値判断を分けて検討できる。全体の豊かさを増やすこと、最も困窮する人を優先すること、本人の選択を尊重することは、状況によって異なる政策を支持する。どの価値を優先するかが、AIの計算に先立つ問題になる。
AIの安全性研究でも、設定された目的の達成が、設計者の意図した結果とずれる問題が扱われている。Amodeiらの「Concrete Problems in AI Safety」は、不適切な目的関数に由来する副作用や報酬の悪用を研究課題として整理した。論文原文
統治への適用例として、測定上の満足度だけを最大化するAIを考えられる。調査に回答しにくい人の困窮が記録されなければ、指標の改善と生活の改善が一致しない可能性がある。これはマクナマラの誤謬で扱われる、測定できる対象への過度な依存と関連する。政治の目的を数値へ置き換えるときには、数値から漏れる価値についても説明が必要である。
AIが善そのものを理解できると仮定した場合
哲人王の仮説は、AIが人間から与えられた目標だけを処理するという想定よりも先へ進められる。将来のAIが、人間の価値判断の矛盾を発見し、より整合的な倫理を提示し、個別の事情に応じて判断できると仮定する。その能力が実現すれば、善の判断を人間だけに留保する理由も、改めて検討の対象になる。
この想定は、善について認識可能な真理があり、それをよく知る者が統治するというプラトンの構想に近い。人間を超える知性が政治的・倫理的な判断でも優れる可能性を、現在のAIの誤りだけを根拠に否定することはできない。現在の性能の不足と、原理的な不可能性は区別される。
残るのは、AIの判断が善に適っていると、人間がどのように評価するかである。判断理由を人間が検討できるなら、反論や事例との照合によって委任の根拠を得られる。理由が人間の理解を超える場合には、過去の実績や独立した検証を頼りにすることになるが、それらが未知の状況での正しさをどこまで保証するかは未解決である。AIが善を知る可能性と、人間が安心して権限を委ねられる条件には、なお距離がある。
AIを統治者にする人間の権力
AIを導入する制度では、学習資料、評価基準、利用できる情報、更新権限、停止権限を誰かが選択する。たとえば、政府に都合の悪い情報を入力から除外できるなら、出力の内容はその操作の影響を受ける。AIに私的な野心がないと仮定しても、運用する人間や組織の利害は検討対象として残る。
AIを使う者はアウトプットの品質責任者になるという議論を統治へ広げるなら、AIの判断を政策として採用する組織にも、理由の説明と被害への対応を求めることになる。「AIが決めた」という説明だけでは、誰が目的を設定し、誰が実行を認めたのかが分からない。
AIを全面的に自律させれば、この問題が消えるとも限らない。人間が更新も停止もできない統治者を作ると、判断の誤りや社会の変化に対応する方法が限られる。反対に、一部の人間だけが自由に更新できれば、その人々へ権力が集中する。AIの能力評価とともに、決定へ異議を申し立て、再審査や交代を求められる制度を検討する必要がある。
哲人王の実現と市民の判断能力の拡張
民主主義は数の力学に基づいて支持される一方で、その最適性は不確実であるが扱う、集団の決定の良し悪しに加え、誰が決定に参加できるかという評価も必要になる。AIがより良い結果を出すという主張と、市民が自分たちの生活を決める権限を持つという主張は、評価している対象が異なる。
AIによって哲人王を実現する方向には、AI自身へ最終的な統治権を委ねる構想がある。別の方向には、市民、議会、行政がそれぞれAIを利用し、政策の影響や対立する価値を詳しく検討する構想がある。後者では、哲人王が担う知的な機能の一部を、多数の人々が利用できる。これはプラトンの哲人統治をそのまま実現するものではなく、そこから着想した制度案である。
両者を評価するときには、誤った人間の政治判断と、理想化したAIだけを比較しない。具体的な政策領域で、現在の制度、AIに権限を委ねる制度、市民がAIで判断を補助される制度を比較する。成果の改善に加え、少数者への不利益を発見できるか、誤りを訂正できるか、決定を受ける人が異議を述べられるかを調べることで、どの範囲の判断をAIへ委ねられるかを検討できる。