Notes

AI as Leviathan

14 min read

2025年以前
2026-02-22

AIはリヴァイアサンになり得るか？

ホッブズの「リヴァイアサン」

17世紀イギリスの哲学者トマス・ホッブズは、自然状態の人間を、自己保存の本能に駆られて限りある資源を奪い合い、常に死の恐怖にさらされる存在として描いた。 1 万人の万人に対する闘争。この状態から逃れるために、人々は社会契約を結び、自らの権利の一部を主権者に譲り渡す。その見返りが安全と秩序だった。 2

ホッブズはこの主権者を「リヴァイアサン」と名付けた。 3 市民の体で構成され、主権者を頭とする巨大な人工的人間。その役割は人々を互いの侵害から守り、平和と共通の防衛を提供することにある。 3

AI技術の現在地

自然言語処理、画像認識、自動化。AI技術はここ数年で急速に実用段階に入った。 4 かつて人間の知能に頼るしかなかった作業の多くをAIがこなせるようになり、企業への導入も加速している。McKinseyの2023年のレポートでは、少なくとも1つの事業部門でAIを使用している組織は55%に達した。 5

AIの応用先は広い。医療、製造、顧客サービスの改善。 6 高齢者介護や家事支援。 6 サプライチェーンの効率化や予測メンテナンスによる二酸化炭素排出量の削減。 6 人間の知能を超えるシンギュラリティへの到達を指摘する声もある。 7 AIが人間の運命を左右するほどの力を持つ段階であり、到来すれば人類にとって大きな転換点になる。

トランスヒューマニズムとの接点も見逃せない。 8 科学技術で人間の身体能力や知的能力を拡張し、人間の限界を超越しようとするこの思想にとって、AIは不可欠な技術となっている。

ただし、利益の裏側には倫理的な問題や社会への悪影響がつきまとう。 9

AIとリヴァイアサンをめぐる国際的な議論

AIは新しいリヴァイアサンか

AIは大量の情報を収集・分析し、社会の動向を予測し、人々の行動を制御しうる。 7 ホッブズがリヴァイアサンに期待した役割と重なる。

中国の「都市脳」プロジェクトは、その具体例だ。 10 AIが都市全体の交通状況、人々の行動、社会不安の兆候を監視し、都市の管理・運営に活用されている。顔認識技術や行動分析技術の発展によって、AIが人々の行動をこれまで以上に詳細に追跡・分析できるようになったことも、この傾向を後押ししている。 7

一方で、AIのリヴァイアサン化にはプライバシーの侵害と個人の自由の制限という深刻な懸念がつきまとう。 11 AI搭載の監視システムが市民の行動統制や反対意見の抑圧に使われる可能性。 12 ホッブズ自身が指摘したリヴァイアサンの権力集中がはらむ弊害と、構造は同じだ。

AIと社会契約

AI技術の発展は社会契約の概念そのものを揺さぶっている。 13

MITの研究者らは「AI時代の社会契約」を提唱し、AIの利用と開発に関する共通理解の確立を訴えた。 14 AIがもたらす利益の最大化とリスクの最小化、その原則と実践が議論の焦点になっている。国連の「Social Contract 2020」でも、AI時代における個人の権利と責任、データの扱い、AIガバナンスのあり方が取り上げられている。 15

ケンブリッジ大学の研究は、AI導入に伴う政府と市民の関係性の変化を分析し、倫理的配慮が不可欠だと指摘している。 16

ここで注目したいのがsociety-in-the-loopという概念だ。 17 AIシステムの設計・開発・運用に人間の価値観や社会規範を組み込み、AIを人間の利益に合致する形で機能させようとする考え方で、AIの悪影響を防ぐ仕組みとして研究が進んでいる。

AIアシスタントと集団規範

AIアシスタントが暗黙的な集団規範にどう適応するかという研究もある。 18 ユーザーとのやり取りを通じて、集団内の暗黙の規範や価値観を学習し、それに基づいて振る舞うようになる可能性が示唆されている。

AI時代の社会契約に向けた研究

AI技術の倫理面を踏まえ、社会全体の利益に貢献するAI開発のための社会契約についても研究が進む。 19 AIシステムの安全性、責任、倫理、社会への影響を考慮した合意形成がテーマだ。

サイバーシン・プロジェクト

1970年代のチリで開発されたサイバーシン・プロジェクトは、サイバネティクス理論に基づくガバナンス・ツールの先駆けだった。 7 経済活動をリアルタイムで監視し、フィードバック・ループを通じて政策決定を支援するシステム。AIによる社会管理の原型とも言える。

AIガバナンスの課題

AI技術の利用が広がるほど、ガバナンスの問題は切迫する。 12 AI技術の開発と利用を適切に管理し、悪影響を防ぐための枠組みをどう設計するか。

課題は多岐にわたる。

  • 安全性の確保: 誤作動や悪用によるリスクをどう抑えるか
  • 倫理的な開発プロセス: 開発の各段階で倫理原則をどう組み込むか
  • プライバシー保護: 個人情報の収集・利用をどう管理するか
  • 透明性: 意思決定プロセスをどう開示し、説明責任をどう果たすか
  • 国際協調: 各国が共通のルールのもとでAI技術を管理できるか 20

シンガポール国立大学のCheng Pangyue氏が提案するAI Surveillance Disclosure Reportingは、具体的な取り組みの一つだ。 21 AI企業に対し、政府の監視システムへのAI技術提供に関する情報開示を義務付ける。技術の透明性を高めることで悪用を防ぎ、市民の権利を守ることを狙う。

考察

賛否の構図

AIがリヴァイアサンの役割を担いうるという見方には、賛否がある。

肯定する側の論拠はこうだ。大量のデータ分析と社会動向の予測によって、より効率的な統治が実現しうる。 7 人間の感情や偏見に左右されない判断を下せる。24時間365日稼働でき、人間を超えた処理能力で迅速かつ正確に対応できる。

否定する側はこう反論する。AIは人間の価値観を完全には理解できず、倫理的判断が難しい。ハッキングや誤作動のリスクがあり、悪用の余地が残る。AIへの過度な依存が人間の自律性や責任感を損なう。

AIリヴァイアサンがもたらしうるもの

AIがリヴァイアサン的な役割を果たすかどうかは、技術の発展と社会への浸透度合いに左右される。技術が進化し、社会のあらゆる分野に入り込むほど、その可能性は高まる。

想定される影響を整理する。

領域想定される影響
効率性AIによる資源配分と意思決定の最適化が、社会全体の生産性を引き上げる
公平性人間の偏見や差別を排除した判断が下される
セキュリティ犯罪予測やテロ対策により安全性が高まる
プライバシー監視システムの強化が個人の領域を侵食する
自律性AIへの依存が人間の判断力と責任感を弱める
雇用自動化が仕事を置き換え、失業が増える

結論

AIがリヴァイアサンになるかどうかは、技術の進展だけでは決まらない。社会がAIをどう位置づけ、どう制御するかという選択の問題でもある。 9 リヴァイアサンとして君臨させるのか、道具として使いこなすのか。その判断は技術者や研究者だけのものではなく、社会全体に開かれている。

引用文献

Footnotes

  1. Thomas Hobbes: Leviathan : r/philosophy - Reddit, 1月 13, 2025にアクセス、 https://www.reddit.com/r/philosophy/comments/llwev1/thomas_hobbes_leviathan/ ↩

  2. Thomas Hobbes’ “Leviathan” - (AP European History) - Vocab, Definition, Explanations, 1月 13, 2025にアクセス、 https://library.fiveable.me/key-terms/ap-euro/thomas-hobbes-leviathan ↩

  3. Leviathan: Terms | SparkNotes, 1月 13, 2025にアクセス、 https://www.sparknotes.com/philosophy/leviathan/terms/ ↩ ↩2

  4. The Current Status Of Artificial Intelligence - All Tech Magazine, 1月 13, 2025にアクセス、 https://alltechmagazine.com/what-is/current-status-of-artificial-intelligence/ ↩

  5. AI Index Report 2024 - Stanford University, 1月 13, 2025にアクセス、 https://aiindex.stanford.edu/report/ ↩

  6. The Future of AI: How Artificial Intelligence Will Change the World - Built In, 1月 13, 2025にアクセス、 https://builtin.com/artificial-intelligence/artificial-intelligence-future ↩ ↩2 ↩3

  7. AI: a potential Leviathan? - INCYBER NEWS, 1月 13, 2025にアクセス、 https://incyber.org/en/article/ai-a-potential-leviathan/ ↩ ↩2 ↩3 ↩4 ↩5

  8. Transhumanism - Wikipedia, 1月 13, 2025にアクセス、 https://en.wikipedia.org/wiki/Transhumanism ↩

  9. The Impact of AI: How Artificial Intelligence is Transforming Society - 3DBear, 1月 13, 2025にアクセス、 https://www.3dbear.io/blog/the-impact-of-ai-how-artificial-intelligence-is-transforming-society ↩ ↩2

  10. The Rise of the AI Leviathan: China’s Ominous Pursuit to Replicate …, 1月 13, 2025にアクセス、 https://blusharkmedia.medium.com/the-rise-of-the-ai-leviathan-chinas-ominous-pursuit-to-replicate-the-human-brain-cc9f5525e4c9 ↩

  11. Mark Coeckelbergh, Green Leviathan or the Poetics of Political …, 1月 13, 2025にアクセス、 https://www.scienceopen.com/hosted-document?doi=10.13169/prometheus.39.4.0265 ↩

  12. AI and Leviathan: Part II | The Foundation for American Innovation, 1月 13, 2025にアクセス、 https://www.thefai.org/posts/ai-and-leviathan-part-ii ↩ ↩2

  13. AI, the Social Contract and Democracy | University of Gothenburg, 1月 13, 2025にアクセス、 https://www.gu.se/en/research/ai-the-social-contract-and-democracy ↩

  14. Social Contract for the AI Age - Sociotechnical Systems Research Center, 1月 13, 2025にアクセス、 https://ssrc.mit.edu/wp-content/uploads/2020/10/Social-Contract-for-the-AI-Age.pdf ↩

  15. UN75: Social Contract 2020 - Toward Safety, Security, & Sustainability for AI World, 1月 13, 2025にアクセス、 https://www.un.org/en/academic-impact/un75-social-contract-2020-toward-safety-security-sustainability-ai-world ↩

  16. Exploring citizens’ stances on AI in public services: A social contract perspective | Data & Policy | Cambridge Core, 1月 13, 2025にアクセス、 https://www.cambridge.org/core/journals/data-and-policy/article/exploring-citizens-stances-on-ai-in-public-services-a-social-contract-perspective/EA2E34B51F522B34D58E8B1103EE6D27 ↩

  17. arxiv.org, 1月 13, 2025にアクセス、 https://arxiv.org/pdf/1707.07232 ↩

  18. Social Contract AI: Aligning AI Assistants with Implicit Group Norms - Stanford University, 1月 13, 2025にアクセス、 https://cicl.stanford.edu/papers/franken2023social.pdf ↩

  19. [2006.08140] The Social Contract for AI - arXiv, 1月 13, 2025にアクセス、 https://arxiv.org/abs/2006.08140 ↩

  20. Envisioning a Global Regime Complex to Govern Artificial Intelligence, 1月 13, 2025にアクセス、 https://carnegieendowment.org/research/2024/03/envisioning-a-global-regime-complex-to-govern-artificial-intelligence ↩

  21. Regulating the ‘AI Leviathan’: A Framework for AI Surveillance …, 1月 13, 2025にアクセス、 https://kluwerlawonline.com/journalarticle/European+Business+Law+Review/35.4/EULR2024044 ↩

グラフビュー