轉型動力學

當人工超級智能出現時,社會、經濟和治理結構將如何轉變?我們對勞動力市場、政治體系和文化機構進行相變建模,制定預備路線圖。

核心問題:

  • 哪些經濟部門面臨即時顛覆,哪些會漸進轉型?
  • 當 AI 系統超越人類決策者時,民主制度如何適應?
  • 哪些歷史先例(工業革命、互聯網)適用——在哪些方面它們不再適用?

遏制架構

不是狹義技術層面的對齊,而是更廣泛的挑戰:設計在 ASI 級系統運行的同時維護人類有意義能動性的制度、法律和社會框架。

核心問題:

  • 當 AI 能力超越人類監督能力時,什麼治理結構仍然有效?
  • 如何設計能與 ASI 交互而不被其吞噬的組織?
  • 國際機構在 ASI 治理中扮演什麼角色?

後稀缺經濟學

如果 ASI 帶來了激進的物質豐盛,經濟學的基本假設將發生改變。我們開發超越物質稀缺的價值、交換、目的和動機的理論框架。

核心問題:

  • 在後稀缺經濟中,什麼取代以勞動為基礎的收入?
  • 當生產成本趨近於零時,市場如何運作?
  • 當生存需求被普遍滿足時,什麼驅動人類動機?

認知主權

當 AI 系統的說服力超過任何人類傳播者時,維護真實的人類決策成為文明級挑戰。我們研究認知防禦、認識論自主和機器介入思維的哲學。

核心問題:

  • 個人如何驗證其信念確實是自己的?
  • 什麼制度保障保護集體決策免受 AI 操縱?
  • AI 輔助與 AI 替代人類認知之間的界限在哪裡?