转型动力学

当人工超级智能出现时,社会、经济和治理结构将如何转变?我们对劳动力市场、政治体系和文化机构进行相变建模,制定预备路线图。

核心问题:

  • 哪些经济部门面临即时颠覆,哪些会渐进转型?
  • 当 AI 系统超越人类决策者时,民主制度如何适应?
  • 哪些历史先例(工业革命、互联网)适用——在哪些方面它们不再适用?

遏制架构

不是狭义技术层面的对齐,而是更广泛的挑战:设计在 ASI 级系统运行的同时维护人类有意义能动性的制度、法律和社会框架。

核心问题:

  • 当 AI 能力超越人类监督能力时,什么治理结构仍然有效?
  • 如何设计能与 ASI 交互而不被其吞噬的组织?
  • 国际机构在 ASI 治理中扮演什么角色?

后稀缺经济学

如果 ASI 带来了激进的物质丰盛,经济学的基本假设将发生改变。我们开发超越物质稀缺的价值、交换、目的和动机的理论框架。

核心问题:

  • 在后稀缺经济中,什么取代以劳动为基础的收入?
  • 当生产成本趋近于零时,市场如何运作?
  • 当生存需求被普遍满足时,什么驱动人类动机?

认知主权

当 AI 系统的说服力超过任何人类传播者时,维护真实的人类决策成为文明级挑战。我们研究认知防御、认识论自主和机器介入思维的哲学。

核心问题:

  • 个人如何验证其信念确实是自己的?
  • 什么制度保障保护集体决策免受 AI 操纵?
  • AI 辅助与 AI 替代人类认知之间的界限在哪里?