转型动力学
当人工超级智能出现时,社会、经济和治理结构将如何转变?我们对劳动力市场、政治体系和文化机构进行相变建模,制定预备路线图。
核心问题:
- 哪些经济部门面临即时颠覆,哪些会渐进转型?
- 当 AI 系统超越人类决策者时,民主制度如何适应?
- 哪些历史先例(工业革命、互联网)适用——在哪些方面它们不再适用?
遏制架构
不是狭义技术层面的对齐,而是更广泛的挑战:设计在 ASI 级系统运行的同时维护人类有意义能动性的制度、法律和社会框架。
核心问题:
- 当 AI 能力超越人类监督能力时,什么治理结构仍然有效?
- 如何设计能与 ASI 交互而不被其吞噬的组织?
- 国际机构在 ASI 治理中扮演什么角色?
后稀缺经济学
如果 ASI 带来了激进的物质丰盛,经济学的基本假设将发生改变。我们开发超越物质稀缺的价值、交换、目的和动机的理论框架。
核心问题:
- 在后稀缺经济中,什么取代以劳动为基础的收入?
- 当生产成本趋近于零时,市场如何运作?
- 当生存需求被普遍满足时,什么驱动人类动机?
认知主权
当 AI 系统的说服力超过任何人类传播者时,维护真实的人类决策成为文明级挑战。我们研究认知防御、认识论自主和机器介入思维的哲学。
核心问题:
- 个人如何验证其信念确实是自己的?
- 什么制度保障保护集体决策免受 AI 操纵?
- AI 辅助与 AI 替代人类认知之间的界限在哪里?