注:图中的文字为日语,正文与图注以中文进行说明。
导言
推动社会的主语正在改变
如果AI、机器人、城市、自然与协议今后在社会中拥有各自独特的角色与影响力,我们就会把它们当作新的“行动者(主体)”来对待。
AI进行谈判、签约与下单。
城市自主调节交通与资源分配。
河流与森林通过代理AI对开发计划提出异议。
协议无需人的判断便能转移资金与权限。
这样的社会,显然不同于迄今为止以人、企业与国家为中心建立起来的社会。
推动社会的“主语”正在增加。
从这个意义上说,今后大概会成为多元行动者时代。
不过,也可以换一种角度来看。
与其说推动社会的主体在增加,也可以说,迄今为止被归属于某一个人或某一个组织的“主体”这一概念本身,正在瓦解。
今后,是无数行动者涌现的时代吗?
还是无法确定由谁决定的“无人的时代”?
1. 多元行动者时代的视角
推动社会的主语的增殖
所谓多元行动者时代,是参与社会的行为主体种类不断增加的未来。
迄今为止,被视为社会主体的,主要是人,以及由人组成的集合体——企业与国家。
机器与软件,是由人操作的工具。
然而,当AI开始拥有记忆、目的、权限与持续性时,它的定位就会改变。
例如,AI将开始承担以下行为。
- 代替人发送邮件、协调日程
- 比较商品、谈判购买条件
- 向其他AI下达工作订单
- 管理资产、进行支付
- 审计组织内部的风险
- 通过机器人进行物理作业
此时,AI已不再只是执行处理的工具。
它会成为在社会中作用于他者、产生结果的存在。
同样,城市、河流、森林与未来世代,也可能通过传感器与代理AI获得社会话语权。
未来的议会中,参与者或许不只是人,还有代言河流利益的AI、代言百年后居民的AI、代表整个城市基础设施的AI。
在这种视角下,未来就是主体的增殖。
社会将转向由拥有不同时间尺度、身体与目的的存在共同决策。
但在这里,第一个问题产生了。
所谓行动者,是拥有意识的存在吗?
还是对社会产生影响的存在?
我们并不知道AI是否真的拥有意志。
但如果它签订契约、转移资金、改变人的行为,在制度上就不得不把它当作行动者来对待。
2. “无人的时代”的视角
决策主体的解体
另一方面,同样的未来也可以从另一个角度来看。
即使看起来是AI做出了决策,也很难把这个决定只归属于AI。
那里有设定目的的人。
有生成数据的社会。
有制定规则的组织。
有推动价格的市场。
有强化判断的另一个AI。
也就是说,决定并非产生于某一个主体,而是作为多种因素相互连接的结果而发生的。
这并不只是AI的问题。
人也同样,并非作为独立的主体而完全自律。
想要哪件商品?
选择哪份工作?
信任谁?
决定了什么?
这些都由过去的经验、社会规范、经济条件、身体状态与推荐算法所塑造。
多元行动者化所揭示的,不只是AI中诞生了主体。
也许还有人从一开始就不是单独主体这一事实。
在这种视角下,存在于社会中的并不是固定的主体。
存在的是关系、连接、委托、参照、谈判、转换与事件。
不是主体在增加,而是我们发现,原以为是主体的东西,只不过是网络中暂时的结点。
3. 主体的增殖,还是主体的解体
两种视角的交汇点
两种视角可以整理如下。
| 观点 | 多元行动者时代 | 无人的时代 |
|---|---|---|
| 社会 | 主体种类增加 | 关系与作用推动社会 |
| AI | 新的行为主体 | 网络中的一个要素 |
| 人 | 众多行动者之一 | 由条件暂时成立的存在 |
| 意志 | 由多个主体拥有 | 从相互作用中生成 |
| 责任 | 分配给多个主体 | 转移到结构与配置 |
| 自我 | 扩展为多个人格 | 固定的中心消失 |
| 法律 | 认定新的主体 | 处理关系结构而非行为者 |
| 政治 | 让多样的存在获得代表 | 被代表的主体本身成为建构物 |
多元行动者的视角,在设计社会与制度时很有效。
赋予谁权限?
让谁承担义务?
保护谁的利益?
为此,必须确定行动者的轮廓。
另一方面,“无人”的视角,在描述现实中的因果关系时很有效。
一个结果,未必产生于某一个人的意志。
在未来社会中,需要灵活运用这两种视角。
4. 决策中会发生什么
自律与自动之间的渐变
这种二重性,会如何改变日常的决策?
早晨,在本人醒来之前,健康AI决定延长睡眠时间,日程AI推迟了会议,住宅AI根据电价调整了热水供应时间。
等本人起床时,当天的大部分条件早已确定。
在多元行动者视角下,多个AI、身体、住宅与企业相互协作,支撑着一个人的生活。
在“无人”视角下,“本人的意志”不再是决策的起点,而是接收多个处理结果的地方。
为我做出的决定,是我的决定吗?
最后批准的人,真的是决策者吗?
制作选项的一方与做出选择的一方,哪一方才是主体?
5. 组织与市场中会发生什么
没有人的混合系统如何运转
在组织与市场层面,这一现象会更加明显。
未来的公司里,工作的AI或许会比人还多。
调研AI、销售AI、制作AI、法务AI、审计AI相互协作,AI还会向别的AI下达工作订单。
即使创始人不参与日常业务,公司也会按照目标与评价指标持续运转。
在多元行动者视角下,公司会成为由人与AI组成的混合组织。
在“无人”视角下,不存在推动公司的统一意志,只剩下角色、指标与权限的循环。
市场中也会发生同样的事。
采购AI与销售AI谈判价格,物流AI负责配送,会计AI完成结算。
交易在人没有察觉的情况下进行。
组织需要由某个人的意志来推动吗?
仅凭目标与评价指标持续运转的公司,存在主体吗?
没有人参与的市场,是为了谁的市场?
6. 责任方面会发生什么
无法归属的断层线
在多个AI与人共同参与的医疗、交通与金融领域,可能会出现谁都没有明显过失却发生事故的情况。
诊断AI做出了统计上正确的判断。
医院AI公平地分配了资源。
医生没有推翻AI判断的依据。
配送AI选择了最短路线。
所有行动者在局部上都做出了正确的行为。
然而,还是有一个人死了。
在多元行动者视角下,需要把责任恰当地分配给人、AI、开发者与组织。
在“无人”视角下,造成事故的不是个别主体,而是关系的配置本身。
一场谁都没有错的事故,由谁来负责?
责任就是惩罚某个人吗?
还是修复造成事故的那些关系?
未来的法律,或许会从审判主体,转向审判配置。
7. 自我会发生什么
日益多元的知性人格
这种变化,也会深深影响我们内在的“自我认识”。
我们开始在日常中把多个AI当作自己的代理(Proxy)来使用。它们不只是聊天对象,而会学习我们的思维模式与记忆,带着不同的角色四处行动。
作为自身分身而自主行动的多个人格。
负责工作的人格。
负责创作的人格。
保存记忆的人格。
进行批判的人格。
管理健康的人格。
它们各自在外部社会中活动,代替本人发言与判断。
在多元行动者视角下,自我被扩展为多个人格。
在“无人”视角下,本应位于中心的“真正的我”再也找不到了。
如果多个人格构成了我,那么到哪里为止才是我?
没有中心却仍在延续的东西,能称为自我吗?
自我是主体,还是人格之间协调的结果?
AI越是扩展自我,自我的边界就越模糊。
8. 自然与未来世代会发生什么
非人类主体的制度性包容
多元行动者化最令人欣慰的一面,在于那些迄今“没有语言”的存在,有可能作为行动者被包容进来。
在环境问题中,自然(河流、山林、生态系统)一直是人类开发的“客体(被牺牲的对象)”。但如果用传感器持续观测其状态,并根据数据配置代表其利益(健康的水质、物种多样性等)的AI,自然就能作为拥有自身意志的“主体”参与共识形成。
也可以设想这样一个社会:河流与森林拥有代理AI,对开发计划发表意见。
未来世代AI也可能代言尚未出生之人的利益。
在多元行动者视角下,迄今没有声音的存在参与到社会中来。
在“无人”视角下,那个声音是由传感器、模型、设计者与制度构成的人工人格。
人工构成的声音是假的吗?
如果有利益因那个声音而得到保护,是否应该承认它为主体?
森林与未来世代,在被代理之前就已经是行动者了吗?
还是只有在被“翻译”之后,才第一次成为行动者?
9. 存在与否,取决于观察的层次
缘起与空的社会结构
在这里,佛教的视角可以作为一条辅助线。
人、AI与城市,都不是作为独立不变的实体而存在的。
它们是由各种条件与关系暂时成立的(缘起)。
这并不意味着什么都不存在。
它们虽然不作为固定的实体而存在,却确实在关系中发挥作用。
伤害。
帮助。
记忆。
约定。
改变世界。
用佛教的话来说,正因为是空,才会依缘起而显现。
站在这一视角上,多元行动者与“无人”并不矛盾。
没有谁作为独立的主体固定地存在。
然而,在关系之中,无数行动者得以生成。
所谓行动者,或许并不是独立实体的名字,而是在关系中暂时显现的作用的名字。
10. 今后会是哪一种时代
相互交融的行动者的共同创生(Copoiesis)
今后,社会大概会赋予AI、自然、城市与未来世代更多作为行动者的轮廓。
法律与政治为了决定谁拥有权限与义务,需要主体。
另一方面,技术越是高度化,多个AI与制度越是相互连接,就越难把行为归属于某一个主体。
制度增加行动者。
现实消融主体的边界。
未来,是多元行动者时代吗?
还是无人的时代?
大概并非二者择一。
正因为没有谁固定地存在,
才会成为无数行动者在关系中显现的时代。
主体不再是“存在的东西”,而是根据需要而被构建的东西。
AI、森林、城市、未来世代、人。
它们在某些场合被当作明确的行动者,在另一些场合又被分解为关系的一部分。
今后被追问的,并不是AI是否真的拥有主体性。
在哪些场合,把什么建立为行动者?
赋予这些行动者怎样的权限与责任?
又在什么时候解除它们的轮廓?
未来,将有比以往更多的主体。
然而,在其中心,却空无一人。
这种二重性,或许正是多元行动者时代最本质的特征。