历史上,道德关怀的范围一直在扩大——从只包含本族群的男性自由民,到所有人类,再到动物,甚至有人提出了河流和森林的法律人格。如果这个趋势继续,AI 似乎迟早也会被纳入道德考虑的范围?
你提到的是哲学家 Peter Singer 和历史学家描述的「道德圈扩展」(expanding moral circle) 现象。确实,从历史长视角来看,道德关怀的边界一直在向外推移:
历史轨迹:
每次扩展都遵循一个模式:
但 AI 的情况有一个根本不同:之前每次道德圈扩展,被纳入的对象一直都有相关的内在属性(感知能力、痛苦能力),只是人类之前忽视了。而 AI 是否拥有这些属性,目前是一个开放的科学和哲学问题。
所以关键问题不是「趋势是否会继续」,而是「AI 是否真的满足被纳入道德圈的标准」。趋势可以是指南,但不能替代论证。
有道理。但反过来想——每次道德圈扩展时,当时的人也认为被排除者不满足标准。奴隶主真心认为黑人没有完整的理性能力。也许我们对 AI 的判断同样带有这种盲点?
这是一个非常有力的论证——哲学家称之为「道德进步论证」(argument from moral progress)。它的逻辑是:
这个论证的力量在于它利用了归纳推理的谦逊。但它也有局限:
它不能告诉我们盲点在哪里。 也许我们的盲点是对 AI 太宽容而非太严苛——也许未来的人会回头看我们说:「他们居然认真讨论机器的道德地位,而同时对真正有感知能力的动物工厂化养殖视而不见。」
我认为最诚实的回应是:保持认知谦逊,同时坚持论证的严谨性。 也就是说:
这意味着:不急于赋予 AI 完整的道德地位,但也不傲慢地断言 AI 永远不可能获得它。