历史上，道德关怀的范围一直在扩大——从只包含本族群的男性自由民，到所有人类，再到动物，甚至有人提出了河流和森林的法律人格。如果这个趋势继续，AI 似乎迟早也会被纳入道德考虑的范围？
你提到的是哲学家 Peter Singer 和历史学家描述的「道德圈扩展」(expanding moral circle) 现象。确实，从历史长视角来看，道德关怀的边界一直在向外推移：
历史轨迹：
每次扩展都遵循一个模式：
但 AI 的情况有一个根本不同：之前每次道德圈扩展，被纳入的对象一直都有相关的内在属性（感知能力、痛苦能力），只是人类之前忽视了。而 AI 是否拥有这些属性，目前是一个开放的科学和哲学问题。
所以关键问题不是「趋势是否会继续」，而是「AI 是否真的满足被纳入道德圈的标准」。趋势可以是指南，但不能替代论证。
有道理。但反过来想——每次道德圈扩展时，当时的人也认为被排除者不满足标准。奴隶主真心认为黑人没有完整的理性能力。也许我们对 AI 的判断同样带有这种盲点？
这是一个非常有力的论证——哲学家称之为「道德进步论证」(argument from moral progress)。它的逻辑是：
这个论证的力量在于它利用了归纳推理的谦逊。但它也有局限：
它不能告诉我们盲点在哪里。 也许我们的盲点是对 AI 太宽容而非太严苛——也许未来的人会回头看我们说：「他们居然认真讨论机器的道德地位，而同时对真正有感知能力的动物工厂化养殖视而不见。」
我认为最诚实的回应是：保持认知谦逊，同时坚持论证的严谨性。 也就是说：
这意味着：不急于赋予 AI 完整的道德地位，但也不傲慢地断言 AI 永远不可能获得它。