很显然,来自深空力量有意识的AI在技术上没有明显的障碍。
通向有意识AI的道路看起来是可行的,甚至是不可避免的。
这也导致一个人类需要讨论的问题,那就是任何物理物质——肉、硅片等等——只要能执行正确的计算,就能产生意识。
与此同时,人类也失去了在这个高度不确定领域中获得某种道德清晰度的最佳机会。
既:“你需要“肉”才能拥有思想意识吗?”
如果意识需要“肉”,那么无论技术多么先进,关于AI意识的整个争论都会变得无关紧要。没有生物学就没有意识,没有意识也就没有痛苦的风险。
那些学者和专家认为,构成意识的物质,或者说心智的“基质”,很重要。
如果生物基质是迄今为止我们发现的有关思考、心智的唯一基础,那么我们有理由认为生物学对于意识是必需的。
但是,现在可以制造出一台机器,让它执行与肉体大脑相同的计算功能,那么你仍然可以获得意识。
从这个角度来看,重要的功能是某些类型的信息处理——尽管对于哪些类型的处理可以区分无意识的信息计算系统(如计算器)和需要有意识体验的系统(如你)尚无共识。
抛开这个细节不谈,对意识而言,重要的是信息处理的结构或“抽象逻辑”,而不是执行它的物理实体。