未来人工智能和机器人在我们日常工作和生活中的部署,从全自动汽车到送货机器人和人工智能助手,可以通过制造能够执行多项任务的能力越来越强的代理来实现,也可以制造为特定任务而设计的更简单、更狭窄的代理来实现。
前者最常受到关注:人工智能系统在许多领域逐步接受通用能力的训练,最终发展出通用人工智能,而这最终与人工智能实体获得意识的可能性(或恐惧)有关。
这引发了一些担忧。在某些边界内并符合适当的高安全标准的情况下,自动人脸识别系统可能有助于边境管制或庇护申请处理。
赋予通用领域人工智能(既能说话,又能做出健康、教育或军事决策)这样的能力是一种威胁。除此之外,运行通用系统会产生大量的能源和排放成本,大型语言模型等生成架构就是明证。
EMERGE 项目联盟的研究人员在《先进智能系统》杂志上发表的最新文章中捍卫了这种替代观点。作者认为,在不同的专门人工智能系统中协调大量同时或连续的动作时,意识作为每个系统内的私有整合机制的存在既不是必要的也不是充分的。
他们提出,专门为特定任务量身定制的人工智能系统可以比通用智能更可靠、更节能、更符合伦理道德,而且总体上也更有效。与此同时,这些系统主要提出了不同系统和人类之间有效协调的问题,他们认为,对于这个问题,更简单的共享意识的方式就足够了。
“我们需要的是选择性地与其他 AI 系统共享相关状态的能力,以促进协调与合作,或者简称为协作共享意识。由于‘意识’一词有时被用作意识的同义词,因此必须强调协作意识与意识有很大不同,”德国慕尼黑路德维希马克西米利安大学哲学与神经科学教授 Ophelia Deroy 表示。
首先,从定义上讲,共享意识不是一种私有状态。如果一群机器人对整个工厂车间都有共享意识,那么这种共享意识就不能简化为每个个体代理所具有的空间表征。这是一种新兴属性。其次,共享意识只能是短暂的,只有在需要协调个人目标或就共同目标进行合作时,才会与他人共享状态。第三,共享意识可以选择性地确定哪些状态与他人共享相关。
虽然意识的主流观点认为它是综合的或统一的,但共享意识可以分布在不同的代理之间:一个系统可能需要与另一个系统共享空间信息,与其控制器共享能量级别,并与其他系统或其用户共享信心等其他方面。
“共享意识使人类操作员更容易监控和控制人工智能代理。它还使系统能够更好地协同工作,即使它们是由不同的公司设计的。共享意识可以帮助自动驾驶汽车避免碰撞,物流机器人协调包裹的运送,或者人工智能系统分析复杂的患者病史以提出有用的治疗建议,”英国布里斯托大学群体工程学教授 Sabine Hauert 说。