人工智能设计的风险及其规避人工智能设计的风险及其规避：未知[摘要]随着人工智能的发展，其所引发的风险与责任问题倍受学界关注。人工智能带来的风险与人工智能设计有较大关联。从理论上来讲，人工智能设计应思考人工智能是否具有道德行动者地位和“道德嵌入”的合理性等问题。人工智能设计目的与实际结果的不相符，人工智能设计目的与使用者需求不相符，人工智能设计技术的不完备等都会带来风险。为解决人工智能设计的风险问题，其设计的目的应彰显“善”的理念，设计过程中应关注正义与公平，强调设计者的责任意识。[关键词]人工智能，设计风险，道德嵌入，责任意识[]N031[文献标识码]A[]1004-4175（2018）05-0022-05人工智能在21世纪不断取得理论和实践突破，成为最有前景的新兴技术之一。但是一些智能机器在实际应用过程中却造成了意想不到的后果，带来了许多风险。由于技术的双面性，人工智能技术的不确定性，人工智能的应用可能违背人工智能设计者的初衷，这些原因都可能导致人工智能风险。例如，无人驾驶汽车是为了解放双手，却可能潜藏着安全问题；云计算为了数据挖掘统计方便，却存在隐私泄露的风险，等等。人工智能可能带来的这些风险与设计主体意愿、设计目的与设计结果的偏离等有密切关系。一、人工智能设计的理论基础人工智能设计与制造的结果是产生具有自我推理能力的智能机器，对其风险的研究应该基于对人工智能设计理论基础的挖掘，我们主要从人工智能是否是道德行动者以及人工智能“道德嵌人”的合理性进行分析。（一）对人工智能是否具有道德行动者地位的思考。随着智能机器在技术方面不断取得新的突破，智能机器的深度学习、面部表情、语音识别、大数据和云计算处理速度等能力的不断加强和运用，智能机器在社交、知觉、创造力、自然语言理解等能力上的不断突破，可以说机器越来越像人。那么，智能机器是否像人类一样具有道德主体地位呢？人工智能的功能由人工智能的算法决定，智能机器通过算法对环境中的数据进行分析，从而作出相应的决策并表现出同样的行为。“可以看出这种方法并未假设计算机和大脑在‘硬件’上的相似会超出这样一个范围，即认为两者都是通用的符号处理装置，而且能为计算机变出程序进行一些基本的信息处理，使他们的功能与大脑十分相似。”[1]9人工智能不仅仅是伦理规则的被动中转者，还在现有道德生态中与其他实施者互动。如何权衡机器人及其生物的生存地位等伦理问题将成为规范与约束人工智能设计的一个重要方面。人与机器有本质的区别，人具有理解能力，而机器不具有理解能力。人具有意向性，机器不具有意向性（intentionality）。“意向性被看作是区分个体的人与机器的根本特征之一：机器和人可以做同样的事情，但是人有意向性，而机器没有。”[2]10意识只是脑的一种属性，机器与人类可以具有相同的功能，但是机器没有意向性。即使人工智能不是道德主体，但是人工智能与人类可以具有共同的行为。如果人工智能获得与人类相近或者相同的思维能力和推理能力，界定人工智能和人类的道德地位也会成为难题。例如，机器学习与图像识别技术让无人驾驶汽车轻松上路，却带来机器设计道德上的伦理困境等。人类行为具有复杂性，并不能简单地还原为大脑的结构，人类的大脑到现在为止还是一个未知的“黑箱”。人工智能技术改变了传统的人与技术的关系。美国技术哲学家唐?伊德（DonIdle）在其《技术与生活世界》一书中从人对技术的感知出发，用“人一技术一世界”的结构分析三者的关系问题，提出了人与技术的具身关系、诠释学关系、它者关系和背景关系，构成了四种技术情境下的人、技术与世界的互动关系图式，分别是[3]72-112：具身关系：（人―技术）→世界诠释学关系：人→（技术―世界）它者关系：人→技术―（―世界）背景关系：人（―技术/世界）伊德认为：“越接近于技术所允许的隐形性和透明性，就越能扩展人的身体感觉，就越是好的技术。值得注意的是，设计的完善不仅仅与机器有关，还与机器与人的组合有关。机器沿着一个身体的方向完善，并且是根据人的感知和行为塑造的。”[3]74设计者在人工智能中占有重要地位，因此，必须关注智能机器的设...