本文由人工智能观察编译

译者：Sandy

随着人工智能和自主系统的普及，这些技术的开发人员必须时刻将伦理道德问题考虑在内，以确保人类社会的安全。

上周五，有新闻报道表示，为了确保人工智能发展的未来仍然具有伦理和社会意识，美国电气和电子工程师协会（IEEE）宣布了三项新的人工智能伦理标准，旨在将人类福祉放在首位。这些新标准也将被载入IEEE的出版物《伦理一致的设计：将人类福祉与人工智能和自主系统优先考虑的愿景》中，这是一份鼓励技术人员在人工智能工作中优先考虑伦理问题的活文档。

关于IEE：

IEEE，（Institute of Electrical and Electronics Engineers），美国电气和电子工程师协会，一个国际性的电子技术与信息科学工程师的协会，也是目前为全球最大的非营利性专业技术学会，其会员人数超过40万人，遍布160多个国家。其每年均会发表多种杂志、学报、书籍，亦举办至少300次的专业会议。IEEE在工业界所定义的标准有着极大的影响。

这么看来，IEEE的这三项伦理标准就显得分量十足了。

“机器人和自主系统将为社会带来重大创新。最近，公众越来越关心可能会发生的社会问题以及可能产生的巨大潜在利益，”IEEE机器人和自动化协会主席Satoshi Tadokoro在发布会上表示。“不过，有些虚构和想象的错误信息可能在讨论中出现。作为世界上最大的技术专业组织，IEEE将以科学和技术的公认事实为基础，引入知识和智慧，以帮助达成公共决策，实现人类整体利益最大化。”

据了解，这三个IEEE标准项目将由各自领域的主题专家领导。标准如下：

☞1，机器化系统、智能系统和自动系统的伦理推动标准。

这个标准探讨了“推动”。就人工智能而言，它指的是影响人类行为的微妙行动。该标准解释了确保机器人和自主系统遵守世界伦理和道德理论所需要的概念、功能和利益，强调了在设计和实现这些系统的过程中，需要对伦理和工程社区进行协调。

☞2，自动和半自动系统的故障安全设计标准

IEEE指出，自动和半自动的系统故障可能会对人类用户、社会及环境造成损害。这就需要有效的故障安全措施来降低与系统崩溃相关的风险，并为开发人员、安装人员和操作人员提供明确的技术指导，以安全地终止安全系统。这个标准建立了一个清晰的程序，用来测量、测试和证明一个自治系统，在从弱到强的范围内，安全失效的能力，以及提高性能的指导。此外，它还为开发人员、用户和监管人员提供了设计这些故障安全系统，以提高可靠性的基础。

☞3，道德化的人工智能和自动系统的福祉衡量标准

随着人工智能系统的改进，程序员，工程师和技术人员必须考虑到他们所构建的产品和服务如何在促进经济生产力增长的同时改善人类的福祉。这一标准确定了人类的幸福指标和衡量标准，而这些指标可能会直接受到自主和智能系统的影响。同时，它还提供了一个基准来对齐这些系统应包含的数据，来增加人类的幸福感。

“很明显，随着技术的进步，自主和智能系统将在我们的生活中扮演越来越重要的角色，”IEEE-SA的总经理Konstantinos Karachalios在发布会上说道，“我们现在所做的努力是很重要且紧急的，因为要确保所有利益相关者都能够心安理得地了解这些系统已经过了深思熟虑，并将全球公认的伦理考虑纳入这些技术的核心。”

其实，除了IEEE在人工智能领域对伦理问题的思考，我国也意识到这个问题。

近日，我国《人工智能》新书发布会暨人工智能法律研讨会上，对人工智能伦理问题进行了深入探讨。与会专家表示，人工智能的迅速发展将深刻改变人类社会生活、改变世界，但同时也需要看到，人工智能是影响面广的颠覆性技术，可能带来冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。

未来如何在大力发展人工智能的同时，高度重视可能带来的安全风险挑战，加强前瞻预防与约束引导，最大限度降低风险，确保人工智能安全、可靠、可控发展？这需要社会各界高度重视。

在小智君看来，这三个标准项目是人工智能领域跨出去的一小步，却意义重大，因为它将有望规范人工智能的发展，而不是阻碍其进步。