对超智能的谈论很容易把人吓到。而且据一些人说，现在是时候决定我们想要机器做什么了，趁现在还未为时已晚。尽管这种立场可能过于简化了，但思考如何限制我们还未造出来的设备是非常困难的;而且它们的能力我们现在还无法想象，可能未来永远也无法理解。
拒绝人工智能也是很困难的，因为没有任何技术是在人类事先考虑周全之后才被发明出来的。在历史的不同时期人们害怕的许多技术现在已经司空见惯:在某个时候，很多人认为以超过每小时 60 英里的速度旅行是致命的。苏格拉底反对书写，因为他担心这会导致健忘:想象一下他会如何看待我们今天的技术!
但我们可以思考人工智能的未来，以及我们开发协助我们的人工智能的方式。这里给出了一些建议:大部分对超人工智能的恐惧都不是在害怕我们已经知晓或理解的机器，他们害怕的是最糟糕的人性加上无限制的力量。我们无法想象一个思考着我们不能理解的想法的机器;我们想象那是不可战胜的希特勒或斯大林--我们确实能理解他们的想法。我们的恐惧本质上是人类的恐惧:对像人类一样行为的万能机器的恐惧。
这并不是诋毁我们的恐惧，因为我们已经见到机器学习确实能向人类学习。微软不幸的 Tay 是对话型人工智能 Bot 从网络对话中「学会」种族主义和偏见的完美案例。谷歌的图像分类曾将黑人夫妇识别为「猩猩」，这个糟糕的测试结果的原因是训练数据集中没有足够的合适标注的黑人图片。
机器学习成为种族主义者的方式和人类差不多一样:因为这是我们教它们那样做的，不管是有意还是无意。这是一个人类问题，而且是一个可以解决的问题。我们可以在人工智能学习的内容和方式上更加小心。
我们可以对我们的训练集中的内容以及这些训练集的标注方式更加谨慎，我们可以过滤我们认为可以接受的答案类型。这些没什么是特别困难的;但却是必须要做的。更困难的是在目前的环境中让人们达成共识:认为种族主义和仇恨是不好的。
这是人类价值观的问题，而不是机器智能的问题。我们会构建出反映了我们自身价值观的机器:我们已经在那样做了。它们是我们想要反映的价值吗?
白宫对数据科学的报告《Big Risks, Big Opportunities: the Intersection of Big Data and Civil Rights(大风险、大机遇:大数据和民权的交集)》在总结章节中提到，我们需要研究审核算法的方法，以「确保人们被公平对待」。随着我们从「大数据」走向人工智能，对算法的审核以及确保它们反映我们所支持的价值观的需求将只会增长。
将对人工智能的深入研究开放给大众，让公众可以见证到，这一点极其重要。这并非因为我们相信，大众会对研究少些「恐惧」(这一点，或许是对的，也可能是错的)，也不是因为大众多少会对超级智能的观念「习以为常」;而是因为较之公之于众的研究，人们对闭门研究会投以更大的关注。
实际上，《不道德的研究( Unethical Research)》这篇论文建议，打造一个健康的人工智能生态系统的最好方式就是将打造恶毒机器的想法公开。研究会继续在背后进行，认为军方研究和情报部门没有致力于人工智能的想法，很天真。但是，如果没有公开状态下进行人工智能研究，我们就会受到军方或者情报部门研究的支配。
(一个公司，比如谷歌或者 Facebook，是闭门研究抑或开诚布公，是个值得讨论的问题)这也就是 OpenAI 的宗旨:「以尽可能从整体上让人类受益的方式推进数字化智能的研究，不受需要财务收益的限制。」 OpenAI 是一个激动人心而且让人吃惊的应答(针对人们对人工智能恐惧):尽可能远地推进这项研究，但是公开确保公共领域的研究领先于闭门研究。
对于研究来说，开放且公开也同样重要，因为研究起源时常决定了研究的应用。核能就是个好例子。我们可以打造安全、高效的核反应堆。但是，我们从来没有打造过钍反应堆，因为他们不会帮你制造炸弹，而且对核能的深入研究是由国防部门控制的。
核反应堆不是不会产生可用数量的钚吗?为什么任何人都想要核反应堆?再一次，认为军方和国家情报部门不会做出优秀的人工智能研究，这种想法太天真。但是，如果人工智能变成国家情报部门的专属领域，那么，就会有秘密窃听和理解对话的优秀系统。
当思考人工智能还能为我们做些什么时，我们的想象力会受到限制，而且也很难想象人工智能的应用到底会有哪些，除了杀人无人机、老大哥(Big Brother，典出乔治·奥威尔的名著《1984》)的耳目。我们或许永远无法研发出智能医疗系统和机器人护士助理。
如果我们想要让人工智能服务于人类，就必须公开进行研究:作为人工智能研究人员这一更大社区的一部分，作为更为广泛的公众讨论(讨论目标和宗旨)的一部分。我们必须小心，不要打造出人类自己的最糟梦魇;但是，也许需要认识到，噩梦只不过是一个更强大的、真实的人类自身的版本。
（责任编辑：王翔）
声明：文章版权归原作者所有，本文摘编仅作学习交流，非商业用途，所有文章都会注明来源，如有异议，请联系我们快速处理或删除，谢谢支持。
(原文章信息：标题：道德和未来，作者：张雪，来源：未知，来源地址：)
