一家由硅谷的「重量级选手」斥资十亿美金支持的盈利性公司，将会怎样让机器变得更「人性」？
编者按：OpenAI 背后尽是一些硅谷的「大人物」，Musk 支持 OpenAI 是出于规范人工智能的目的，但 OpenAI 中不乏那些自由主义者，这些人观点是否与 Musk 相悖，尚未可知。同时眼下比「我们可能控制不了人工智能」这个问题更迫在眉睫的是，人工智能是否会对社会的就业和经济结构造成冲击。人工智能确实是一把「利剑」，可我们究竟应该怎样使用这把利剑？
（不了解 Open AI ？你需要先看看这篇文章 → 曾经反对人工智能 Elon Musk 怎会创立 OpenAI 公司？答案或许在这里。）
本文编译自 MIT Technology Review，图片来源于 MIT Technology Review。
十亿美金是一笔巨额投资——即使你的目标是从失控的人工智能造成的伤害中拯救世界。
OpenAI 的想法是这样的：由于无需回应学术界或工业界，在它创造出技术带来的潜在伦理问题上，它能够更好地思考和处理——OpenAI 并不是第一个致力于推动人工智能发展的非营利性公司。Google，Facebook 和其他的在人工智能做出贡献的公司都已经开放了他们开发出来的技术。然而，OpenAI 还是赚足了眼球，不仅是因为它涉及了如Elon Musk，Peter Thiel，和 Sam Altman 等许多大人物，还因为它崇高而超前的目标。
质疑：OpenAI 关于「有益于全人类」的标准是什么？
朝着这个方向努力是值得并且明智的。毕竟许多人工智能的专家都认为，对一个日渐强大却混乱的科学技术进行思考是有价值的。
然而，还有一些重要的问题有待回答。我们尚不明确 OpenAI 获得的这十亿美金将会如何使用，或它的研发进度将会是怎样。也没有明确的证据表明这个组织的道德伦理将会如何在他们编写给人工智能的基础算法中得到规范。也许其中最让人感到疑惑的是，这些道德目标将会如何被编写成未来人工智能的程序中，并且让人工智能能够接受这些道德规范。
「我同意人工智能是很强大的工具，人工智能的设计和使用有好有坏，」加州理工大学研究机械和人工智能伦理的哲学学者 Patrick Lin 说，「虽然 OpenAI 表明自己的目标是「对于所有人的好结果」和「造福全人类」，但谁能定义什么是好结果？」
Lin 注解道，有些支持 OpenAI 的人以他们自由论的观点而广为人知，而这些人也许和公众不在同一战线上。并且他指出 Tesla 在公共道路上测试它的无人驾驶技术在道德上是存有问题的。Lin 也表示，简单地将去除金钱上的激励是无法根除事物走向歧途的潜在可能性的。
支持：积极主动的做法有助于推动科学发展
其他人，尤其是一直担心他们开发出来的技术会造成长期不良后果的人们，却更加支持 OpenAI。「我对他们采取主动的方式感到异常兴奋。」技术出身的一名微软总经理 Eric Horvitz 表示。他目前在华盛顿州雷德蒙德工作，并且对人工智能造成的长期重大影响一直很感兴趣。「我希望微软研究大体上能帮助 Elon、Sam 和其他人，并与 OpenAI 的人一起合作。」
在 2009 年之时，作为「推动人工智能进步协会」主席的 Horvitz 召开了一次会议来探讨人工智能的长期影响。去年他发现学术研究能解决他的困惑。「这方面的发展不仅仅是矫正机器性能和确认系统能正确工作，」Horvitz 说道，「还必须要赋予他们能力去判断人们是否身处困境，以及什么时候人工智能应该施以援手。」
Oren Etzioni 是 Allen 人工智能研究所（同样也是一家非营利性组织）的 CEO，他对于这次公告也持肯定态度：「我觉得每个人都会认为这是一件好事情。OpenAI 的人都是极具天赋的。」
到底人工智能对我们有什么影响？
OpenAI 发出公告显然是人工智能重生的重要时刻。这个过程十分迅速有时候快得让人瞠目结舌——使用了一项基
于神经网络的技术——大家所熟知的「深度学习」。构建出这项算法之前，机器都是躲避这些任务的，这些任务包括辨识图片中的内容，理解口语，以及分析基础的文本。
与 OpenAI 成立随之而来的是来自于 Musk 和其他人的警告。他们担心人工智能的潜在长期影响，这些担心部分是源于无法控制人工智能超人一般能力的猜测。大部分猜测是受到一本名为《Superintelligence：Paths，Dangers，Strategies》书的影响。这本书的作者是来自于牛津大学未来人类研究所的哲学学者 Nick Bostrom。他的书中还包含许多关于人工智能的耸人听闻的想法和实验。
有些人注意到，媒体的担心应该要比对长期影响的恐惧更重要，比如人工智能在就业和法律地位上的影响。
「我肯定会思考人工智能对社会和经济的影响。」Etzioni 说道，「我担心的是，那些牵强附会的想法——人工智能是否会成为潜在威胁，是否会让我们从现实存在的问题中分心。」
这家非营利性组织最不担心的是缺少技术支持。它的研发总监是 Ilya Sutskever。他曾是「深度学习」方面的研究先驱 Geoffrey Hinton 的学生，并与 Hinton 共同创立了一家公司，后来这家公司被 Google 收购了。
OpenAI 项目还没有阐述它的道道德规范如何改变 Sutskever 和他的同事们开发出的机器学习技术。
有些技术专家表示这并不是一项无法完成的挑战。「我认为将道德标准考量编写进机器学习算法并不困难，因为部分功能是由它们自己优化的。」华盛顿大学的一名教授 Pedro Domingos 表示。然而，他也注释道：「最大的问题是我们人类自身是否能够从头至尾地贯彻同一套道德标准。另一个选择是让人工智能通过观察我们的行为来学习道德规范，但我感觉如果它们真的这样做，它们会被变得更加困惑。」
尽管 OpenAI 选择将道德规范编写进他们的算法中，但 Lin 主张这个问题需要公开进行更多地讨论。「社会上应该有更多关于「什么是好的结果」的界定，尤其是针对如人工智能一样能够改变世界的技术，」他表示，「如果没有更多的界定，他们可能会误入歧途。」
如果你想了解、试用更多新鲜有趣的硬件产品，掌握最新的硬件行业动态，欢迎关注「极客之选」微信帐号。查看历史文章请点击：传送门 。
（头图来自视觉中国）
