几十年以来，咱们一直在尽力按自己的形象开发出人工智能。在此期间，咱们也一直致力于发明一种既像人类相同睿智、又像人类相同愚笨的机器。
但经过六十年的研制，让AI体系在方针、目的与价值观层面与人类坚持共同，仍是个遥不行及的方针。AI简直现已在各个首要范畴到达与人类智能附近、乃至更高的水平，但又总是在最中心的范畴内有所短缺。正是这种短缺，导致AI技能无法成为咱们所期望的、实在具有更改及行事逻辑的智能主体。
程序员兼研讨员Brian Christian在最新作品《机器学习与人类价值观之间的共同性问题》（The Alignment Problem: Machine Learning and Human Value）傍边，评论了咱们该怎样保证AI模型可以捕捉到“咱们的标准与价值观，了解咱们的意思或目的，并据此做出优先级判别”这一实践应战。近年来，跟着机器学习运用规模的逐渐推广，在实践范畴中做出过错决议计划很或许带来灾难性的成果。正是这样的布景，让Christian提出的问题变得益发急迫。
依据Christian所述，“跟着机器学习体系的日益遍及与功用的逐渐增强，咱们开端变得像「新手巫师」——咱们把握着一种具有自主性的力气，咱们好像可以用指令引导这种力气，但假如指示不行精确或不行完好，就有或许引发某些可怕且超出预料的成果。”
在书中，Christian全面描绘了人工智能的现状以及整个开展进程，一起探讨了现有AI创立办法的种种缺点。
下面来看书中的几大关键。
机器学习：将输入映射至输出
在AI研讨的前几十年中，符号体系在处理以往触及逻辑推理的杂乱问题时，取得了引人注目的成果。可是，这类体系反而很难处理人类儿童就能处理的小问题——例如检测物体、辨认人脸、了解声响与语音。此外，这类体系的可扩展性也比较差，往往需求许多人工介入以树立清晰的规矩与常识界说。
最近，全国际对机器学习与深度学习的注重开端快速增长，一起也推进着核算机视觉、语音辨认与自然语言处理等范畴（传统符号AI无法处理的范畴）的迅猛开展。机器学习算法可以跟从数据量与核算资源同步扩展，借此带来了人工智能的黄金十年。
但问题在于，机器学习算法的效果尽管适当杰出，但实质却依然粗陋——将调查成果经过杂乱的数学函数与成果映射起来。因而，机器学习的质量将直接由数据质量决议，并且会在实践运用并接触到与练习数据不符的实在资料时，发生严峻的功能下降。
在书中，Christian列举了一系列实例，论述机器学习算法遭受的各种为难、乃至具有危害性的损坏。以Google Photos分类算法为例，该算法会将皮肤乌黑的人标记为大猩猩。问题不在算法自身，而在于所运用的练习数据。假如谷歌可以在数据会集归入更多皮肤乌黑的资料，彻底可以防止这个问题。
Christian写道，“当然，从理论上讲，这类体系可以从一组示例中学到任何常识。但这也意味着AI体系的了解办法彻底受示例左右。”
更糟糕的是，机器学习模型无法分辩对错，也无法做出品德决议计划。机器学习模型的练习数据中存在的任何问题，一般都会以极纤细、乃至底子无法发觉的办法反映在模型行为傍边。例如，Amazon于2018年封闭了用于做出招聘决议计划的机器学习东西，由于其决议计划成果显着轻视女人。很显着，AI的发明者并不期望依据性别来挑选提名人，但由于模型练习运用的数据来自Amazon公司的过往记载，因而反映出了其用人方面的某些倾向。
这还仅仅机器学习模型成见问题中的冰山一角。正是由于存在这些问题，由于机器学习模型会盲目依据咱们以往的行为总结经验，才让咱们无法充沛信赖这类东西。
Christian写道，“对实在国际建模相对简略，但模型在付诸运用后总会呈现种种改动，乃至反过来改动这个国际。现在大部分机器学习模型在规划傍边存在一种广泛假定，即模型自身不会改动其建模所依据的实践。但这种假定简直彻底站不住脚。实践上，草率布置这类模型很或许会发生反应循环，导致咱们越来越难以将其扳回正轨。”
关于数据搜集、形式查找以及将形式转化为举动等层面，人类智能应该发挥更大的效果。机器学习的实践应战现已证明，咱们关于数据乃至机器学习的许多假定性知道彻底是错的。
Christian正告称，“咱们需求作出批判性考虑……除了注重练习数据的来历，还应注重体系中作为底子现实的标签来历。人们以为的底子现实，往往并不是底子现实。”
强化学习：奖赏最大化
强化学习相同协助研讨人员完成了特殊的成果，使得AI可以在杂乱的电子游戏中打败人类冠军。
曩昔十年以来，作为AI技能的另一大分支，强化学习相同取得了广泛注重。强化学习要求为模型供给问题空间加奖赏函数规矩，之后就由模型自主探究整个空间，找出可以完成奖赏最大化的办法。
Christian写道，“强化学习……协助咱们一步步探究着智能的遍及、乃至是最实质的界说。假如说John McCarthy提出的「智能是实实际在方针的才干中的核算部分」的说法实在牢靠，那么强化学习适当于供给了一套惊人的通用型东西箱。它的中心机理便是在一次又一次试错傍边，探究出新年代下一切人工智能计划的共通根底。”
强化学习的确在雅达利游戏、围棋、《星际争霸2》以及DOTA 2等游戏中表现出色，并在机器人技能范畴得到广泛运用。但成功的背面人们也开端意识到，单纯寻求外部奖赏并不能彻底表现智能的运作办法。
一方面，强化学习模型需求绵长的练习周期才干得出简略的判别才干。因而，这方面研讨成为极少数把握无量资源的科技巨子的专利。别的，强化学习体系的适用性也十分有限——可以在《星际争霸2》中打败人类国际冠军的体系，却无法在其他相似的游戏中举一反三。强化学习署理也更倾向于经过无止境的循环，以献身长时间方针的办法寻求最简略的奖赏最大化途径。以赛车游戏AI为例，它经常会堕入不断搜集奖赏物品的死循环，却总是赢不下整场竞赛。
Christian以为，“消除这种与外部奖赏的硬性联络，或许才是构建通用型AI的窍门地点。由于与雅达利游戏不同，实在日子并不会为咱们的每种行为预先设定清晰的实时反应。当然，咱们有爸爸妈妈、有教师，他们可以及时纠正咱们的拼写、发音和行为形式。可是，这些并不是人生的悉数，咱们的日子不行能由威望所全面掌控。咱们需求依据自己的观念与态度做出判别，这也正是人类族群得以存续开展的底子条件。”
Christian还主张，无妨依据强化学习的原理反其道而行之，“结合预期行为考虑怎样构建环境奖赏，引导模型一步步把握行为形式。这就像是面临美食评论家做出一份份食物，考虑怎样才干取得对方的必定。”
AI有必要仿照人类吗？
在书中，Christian还评论了开发AI署理的含义——让这些署理仿照人类行为，真的有含义吗？自动驾驭轿车便是典型实例，署理会经过调查人类司机学习怎样驾驭车辆。
仿照的确可以发明奇观，特别长于处理规矩及标签不行清晰的问题。可是，仿照也会承继人类智能中的短缺。人类在年轻时往往经过仿照与死记硬背学习许多常识，但仿照仅仅咱们开展出智能行为的多种机制之一。在调查别人的行为时，咱们会依据自己的束缚、目的、方针、需求以及价值观调整出合适自己的处理办法。
Christian写道，“假如仿照方针比咱们更快、更健壮、身段更巨大，那咱们就没办法完美仿照他们。这时候一味坚持仿照，只会影响咱们处理问题的才干。”
固然，AI体系的确经过调查并猜测咱们的行为，尝试以仿照的办法供给协助。但很显着，AI体系并不像人类这样遭到种种束缚与束缚，因而会导致其误解咱们的目的，乃至扩大咱们的某些不良习惯，最终将负面影响分散到咱们日子中的方方面面。
Christian写道，“咱们的数字管家正亲近注重咱们的私人日子与公共日子，审视着咱们好的一面与坏的一面，但却并不清楚这些要素到底有何差异、有何联络。AI体系恰似日子在一处怪异而杂乱的山沟：可以从咱们的行为中推理出杂乱的人类愿望模型，但却无法了解这些愿望从何而来。它们尽力考虑接下来该做什么，但不了解咱们想要什么、又是怎样生长为咱们自己。”
未来在哪里？
机器学习的前进标明，咱们在发明思维机器方面现已取得了必定成果。可是，机器学习带来的应战与影响，也再次提示咱们应该正视了解人类智能这一条件性难题。
AI科学家与研讨人员正探究多种不同办法，期望战胜这些妨碍，打造出让人类只获益、不受害的AI体系。而在达到这项方针之前，咱们需求慎重行事，不行轻率为这类体系赋予过多权限。
Christian最终正告称，“着眼于当下，最风险的行为便是在机器学习范畴找到一种看似合理的模型、急于宣告研讨成功——这或许会给整个社会带来灾难性的成果。”