也许是最准确的媒体覆盖机器智能研究所（Miri）已经收到了金宝博娱乐一块由传奇科学作者卡尔齐默在花花公子。给你一个感觉如何不准确最多我们的媒体覆盖范围是，这是来自Miri的一些覆盖范围的（翻译）报价佛朗哥德文纪录片：
然而，在旧金山，一个年轻的自愿科学家的社会相信机器人的良好。怎么天真！在[miri] ...
这样的报价是有趣的，因为当然，机器智能研究所一直在说，这是艾迪的十年金宝博娱乐默认情况下对人性有害，是非常困难设计一个我们和其他任何人都不知道怎么做的“道德机器”，而且几十条方法因为这样或那样的原因，别人提出的建议是幼稚和不够的。
现在,在一块新为了周日时报，布莱恩Appleyard写道：
Yudkowsky [来自Miri]似乎在他对道德规范的理解时似乎简单。“你不会杀了一个婴儿，”他对我说，暗示这是一种可以轻松地编程到机器中的一项规范。
“有些人这样做，”我指出，但他没有看到完全意义。由于在纳粹主义形式的社会中调整，SS官员通常会被杀害婴儿。机器将从人类社会规范远离人物，但是我们对它们进行了编程。
MIRI十年来一直在说，要让机器不杀死婴儿是极其困难的。事实上，我们的立场是，直接规划道德规范是行不通的，因为我们的价值观比我们意识到更复杂。道德规范的直接规划是这样的其他人提出，我们批评的职位。例如，这是一个引用简洁的总结我们的研究计划金宝博娱乐：
由于我们没有对人类价值观的详细信息进行了内省的访问，因此解决这个问题的解决方案可能涉及通过观察人类，提出问题，扫描人的大脑等来设计AI来学习人类价值，而不是用固定的AI预编程一套令人叹为观止，听起来像是当时的好主意。
但这并不意味着我们可以简单地让一些先进的机器学习算法观察人类的行为来学习我们的道德价值观，因为：
人类文明的明确道德价值随着时间的推移而变化，我们认为这一变化作为进步，并推断未来可能会持续进展。An AI programmed with the explicit values of 1800 might now be fighting to reestablish slavery… Possible bootstrapping algorithms include “do what we would have told you to do if we knew everything you knew,” “do what we would’ve told you to do if we thought as fast as you did and could consider many more possible lines of moral argument,” and “do what we would tell you to do if we had your ability to reflect on and modify ourselves.” In moral philosophy, this notion of moral progress is known as reflective equilibrium.
继续...... Appleyard的指出，“机器将从人类社会规范中彻底调整，但是我们对它们进行了编程”是另一点Miri从一开始就制作。看到反对拟人的警告“创造友好的AI.(2001)和“人工智能在全球风险中的积极和消极因素“（于2008年撰写于2005年）。对于我们出现在电影中的外星人的思想，Ai Mind Designs将比我们的思想更为“外星人”。
Appleyard继续说：
[与Miri相比，剑桥组有一个更复杂的这些问题。特别是，请注意，机器不会受到社会压力的影响。
“当你想到形式情报可能需要时，”价格说：“认为我们似乎占据了那个空间的一些微小角落似乎合理，有很多方法可以以智慧聪明的方式聪明。“
这里的Appleyard似乎没有意识到，这里的价格基本上引用了Miri研究员Eliezer Yudkowsky的一点 - 有可能的巨大空间，人类只占据了那个空间的小角落。金宝博娱乐事实上，这一点与Miri和Eliezer Yudkowsky相关的东西比其他任何人更多！这是yudkowsky 2005年写道的另一引文：
“人工智能”一词比“智人”一词的可能性要大得多。当我们谈论“ai”时，我们实际上是在谈论一般的思维，或一般的优化过程。想象一张心灵设计空间的地图。在一个角落里，一个小圈子里有所有的人类;在一个包含所有生物生命的更大的小圈子里;这张巨大地图的其余部分是一般意义上的思维空间。整个地图漂浮在一个更广阔的空间中，即优化过程的空间中……正是这种巨大的可能性使得拟人论不再是合理的推理。
所以再一次，记者认为Miri的立场与他们所在的职位相反。
请注意您在流行媒体中的阅读！
更新我把他的错误告诉Appleyard，他干脆否认他的文章在这个问题上犯了错误。
你喜欢这个帖子吗?你可以享受我们的其他分析帖子，包括：
