今天我们发布了Nate Soares的一份新技术报告。价值学习问题“如果你想讨论这篇论文，请讨论吧。在这里．
文摘:
超级智能机器不会自动地按照预期行事:它会按照编程的方式行事，但人类意图和正式规范之间的匹配度可能很低。我们讨论了构建系统来学习价值的方法。金宝博官方我们强调了归纳价值学习(来自已标记的训练数据)中特定的开放问题，并提出了一些关于系统构建的问题，这些系统建模了操作人员的偏好并相应地采取行动。金宝博官方
这是六份新的主要报告中的最后一份MIRI目前的研究议程金宝博娱乐在高水平上。
2016年5月29日更新:“价值学习问题”的修订版(可于原始链接)已被IJCAI-16人工智能伦理研讨会接受。这篇论文的原始版本可以找到在这里．
