剑桥人工智能手册已被释放。它包含由尼克博斯特罗姆（牛津）和Eliezer Yudkowsky（Miri）共同撰写的一章，称为“人工智能的道德规范”，可用于PDF这里。
摘要读：
创建思维机器的可能性提出了许多道德问题。这些问题涉及确保这种机器不会伤害人类和其他道德相关的生物，以及机器本身的道德地位。第一部分讨论了在AI不久的将来可能出现的问题。第二部分概述了确保AI在其智力中接近人类的挑战，以确保AI安全运行。第三部分概述了我们如何评估是否在什么情况下，AIS本身都有道德地位。在第四部分，我们考虑某些基本方面的AIS可能与人类的某些基本方面有何不同。最后一部分解决了创造比人类更智能的问题的问题，并确保他们使用他们的高级智力而不是生病。
