五个论点,两个引理,还有几个战略意义 发布2013年5月5日通过以利以谢Yudkowsky&申请下分析. MIRI对自我改进的人工智能的主要担忧,并不是说它可能是由全球范围内的“坏”参与者而不是“好”参与者创造的;相反,我们最关心的是纠正这种情况,即没有人知道如何创造一个具有已知、稳定偏好的自我修改AI。(这就是为什么…阅读更多»