MIRI高级研究员Eli金宝博娱乐ezer Yudkowsky和执行董事Nate Soares发表了一篇关于决策理论的新介绍性论文:“功能决策理论:工具理性的新理论。”摘要:本文描述并激发了一种新的决策理论——功能决策理论(FDT)，它不同于因果决策理论和证据决策理论。功能……阅读更多»
贴子:马修的坟墓
新论文:“CIRL框架中的不可矫正性”
MIRI助理研究员Ryan C金宝博娱乐arey发表了一篇新论文，讨论了在协作逆强化学习(CIRL)任务中表现良好的情况，这并不意味着软件代理将协助或合作程序员。这篇题为“CIRL框架中的不可矫正性”的论文列出了四种情形，CIRL违反了…阅读更多»
对Cegłowski关于超级智能的回复
Web开发人员Maciej Cegłowski最近做了一个关于人工智能安全的演讲(视频，文本)，他认为我们应该对解决这个问题的标准假设持怀疑态度，并对这些前提可能导致的极端主张、态度和政策持双重怀疑态度。我会对这几点逐一作出答复。阅读更多»
