新论文:“自我改善时空嵌入智能自我引用问题”

||文件

自我参考问题我们通过Benja Fallenstein和Nate Soares发布了新的工作文件,“自我改善时空嵌入式智能自我引用问题。“

抽象的:

通过考虑代理人作为环境的一部分,Orseau和戒指的时空嵌入式智能比传统代理框架更好。然而,作为环境的普通部分将未来版本的自我修改AGI可能遇到自我参考问题。我们表明,在基于正式逻辑的一个特定模型中,天真的方法导致不正确的推理,允许代理永久推迟一个重要的任务(拖延悖论),或者未能允许代理人证明明显安全的重写(lÖbian障碍)。我们认为这些问题超出了我们特定的形式主义的相关性,并讨论了部分解决方案。

这份工作文件还通过FALLENSTEIN提出了简短的新技术报告,“概率逻辑的拖延。“

更新05/14/14:本文已被接受AGI-14.