新的研究金宝博娱乐页面和两个新文章

||文件

金宝博娱乐

我们新的金宝博娱乐 页面已启动!

我们以前的研究页面是一个简金宝博娱乐单的文章列表,但新页面描述了我们研究的目的,解释了我们贡献的四类研究,并突出了我们认为对阅读最重要的论文。

我们还发布了两篇新的研究文章的草案。金宝博娱乐

瓷砖自我修饰ai的代理,以及lÖbian障碍(讨论一下这里)由Yudkowsky和Herreshoff解释Miri研究议程中的关键问题之一:金宝博娱乐

我们通过介绍“平铺”代理商来模拟AI的自我修改,其决策系统将批准高度相似的代理的构建,创建重复模式(包括后代目标的相似性)。金宝博官方以最直接的方式构建形式主义,产生了意大利困难,“呼吸障碍”。通过技术方法,我们展示了避免这种障碍的可能性,但是仅部分地解决了合理相干性的潜在难题。我们将形式主义扩展到部分未知的确定性环境,并向概率环境和预期效用显示出非常原油的延伸;但找到自我修改概率代理的基本决策标准的问题仍然是开放的。

囚犯困境中的强大合作:通过可证明逻辑计划均衡(讨论一下这里),由Lavictoire等人解释了Miri研究助理帕特里克·瓦特奥尔和Miri 2013年4月的几个其他人在Miri Research Associate帕特里克·瓦金宝博娱乐里瓦队和其他几项进展

虽然相互合作将对两家代理商产生更高的效用,但是一击囚犯的理性代理缺陷。Moshe Tennenholtz表明,如果允许每个计划将其竞争对手传递给所有其他玩家,那么部分计划可以在单枪囚犯的困境中合作。计划均衡是Tennenholtz在计划可以将他们的竞争对手传递给其他玩家的上下文中的纳什均衡的术语。

到目前为止,这种方法的一个弱点是,即使它们在功能相同,任何两个方案都不能“识别”相互合作的措施。在本文中,可保释逻辑用于实现更灵活和安全的相互合作形式。

Miri 4月研讨会的参与者也取得了进展Christiano的概率逻辑(对Löbian障碍的攻击),但该工作尚未准备好释放。

我们也改变了金宝博官方 页面,现在包括一个金宝博官方 即将到来的研讨会。如果你可能喜欢在接下来的18个月内与Miri一起使用Miri,金宝博娱乐金宝博官方 !!同样,如果你知道可能喜欢参加这样的研讨会的人,请鼓励他们申请。