即将在哈佛和麻省理工学院举行的演讲

||新闻

保罗&以利以谢10月15日下午4:30-5:30,MIRI工作坊参加者保罗global会在?哈佛大学科学中心507房间,作为哈佛大学的逻辑研讨会和座谈会。

克里斯汀诺的题目和摘要是:

概率元数学和真理的可定义性

对于所有的S, M |= T(" S ")当且仅当M |= S。我将考虑概率逻辑的设置,和显示有概率分布模型包含一个“客观概率函数”P, M | = < P(“S”)< b时几乎肯定< P (M | = S) < b。这表明概率模拟的真理谓词是可能的,只要我们允许无穷小不精确。我认为这个结果明显削弱了Tarski的不可定义定理的哲学意义,并展示了相关技术如何更广泛地应用于解决由于自我参照造成的障碍。

占据中心然后,在10月17日从4:00-5:30pm,斯科特Aaronson会主持MIRI研究员的讲座吗金宝博娱乐以利以谢Yudkowsky

Yudkowsky的演讲将比Christiano的更容易理解,并且将在MIT的演讲中进行雷和玛丽亚·斯塔塔中心(见右图),房间32-123(又名Kirsch礼堂,有318个座位)。演讲前15分钟将有点心。Yudkowsky的题目和摘要是:

理性代理中的递归:自我修正AI的基础

反思推理是人类认知的一个熟悉但形式上难以捉摸的方面。当我们考虑构建人工智能时,哪个模型是其他复杂的推理机,或者谁可能设计其他和自己一样复杂的人工智能时,这个问题就首当其冲了。数学逻辑,作为一种能够反思自身的形式语言的最发达的竞争者,被不可能的结果所困扰。同样,标准决策理论在应用于具有详细自我认识的行为人时,开始产生反直觉或不连贯的结果。在这次演讲中,我将介绍机器智能研究所为应对这些挑战而举办的研讨会的一些初步成果。金宝博娱乐

第一个是霍夫施塔特的“超理性”(superrationality,简称“超理性”)理论的形式化和重大改进。这种(非正式的)思想认为,理想的理性行为者可以通过利用自己的行为与对手的行为之间的逻辑联系,在囚徒困境等游戏中实现相互合作。我们展示了如何实现一个可靠地优于经典博弈论给定互知识的源代码,并利用一个通用程序实现在一次性囚徒困境中的相互合作。使用一种寻找不动点的快速算法,我们能够编写执行形式化所需的逻辑交互的代理的实现,并且我们描述了经验结果。

其次,有人声称哥德尔第二不完全性定理严重阻碍了人工智能理解自己的推理为何有效,甚至不能相信自己的推理是有效的。我们为这种情况展示了一个简单的模型,并表明对这个问题的直接解决方案确实不能令人满意,导致代理愿意信任较弱的同伴,但不愿意信任自己的推理。我们将展示如何在不损害逻辑表达的情况下绕过这个困难。

如果时间允许,我们还描述了一个更一般的议程,以避免自我参照的困难,用一个合适的形式的概率推理取代逻辑推理。这个程序的目标是将逻辑上的不可证明性或不可定义性转化为可以安全地忽略的很小的概率错误(甚至可能在哲学上是合理的)。

此外,在10月18日晚上7点有一场音乐会更少的错误/理性的方法在麻省理工学院校园的聚会大厦6, 120房间。届时会有小吃和点心,尤多科夫斯基也会出席。