上10月15日从4:30-5:30pm,Miri Workshop参与者保罗·克里斯蒂安诺(Paul Christiano)将在Harvard University Science Center,,,,room 507, as part of the哈佛的逻辑研讨会和座谈会。
Christiano’s title and abstract are:
概率的化学和真理的确定性
No model M of a sufficiently expressive theory can contain a truth predicate T such that for all S, M |= T(“S”) if and only if M |= S. I’ll consider the setting of probabilistic logic, and show that there are probability distributions over models which contain an “objective probability function” P such that M |= a < P(“S”) < b almost surely whenever a < P(M |= S) < b. This demonstrates that a probabilistic analog of a truth predicate is possible as long as we allow infinitesimal imprecision. I’ll argue that this result significantly undercuts the philosophical significance of Tarski’s undefinability theorem, and show how the techniques involved might be applied more broadly to resolve obstructions due to self-reference.
然后,开October 17th从4:00-5:30pm,斯科特·亚伦森(Scott Aaronson)将主持Miri研究员的演讲金宝博娱乐Eliezer Yudkowsky。
Yudkowsky的演讲将比Christiano的演讲更容易访问,并将在麻省理工学院的演讲中进行Ray和Maria Stata Center(请参阅右图),在32-123室(又名Kirsch礼堂,有318个座位)。谈话前15分钟将有点心。Yudkowsky的标题和摘要是:
理性代理中的递归:自我修饰AI的基础
反思性推理是人类认知的一个熟悉但正式难以捉摸的方面。当我们考虑构建其他复杂的推理者或可能设计其他像自己一样复杂的AIS时,这个问题就进入了最前沿。数学逻辑是一种能够反思自身的正式语言的最发达的竞争者,被不可能的结果所困扰。同样,当应用于具有详细的自我知识的代理商时,标准决策理论开始产生违反直觉或不一致的结果。在这次演讲中,我将提出机器情报研究所举办的研讨会的一些早期结果,以应对这些挑战。金宝博娱乐
首先是对霍夫斯塔特(Hofstadter)的“超级政权”的形式化和重大改进,这是(非正式)观念,即理想理性的代理人可以通过利用其行为与对手的行为之间的逻辑联系来实现诸如囚犯困境之类的游戏之类的游戏。我们展示了如何实施一个代理,该代理商在源代码的相互了解中可靠地优于经典游戏理论,并使用一般程序在单一囚犯的困境中实现相互合作。使用快速算法查找固定点,我们能够编写执行正式化所需逻辑交互的代理的实现,并描述了经验结果。
其次,据称,戈德尔的第二次不完整定理对任何AI理解其自身推理的行为,甚至相信它确实有效的原因给人带来了严重的阻碍。我们在这种情况下展示了一个简单的模型,并表明解决这个问题的直接解决方案确实不令人满意,导致代理商愿意相信较弱的同伴但不信任自己的推理。我们展示了如何在不损害逻辑表现力的情况下规避这一难度。
Time permitting, we also describe a more general agenda for averting self-referential difficulties by replacing logical deduction with a suitable form of probabilistic inference. The goal of this program is to convert logical unprovability or undefinability into very small probabilistic errors which can be safely ignored (and may even be philosophically justified).
Also, onOct 18that 7pm there will be a不太错误/Methods of Rationalitymeetup/party on the MIT campus inBuilding 6,120室。将有小吃和茶点,尤德科夫斯基将出席。