有限的因素集

||分析

这是一个介绍有限因子集的演讲的编辑文本。对于大多数读者来说,这可能是学习因式集的最好的起点。

视频:

(轻微编辑)幻灯片://www.gqpatrol.com/files/Factored-Set-Slides.pdf


(第1部分,标题幻灯片)···有限的因素集




(第一部分,动机)···一些背景


史考特:所以我想从一些上下文开始。对于尚未熟悉我的工作的人:

  • 我的主要动机是减少生存风险。
  • 我试图通过试图弄清楚如何做到这一点对齐先进的人工智能。
  • 我试着去做试图成为不那么困惑关于智能和优化和机构以及该集群中的各种事物。
  • 我的主要策略是发展一种关于嵌入式在他们优化的环境中。我认为这样做有很多打开的艰难问题。
  • 这让我做了一堆奇怪的数学和哲学。这次演讲将是一个关于一些奇怪的数学和哲学的例子。

对于那些已经熟悉我的工作,我只是想说根据我的个人美学,这个谈话的主题就像令人兴奋逻辑归纳也就是说,我真的很兴奋。看到这些观众,我真的很兴奋;我很高兴现在能做这个演讲。

阅读更多»

2021年5月通讯

||时事通讯

节省时间

||分析

注意:这是有限因子分解集的序言,我将在接下来的几周发布一个序列。太平洋时间本周日中午,我将做一个Zoom演讲(关联)推出有限因子集,这是一个框架,我在技术上发现作为逻辑归纳的技术上有趣。

更新5月25日:现在提供有限因子集的视频和博客文章这里.)


在过去的几年里,我的大部分研究动机都是试图节省时间的概念,例如,从决策理论问题所产生的金宝博娱乐所有奇怪的因果循环中节省时间。这篇文章希望能解释我为什么这么在乎时间,以及我认为需要修正的地方。

为什么时间?

我在简短描述的最佳尝试是那个时间是因果关系.例如,在珍珠贝叶斯网中,您将边缘从早期节点绘制到更高版本。在我们想考虑因果关系的范围内,我们需要了解时间。

重要的,时间是学习和行为发生的基础.当特工们学习时,他们会随着时间的推移而学习。时间的流逝就像一种仪式机会被摧毁,创造了知识.而且我认为许多学习模式都巧妙地混淆了,因为它们是基于困惑的时间概念。

时间对思考代理也至关重要。我最好的短语定义是那个机构是时间旅行.代理是一种机制,未来能够影响过去。代理模拟其行动的未来后果,并根据这些后果选择行动。在这种意义上,后果原因这个动作尽管该行动在标准物理意义上提前出现了这一事实。

问题:时间很疯狂

时间出问题的主要原因是它“糊涂”。

关于纽科姆的问题,最令人困惑的是,我们想把我们的决定看作是在装满盒子之前做出的,尽管实际上它是在装满盒子之后做出的。这暗示着,除了物理时间之外,我们可能还想理解一些其他的“逻辑”时间。

然而,当我们尝试这样做时,我们遇到了两个问题:首先,我们不明白这个逻辑时间可能来自哪里,或者如何学习它,其次,我们遇到了一些明显的时间循环。

我打算把第一个问题搁在一边,集中注意第二个问题。

要知道我们为什么会陷入时间循环,最简单的方法就是注意到,物理时间似乎至少和逻辑时间有一点纠缠。

想象一下,有人运行Newcomb问题的物理模拟,并跟踪所有原子的所有细节。从那个角度来看,似乎有一种有用的意义,其中盒子填充到代理人的一个盒子或双箱的决定。然而,与此同时,这些原子撰写了一个不应该做出决定的代理商,尽管它无助地改变任何东西。

也许这里的解决方案是想到有许多不同类型的“之前”和“之后”,“原因”和“效果”等,我们可以说x从代理首先透视图之前是y之前,但是y来自物理学的X.第一透视。

我认为这是对的,我们希望在那里思考许多不同的时间系统(希望可预测地互连)。金宝博官方但我不认为这会解决整个问题。

考虑一对FAIRBOT.成功执行Löbian握手的代理商在开源囚犯的困境中合作。我想说每个代理商的合作导致其他代理人在某种意义上的合作。我可以说,相对于每个代理的因果的因果/时间顺序是不同的方式,但我认为循环是这种情况下结构的重要组成部分。(我也不肯定我想要与哪个代理商关联的时间。)

我们也旨在以其他原因在我们的时间/因果关系中放回循环。例如,当在持续时间持续存在的系统中建模反馈回路时,我们可能会绘制看起来很像贝叶斯网的结构,但不是金宝博官方acclic(例如,pomdp)。我们可以将此视为另一个系统的投影,其中包含时间额外的时间,但它是一个有用的投影。金宝博官方

解决方案:抽象

我的主要希望恢复连贯的时间概念和解开这些时间循环是通过抽象的。

在代理基于其后果选择措施的示例中,我认为有一个抽象模型的后果,这些后果可能会在选择之前出现在实际的身体后果之前。

在Newcomb的问题中,我想说,在填充盒子之前,有一个抽象的动作模型。

在开源囚犯的困境中,我想说有一个抽象的合作证明,在代理的实际程序痕迹之前会因果上出现。

所有这些都指向相同的方向:我们需要粗略抽象版本的结构在不同的时间内与相同结构的更精细的版本不同。也许当我们正确允许不同的不同级别的因果链中具有不同的链接时,我们可以解开所有时间循环。

但怎么样?

不幸的是,我们对时间的最佳理解是珍珠因果关系,而珍珠因果关系与抽象不好。

珀尔的贝叶斯网有很多变量,但当其中一些变量是其他变量的粗糙抽象版本时,我们就必须考虑到决定论,因为我们的一些变量是彼此的确定性函数;珀尔身上最好的部分与决定论格格不入。

但问题比这更深。如果我们在确定性函数的方向上绘制箭头,我们将从更精细地绘制时间的时间箭头到该结构的较粗糙版本,这与我们所有示例的相反方向。

也许我们可以避免从更细化的节点到更粗的节点绘制这个箭头,而是有一个从粗节点到细化节点的路径。然后我们可以复制粗节点的另一个副本在更细的节点的下游,不增加新的自由度。那么是什么阻止我们交换粗节点的两个副本呢?

总的来说,在我看来,Pearl还没有准备好让一些节点成为其他节点的抽象版本,我认为为了节省时间,需要修复这些问题。


讨论:胜败

我们的全时最大的捐赠,以及Vitalik Buterin的主要Crypto支持

||消息

我很激动地宣布MIRI获得两项重大捐赠!

首先,长期支持者在迄今为止提供了Miri,我们最大的捐款:未来四年每年250万美元,2025年额外〜560万美元

这个匿名捐赠来自一位加密货币投资者以前捐赠了188betapp2017年,ETH至MIRI投资101万美元。他们惊人慷慨的新捐赠以3001 MKR的形式出现,MKR是用于Makerdao.这是以太坊区块链上的一个稳定币项目。MIRI收到捐赠的MKR后以15,592188betapp,829美元清算。有了这笔捐款,匿名捐赠者成为我们有史以来最大的支持者。

这项捐赠有时间限制,MIRI可以在2021-2024年的四个日历年里,每年使用最多250万美元的捐赠。剩下的5,592,829美元将在2025年到期。

其次,在其他惊人的消息中,昨天弗里纳姆的Impereum,Vitalik·帕特林的发明者和联合创始人给了我们令人惊讶的捐款1050年的欧洲人体,价值$ 4,378,159

这是迄今为止对Miri的研究计划的第三大贡献,开放慈善事业之后金宝博娱乐2020年津贴〜7700万美元还有上面的匿名捐赠。

Vitalik之前已经向MIRI捐赠了超过10188betapp0万美元,包括我们2017年筹款的主要支持。

对于这两份前所未有的个人礼物,我们感激不尽!我们衷心感谢两位捐助者。

2021年4月通讯

||时事通讯

3月2021年3月通讯

||时事通讯

2021年2月通讯

||时事通讯

1月2021年1月通讯

||时事通讯