新论文:“渐近逻辑不确定性与Benford检验”

我们发表了一篇关于逻辑的不确定性，由Scott Garrabrant, Siddharth Bhaskar, Abram Demski, Joanna Garrabrant, George Koleszarik和Evan Lloyd合著:渐近逻辑不确定性与本福德检验”。

Garrabrant给出了他处理逻辑不确定性的一些背景智能代理基金会论坛：

逻辑不确定性的主要目的是学习如何分配概率的逻辑句子，尚未证明的真或假。

一种常见的方法是改变问题，假设逻辑上无所不知，并且只尝试为独立于你的公理的句子分配概率(希望这能给另一个问题提供洞见)。另一种方法是将自己限制在有限的一组句子或演绎规则中，并假定自己在逻辑上无所不知。另一种方法是尝试定义和理解逻辑上的反事实，这样你就可以尝试为不一致的反事实世界分配概率。

所有这三种方法的共同点是，它们都试图允许(有限形式的)逻辑全知。这很有道理。我们想要一个系统，它金宝博官方不仅分配合理的概率，而且我们可以正式证明它具有合理的行为。通过给系统一种逻辑上的全知，金宝博官方你使它可预测，这让你可以证明它。

然而，还有另一种方法可以证明关于逻辑不确定性系统的事情。金宝博官方我们可以用一个程序给句子分配概率，然后让它一直运行下去。然后我们可以询问系统是否最终给出了良好的概率。金宝博官方

起初，这种方法似乎不适用于逻辑上的不确定性。任何搜索所有可能证明的机器最终都会给出一个很好的概率(1或0)给任何可证明或不可证明的句子。为了解决这个问题，随着我们给机器越来越多的时间去思考，我们不得不问它越来越难的问题。

因此，我们必须分析机器的行为，而不是单个的句子，而是无限的句子序列。例如，不是问机器是否快速分配1/10给3↑↑↑↑3的概率^{理查德·道金斯}π的数字是5，我们看这个序列:

一个_n:=机器在时间步2处分配的概率ⁿ到n↑↑↑↑n^thπ是5，

然后问这个序列是否收敛于1/10。

本福德定律观察到以10为基数的各种随机数(例如，3的随机幂)的第一个数字可能很小:1在大约30%的情况下先出现，2在大约18%的情况下先出现，依此类推;9是前导数字的概率只有5%。在他们的论文中，Garrabrant等人选择了本福德测试作为逻辑不确定推理的一个具体例子，类似于π的例子:如果一台机器始终如一地将正确的主观概率赋给“第一个数字是1”，那么它就通过了测试。3的幂f（n),f是快速增长的功能和f（n)无法快速计算。

Garrabrant等人的新论文描述了一种通过本福德检验的算法，这种算法通过搜索无穷多个句子序列，这些句子的真值不能与一颗加权硬币的输出值区别开来。

在其他方面，报纸"走向理想化的决策理论”和“反思的神谕:经典博弈论的基础，现在可以在arXiv上看到。我们将提交后一篇论文的一个版本，稍微修改了标题(“反思的神谕:人工智能博弈论的基础”)LORI-V下个月。

2016年6月12日更新:“渐近逻辑不确定性和本福德测试”已被AGI-16所接受。