新论文：“渐近逻辑不确定性和本福特考试”

我们发布了一份新论文逻辑不确定性，由Scott Garrabrant，Siddharth Bhaskar，Abram Demski，Joanna Garrabrant，George Koleszarik和Evan Lloyd：“渐近逻辑不确定性和Benford测试。“

Garrabrant在他对逻辑不确定性的方法上给出了一些背景关于智能代理基础论坛：

逻辑不确定性的主要目标是学习如何将概率分配给逻辑句子，这些概念尚未被证明是真或假的。

一种常见方法是改变问题，假设逻辑不可用，并且只尝试将概率分配给独立于公理的句子（希望这会介绍其他问题）。另一种方法是将自己限制在一组有限的句子或演绎规则中，并对它们承担逻辑的不可思议。另一种方法是尝试定义和理解逻辑反应性，因此您可以尝试将概率分配给不一致的反事实世界。

这些方法中的所有三种方法都有一个共同点是他们试图允许（有限形式的）逻辑不可用。这有很多意义。我们希望一个不仅可以金宝博官方分配体面概率的系统，但我们可以正式证明具有体面的行为。通过为系统提供一种类型的逻辑金宝博官方空无章，您可以预测，这使您可以证明它的事物。

然而，还有另一种方法可以让可以证明关于逻辑不确定性系统的事情。金宝博官方我们可以采取一个为句子分配概率的程序，让它永远运行。然后我们可以询问系统是否最终提供了良好的概率。金宝博官方

起初，似乎这种方法不能用于逻辑不确定性。通过所有可能的证据搜索的任何机器最终将使任何可提供或无法提供的句子提供良好的概率（1或0）。为了衡量这一点，我们越来越多地思考机器，我们必须要求更难和更难的问题。

因此，我们必须分析机器的行为，而不是单个句子，而是对无限句子的句子。例如，而不是询问机器是否快速将1/10分配给3↑↑↑↑3的概率^rd.Π的数字是5我们看序列的5：

一种_N：=机器在Timestep 2处分配的概率^N到了N↑↑↑↑N^TH.π为5的数字，

并询问此序列是否会聚到1/10。

本福德的法律is the observation that the first digit in base 10 of various random numbers (e.g., random powers of 3) is likely to be small: the digit 1 comes first about 30% of the time, 2 about 18% of the time, and so on; 9 is the leading digit only 5% of the time. In their paper, Garrabrant et al. pick theBenford测试作为逻辑不确定推理的具体例子，类似于π示例：机器通过测试IFF，它一致地将正确的主观概率分配给“第一位数是1”的正确主观概率对于电力的数字3F（N）， 在哪里F是一种快速增长的功能和F（N）无法快速计算。

Garrabrant等人。的新论文介绍了一种通过寻找无限句子的非竞争方式通过Benford测试的算法，其真实值不能与加权硬币的输出区分开。

在其他新闻中，论文“走向理想化决策理论“ 和 ”反思性奥卡尔：古典博弈论的基础“现在可以在Arxiv上获得。我们将以略微改变的标题（“反思性oracles：人工智能博弈论的基础”）呈现后一篇文章的版本Lori-V.下个月。

2016年6月12日更新：AGI-16已被接受“渐近逻辑不确定性和Benford测试”。