决策理论和人工智能通常试图计算类似的东西

$ $ \暗流{\ \中\行动}{\ mathrm {argmax}} \ \ f (a), $ $

也就是说，最大化动作的某些功能。这倾向于假设我们可以把事情搞得足够复杂，把结果看作是行动的功能。

例如，AIXI将代理和环境表示为独立的单元，它们通过明确定义的i/o通道随时间进行交互，这样它就可以选择使奖励最大化的操作。

当代理模型为环境模型的一部分在美国，如何考虑采取其他行动就不那么清楚了。

例如，因为代理是小于环境，可以有代理的其他副本，或与代理非常相似的东西。这导致了有争议的决策理论问题，如孪生囚徒困境和纽科姆问题．

如果EMMY模型2和EMMY模型2具有相同的体验并运行相同的源代码，那么EMMY Model 1应该像她的决策一样行动，它立即转向两个机器人？根据您如何绘制“自己”周围的边界，您可能认为您可以控制两个副本的操作，或者只有自己的副本。

这是反事实推理问题的一个例子:我们如何评价像“如果太阳突然熄灭了怎么办”这样的假设?

适应问题决策理论嵌入代理包括:

• 反设事实
• 纽康姆式推理，即主体与自身的副本相互作用
• 更广泛地推理其他代理
• 勒索问题
• 协调问题
• 逻辑反设事实
• 逻辑更新

阅读更多»

假设您想要创建一个机器人来为您实现一些现实世界的目标——这个目标需要机器人自己学习并找出许多您不知道的东西。¹

这里有一个复杂的工程问题。但也有一个问题，弄清楚它甚至意味着建立这样的学习代理。优化物理环境中的现实目标是什么？在广泛的条件下，它是如何工作的？

在这一系列的帖子中，我将指向四种方式别目前已经知道它是如何工作的，并在四个领域进行了积极的研究，旨在弄清楚它。金宝博娱乐

这是阿列克谢，阿列克谢正在玩电子游戏。

像大多数游戏一样，这个游戏也有清除输入和输出通道．Alexei仅通过计算机屏幕观察游戏，只能通过控制器操纵游戏。

游戏可以被认为是一种功能，即通过一系列按键按键并在屏幕上输出一系列像素。

Alexei也非常聪明，并且能够在他的脑海里举行整个视频游戏．如果Alexei有任何不确定性，那么它只超越了他正在播放的游戏的经验事实，而不是超过哪些输入（对于给定的确定性游戏）的逻辑事实将产生哪些输出。这意味着Alexei还必须在他的脑海里储存他可以玩的每一个可能的游戏。

Alexei.但是，不得不思考自己．他只是在优化自己正在玩的游戏，而不是优化用来思考游戏的大脑。他可能仍然会根据信息的价值来选择行动，但这只是为了帮助他排除正在玩的游戏，而不是改变他的思维方式。

事实上，阿列克谢可以把自己当做一个不变的不可分割的原子．因为他并不存在于他所考虑的环境中，所以Alexei并不担心他是否会随着时间的推移而改变，也不担心他可能需要运行的任何子程序。

请注意，我所谈到的所有属性都是由于Alexei与他正在优化的环境完全分离这一事实而成为可能。
阅读更多»

（在一个不极近的邻近世界的某个地方，科学课程课程很不同......）

阿方索:你好,贝丝。我注意到最近有很多关于“太空飞机”被用来攻击城市的推测，或者可能被注入了居住在天上的邪恶灵魂，从而攻击他们自己的工程师。

我对这些猜测的持怀疑态度。事实上，我有点持怀疑态度，飞机能够在下个世纪随时高达平流层气象气球。但我明白你的研究所希望解决恶毒或危险航天飞机的潜在问题，而且你认为这是一个重要的当天事业。

贝丝:那就是......真的不是我们在故意皇家学院的数学中的方式将是短语的。

恶毒的天灵精神问题是所有新闻文章都集中在一起，但我们认为真正的问题是完全不同的。我们担心现代火箭部门大多俯瞰的难度，理论上有挑战性的问题。我们担心，如果您在天空中的火箭瞄准火箭，并按下发射按钮，火箭可能实际上并不在月球上。

阿方索:我知道设计能在大风中稳定航天飞机飞行的翼片是非常重要的。这是非常重要的航天飞机安全研究，需要有人来做。金宝博娱乐

但是，如果您正在研究这种安全研究，我希望您希望与现代飞机工程师密切合作，以测试您的鳍设计，以证金宝博娱乐明它们实际上是有用的。

贝丝:空气动力设计是任何安全火箭的重要特征，我们很高兴火箭科学家正在研究这些问题并认真对待安全问题。不过，这不是我们MIRI所关注的那种问题。

阿方索:那有什么好担心的?你担心太空飞机会被不怀好意的人开发出来吗?

贝丝:这不是我们现在担心的失败模式。我们现在更担心，现在没有人能告诉你如何让你的火箭朝向月球吗任何指定的目的地。无论是谷歌，还是美国政府，还是朝鲜发射火箭，从我们的角度来看，都不会对成功登月的可能性产生实质性的影响，因为现在没有人知道如何在任何地方瞄准任何一种火箭．

阅读更多»