帖子：Abram Demski.

这是嵌入式机构系列的结论。Previous posts: Embedded Agents — Decision Theory — Embedded World-ModelsRobust Delegation — Subsystem Alignment A final word on curiosity, and intellectual puzzles: I described an embedded agent, Emmy, and said that I don’t understand how she evaluates her options, models the world, models…阅读更多 ”

因为世界大，代理人可能不充分，以实现其目标，包括思考的能力。因为代理由部件制成，所以它可以改善自己并变得更加能力。改进可以采取多种形式：代理可以制作工具，代理可以制作后继代理，或...阅读更多 ”

决策理论和人工智能通常试图计算类似于$$ \ underset {a \ \ in \ actions的东西} {\ mathrm {argmax}} \ \ f（a）。$$即，最大化操作的一些功能。这倾向于假设我们可以拆下足以将结果视为行动的函数。例如，AIXI表示代理和环境......阅读更多 ”