金宝博娱乐研究更新了“CIRL框架中的不可纠正性”:MIRI助理研究员Ryan Carey回应Hadfield-Menell等人的“Off-Switch Game”的一篇新论文。新IAFF:古德哈特诅咒的三个层次制约条件;稳定值指针:嵌入自身效用函数中的代理密度零勘查;自创生系统和困难…金宝博官方阅读更多»
贴子:Rob Bensinger
2017年8月通讯
金宝博娱乐研究更新了“逻辑非全知问题的正式方法”:我们在第16届理性与知识的理论方面会议上介绍了我们关于逻辑归纳的工作。IAFF的新研究:Smoking病变Steelman;“像这个世界，但是……”;杰西卡·泰勒对保罗·克里斯蒂安诺研究议程的当前思考金宝博娱乐关于反事实的Open Problems: An Introduction For初学者" A game - theory…阅读更多»
2017年7月简报
一些主要的年中MIRI更新:我们收到了迄今为止最大的捐赠，来自以太坊投资者的101万美元!我们的研金宝博娱乐究重点也发生了一些变化，这反映了四名新的全职研究人员(Marcello Herreshoff, Sam Eisenstat, Tsvi Benson-Tilsen和Abram Demski)的加入以及Patrick LaVictoire和Jessica Taylor的离开。金宝博娱乐研究更新在IAFF:…阅读更多»
2017年6月通讯
金宝博娱乐研究更新了一篇新的人工智能影响论文:“人工智能何时将超越人类的表现?”《数字趋势》和《麻省理工技术评论》的新闻报道。新在IAFF:合作oracle;杰西卡·泰勒出席AAMLS议程;我们2014年的技术议程，“Agent Foundations for alignment Machine Intelligence with Human Interests，”现在可以作为一个…阅读更多»
2017年5月通讯
金宝博娱乐IAFF最新研究进展:普适的逆向定律问题逻辑电感决策理论的两个主要障碍决策理论基础2。“决策是为了使坏的结果不一致”:Nate Soares对话中提出的一些更深的问题，我们的“欺骗死亡在……阅读更多»
2017年更新与战略
在我们上一次的战略更新(2016年8月)中，Nate写道，MIRI的优先事项是在我们的代理基金会议程上取得进展，并开始我们新的“高级机器学习系统对齐”议程的工作，与其他研究人员合作和交流，并发展我们的研究和运营团队。金宝博娱乐金宝博官方此后，MIRI的高级职员……阅读更多»
决策是为了让糟糕的结果不一致
内特·苏亚雷斯(Nate Soares)最近与本·莱文斯坦(Ben Levinstein)合著的决策理论论文《在大马士革逃脱死亡》(Cheating Death in Damascus)引发了一位熟人(匿名)提出的一些有价值的问题和评论。我把下面评论者的邮件和内特的回复整理了一下。本文讨论了功能决策理论(FDT)，一个新提出的替代因果决策理论(CDT)和证据。阅读更多»
2017年4月通讯
我们的最新出版物《大马士革的死不忠》(Cheating Death in Damascus)为功能决策理论(functional decision theory)提供了论据，这是我们思考理性选择和反事实推理的一般框架。另一则新闻，我们的研究团队正在扩张!金宝博娱乐山姆·艾森斯特(Sam Eisenstat)和马塞洛·赫里肖夫(Marcello Herreshoff)此前都在谷歌工作，他们本月加入了MIRI。金宝博娱乐研究更新在IAFF:“正式开放问题在决策…阅读更多»
