Miri信息
在2015年，我们聚集在一起一系列博客帖子关于我们过去的成就，我们对未来的计划以及我们的一般研究方法。金宝博娱乐我们还在2016年“为什么Ai Safeware of Safeware”进行了概述帖子。此页面总结了我们写的主要主题，与富勒讨论的链接有关：
AI安全研究介绍，突出了我们研究方法的显着特征（与其他研究金宝博娱乐小组的方法形成鲜明对比）以及我们更广泛的目标的目标。
AI风险正在成为讨论的主要话题。1月份会议后，将学术界和行业与Miri和相关组织一起带来学术和行业，我们已经看到了第一个长期的AI安全补助金竞赛，以及AAAI，IJCAI和NIPS的第一个安全和道德课程。与此同时，Miri发布了其技术议程并运行了一系列研讨会，允许我们识别几个有希望的潜在雇员和一系列开放问题，以便他们努力。这使我们能够扩展出色的位置。
Four core claims underlie MIRI’s concerns about long-term AI risk: that humans are generally intelligent (but present-day AI systems are not), that AI systems could become much more intelligent than humans, that smarter-than-human AI systems would likely have a dominant advantage over humans, and that such systems would not be beneficial by default.
Miri专注于与人类更聪明的技术问题德诺维AI软件系统稳健和有益。金宝博官方由于这些问题很大而且复杂，我们试图为他们进行分解并问“即使挑战更简单，我们仍然无法解决问题的哪些部分也无法解决？”在过去，在简化的设置中建立数学模型对于在实际算法之前铺设研究计划下的理论基础是有用的。金宝博娱乐
前两位职位认为，AI安全性严重重要，而且我们很可能能够提前进行技术进步。这篇文章提出了一些额外的理由提前开始：合理的情景，其中AI进展的率加速或其他不可预测的。
缺乏技术知识的人如何直接评估我们的金宝博娱乐研究议程还有最近的出版物评估Miri进行重要技术进步和发展领域的能力吗？
Miri可以做些什么球员不能？为什么在有这么多的较大行业团体进行AI研究时支持我们？金宝博娱乐简而言之，因为我们正在做的基础AI对齐研究，没有其他人正在做。金宝博娱乐
Miri专注于长期的风险，因为我们认为可能是可能的灾难性风险场景，因为我们相信目前忽视了最重要和最具易易易易无的研究。金宝博娱乐这种基本的透视与蓬勃发展促进的思想近距离有效的利他主义社区。
