MIRI的研究金宝博娱乐团队正在壮大!我很高兴地宣布，我们聘请了两位新的研究人员来为我们的人工智能对齐工作贡献力量:Sam Eise金宝博娱乐nstat和Marcello Herreshoff，他们都来自谷歌。山姆•艾森斯塔特(Sam Eisenstat)曾在滑铁卢大学(University of Waterloo)学习纯数学，在那里他进行了数理逻辑方面的研究。金宝博娱乐他之前的工作是……阅读更多»
贴子:Rob Bensinger
新论文:“在大马士革逃避死亡”
MIRI执行董事Nate Soares和Rutgers/UIUC决策理论家Ben Levinstein有一篇新的论文介绍了功能决策理论(FDT)， MIRI的提议的通用目的决策理论。这篇题为《大马士革逃过死亡》的论文考虑了一系列决策问题。在每一个案例中，苏亚雷斯和莱文斯坦都证明了FDT优于所有早期理论……阅读更多»
2017年3月通讯
金宝博娱乐IAFF最新研究进展:诱导良性的几个问题纠缠均衡与孪生囚徒困境人工智能影响决策理论新泛化基础:人工智能安全领域资金投入的变化MIRI研究员Andrew 金宝博娱乐Critch在加州大学伯克利分校的人类兼容中心开始了为期两年的研究…阅读更多»
2017年2月通讯
在一篇概述了MIRI研究者和OpenAI研究者Paul Christiano追求不同研究方向的原因的文章之后，Jes金宝博娱乐sica Taylor写下了MIRI高可靠性代理设计研究的关键动机。金宝博娱乐研究更新一篇新的论文:“朝向可协商的强化学习:转移优先级在帕累托最优序列决策”新…阅读更多»
人工智能安全CHCAI金宝博娱乐/MIRI研究实习
人类兼容人工智能中心(CHCAI)和机器智能研究所(MIRI)的暑期研究实习，我们正在寻找有才华、有动力、有抱负的技术研金宝博娱乐究人员。关于研究:CHCAI金宝博娱乐是加州大学伯克利分校的一个研究中心，拥有包括Stuart Russell, Pieter Abbeel和Anca Dragan在内的pi。CHCAI将其目标描述为……阅读更多»
新论文:“朝向可协商强化学习”
MIRI研金宝博娱乐究员Andrew Critch在“朝向可协商的强化学习:在帕累托最优顺序决策中转移优先级”中提出了一项关于冲突解决理论的新成果。摘要现有的多目标强化学习(MORL)算法没有考虑到不同信念玩家产生的目标。具体来说，考虑两个有着不同信仰的玩家……阅读更多»
2017年1月通讯
尤多科夫斯基(Eliezer Yudkowsky)以文本和视频的形式发表了关于人工智能安全的新介绍性演讲:《人工智能对齐问题:为何困难，从何开始》(The AI Alignment Problem: Why It’s Hard, and Where to Start)。其他的重大新闻还包括《符合伦理的设计》(ethical Aligned Design)第1版的发布，这是一份IEEE推荐文档，其中有我们帮助起草的关于人工通用智能的部分。金宝博娱乐研究更新…阅读更多»
新论文:“最优多项式时间估计”
MIRI研金宝博娱乐究助理Vanessa Kosoy开发了一个在逻辑不确定性下推理的新框架，“最优多项式时间估计:近似算法的贝叶斯概念。”摘要:“近似算法”的概念通常只应用于优化问题，因为在优化问题中，算法对任何给定输入的性能是一个连续参数....阅读更多»
