我们2017年的筹款活动是巨大的成功共有341位捐赠者捐款250万美元!
一些最大的捐赠来自以太坊的发明者Vitalik Buterin,比特币投资者Christian Calderon和Marius van Voorden,扑克玩家Dan Smith和Tom和Martin Crowley(作为交易的一部分)匹配的挑战),伯克利生存风险倡议.感谢每一个做出贡献的人!
金宝博娱乐研究更新
- 第一名的获胜者AI对齐奖包括斯科特Garrabrant古德哈特分类法以及最近IAFF的帖子:Vanessa Kosoy的为什么委托RL不适用于任意环境和更精确的遗憾,向DRL和Alex Mennen的通过承诺使用较弱的推理系统,使其他代理清晰易读金宝博官方和简单代理的学习目标.
- 新AI影响:人类层次硬件时间表;边缘硬件对人工通用智能的影响
- MIRI招聘新职位毫升生活图书馆他是机器学习最新发展方面的专家。
一般更新
- 以利以谢Yudkowsky:弗朗索瓦·夏勒特关于情报爆炸的回复.
- 反恐专家理查德·克拉克和r·p·埃迪概要Yudkowsky在新书中警告:寻找预言家来阻止灾难.
- 最近有几篇博客文章推荐MIRI作为捐赠目标:来自本Hoskin,Zvi Mowshowitz,Putanumonit,以及开放慈善项目丹尼尔·杜威和尼克·贝克斯特德.
新闻和链接
- 对AlphaGo算法的一种推广,AlphaZero,在国际象棋和松木上取得快速的超人表现。
- 同样来自谷歌DeepMind:在简单环境中指定AI安全问题”。
- 维克多利亚Krakovna报告关于2017年NIPS:“今年的NIPS给了我一个总体感觉,近期人工智能安全现在是主流,长期安全正在慢慢走向主流。从长远来看,有很多很棒的内容,包括几次口头/重点演讲和对齐的AI车间”。
- 80000小时采访菲尔Tetlock口语和书面语最重要的人才缺口在EA社区中。
- 赛斯·鲍姆说道:“AGI伦理、风险和政策项目的调查以及来自远见研究所的:AGI:时间框架和政策”。
- 生命未来研究所正在收集第二轮人工智能安全拨款的提案,由于2月18日.