2016年6月通讯 2016年6月12日|Rob Bensinger|时事通讯 金宝博娱乐研究更新 新论文:“安全可中断的代理该论文由谷歌DeepMind的劳伦特·奥索(Laurent Orseau)和人类未来研究所(FHI)的斯图尔特·阿姆斯特朗(Stuart Armstrong)与MIRI合作完成,将在UAI-16大会上发表;看到FHI的新闻稿.这份报纸已经收到了许多媒体的报道(通常是夸张的),包括商业内幕,主板,《新闻周刊》,Gizmodo,BBC新闻,的关系,《计算机世界》. 新IAFF:所有的数学家都是可以被欺骗的:自然逻辑更新的分歧;因果-反事实效用冷漠的两个问题 新AI影响:元调查:预测预测者;阿姆斯特朗和索塔拉2012年的错误 马库斯·哈特的研究小组基于MIR金宝博娱乐Ix研讨会的结果发表了一篇新论文:理性agent中政策的自修正与效用函数“哈特的团队将在下个月的AGI-16大会上提交其他几篇关于人工智能的论文:”《通用人工智能中的死亡与自杀》”和“通过价值强化学习避免连线.” ”渐近逻辑不确定性与本福德检验已被AGI-16接受。 一般更新 米里,FHI的健壮有益的人工智能系列研讨会(演讲摘要和幻灯片现在开始)由Stuart Russell, Francesca Rossi, Tom Dietterich和Alan Fern的开场演讲开始。 我们访问了富士国际,讨论了逻辑不确定性的新结果,我们的新machine-learning-oriented研金宝博娱乐究项目,以及一系列其他话题。 新闻和链接 后一个增加美国在自主武器上的支出,纽约时报报道称五角大楼转向硅谷寻求优势. IARPA主任Jason Matheny曾是FHI的研究员,他讨论了新兴技术的金宝博娱乐预测和风险(视频). FHI研金宝博娱乐究员Owen Cotton-Barratt向英国议会提供口头证据需要健全和透明的人工智能系统。金宝博官方 谷歌揭示了AlphaGo在与李世石的比赛中表现出色的隐藏原因:一种新的集成电路设计这可以将机器学习应用程序的速度提高一个数量级。 埃隆·马斯克回答了关于SpaceX、特斯拉、OpenAI等公司的问题视频). 为什么要担心高级人工智能?斯图亚特·拉塞尔(在科学美国人)、乔治·德沃斯基(在Gizmodo)和SETI主任赛斯·肖斯塔克(在科技时代)解释。 Olle Häggeström的新书,这里是龙这本书对存在风险和未来技术发展进行了异常深入的介绍,包括对人工超级智能的清晰讨论。 罗宾·汉森在他的新书中探讨了广泛应用的全脑模拟的含义,《Em时代:机器人统治地球的工作、爱情和生活》(The Age of Em: Work, Love, and Life when Robots Rule The Earth). 比尔盖茨高度推荐尼克·博斯特罗姆的超智.的平装版现在已经出版了,附带了一个新增的后记。 FHI研金宝博娱乐究助理保罗·克里斯提诺有加入OpenAI作为一个实习生。Christiano也写了一些关于AI对齐的新文章:高效和安全的可扩展,学习与灾难,红色的团队,奖励工程问题.