2016年7月通讯

新闻和链接

• 白宫是请求信息关于“AI的安全与控制问题”，以及其他问题。公开提交将于7月22日接受。
• “AI安全的具体问题“：来金宝博娱乐自Google Brain，Openai和Academia的研究人员提出了一个非常有前途的新AI安全研究议程。提案展示了谷歌研究博客金宝博娱乐和Openai博客以及开放慈善博客，并已收到新闻覆盖范围彭博那边缘， 和麻省理工学院技术评论。
• 批评Openai背后的思考后早些时候，字母表执行主席Eric Sc​​hmidt赞成AI安全研究金宝博娱乐：

  我们担心世界末日情景吗？我们认为这是值得深思熟虑的考虑因素。今天的AI只茁壮成长，在许多例子上训练的狭窄，重复的任务。但没有研究人员金宝博娱乐或技术学家希望成为一些好莱坞科学小说副肢体的一部分。正确的课程不是恐慌 - 它要上班。除了许多其他公司之外，谷歌正在进行对AI安全的严格研究，例如如何确保人们可以金宝博娱乐中断AI系统金宝博官方无论如何，以及如何使这些系统对Cyber​​attacks的强大。金宝博官方

• Dylan Hadfield-Mennell，ANCA Dragan，Pieter Bebeel和Stuart Russell提出了一个正式的定义价值对齐问题“合作逆钢筋学习，“一个双人游戏，人类和机器人都是”奖励的奖励，但机器人最初没有知道这是什么。“在一个csrbai谈话中（幻灯片），Hadfield-Mennell讨论了AI易燃的应用。
• 贾安塔林带来他的AI风险焦点到了原子科学家公报。
• 斯蒂芬霍金对情报爆炸的重量（视频）。山姆哈里斯和尼尔斯顿泰森辩论这个想法更长（音频，1:22:37）。
• Ethereum Developer Vitalik Buterin讨论了这一影响价值复杂性和脆弱性和其他AI安全概念用于密码经济。
• 有线涵盖一个“妖魔聪明“基于芯片的模拟属性的后门。
• CNET.采访Miri和谁是AI科学家的一对文章：“艾，弗兰肯斯坦？专家说，不是那么快“ 和 ”当好莱坞和艾，这很有趣但是比。“
• 下个月有效的利他主义全球会议正在接受申请人。