更新
- MIRI研金宝博娱乐究助理斯图亚特·阿姆斯特朗出价1000美元这是问甲骨文AI的好问题.
- Stuart最近的AI安全帖子:冷漠:多重变化,多重代理;理论间效用比较:例子;将公用事业正常化为支付意愿;和部分偏好重新审视.
- MIRI研金宝博娱乐究人员巴克·施莱格里斯(Buck Shlegeris)整理了一份快速而非正式的报告人工智能安全阅读表.
- AGI没有火警2017年1月,一名研究人金宝博娱乐员预测,“在未来两年内,我们将无法获得80%或90%”Winograd模式,一个NLP测试。虽然这个预测是正确的,但研究人员金宝博娱乐微软,卡内基梅隆大学和谷歌大脑,脸谱网现在(2.5年后)取得了Winograd的分数89.0和90.4.
- Ortega等人的"序贯策略元学习“包括对台面优化的讨论,独立于Hubinger等人的。”高级机器学习系统中学习型优化的风险金宝博官方,标题是“自发元学习”。
新闻和链接
- 魏戴了参与论坛作为一种研究策略金宝博娱乐.
- 与此相关的是,本月AI对齐论坛上的帖子非常好——我会一直关注它们。戴上写道决策理论研究的目的金宝博娱乐;上沙同时学习偏见和奖励;终于在人工智能安全性的讨论及其应用;施泰纳在阿姆斯特朗议程和故意的立场;Trazzi上的人工智能;科恩在IRL和模仿;和Manheim的优化和古德哈特效应(1,2,3.).
- 玉梁讨论人工智能管理在AI Alignment播客上。
- CMU和Facebook的研究人员金宝博娱乐两程序击败人类扑克专业人士-只用144美元在计算。开发人员也选择不发布代码“因为玩扑克是为了赚钱,所以公布代码的风险超过了收益。”
- 微软向OpenAI投资了10亿美元.从微软的新闻稿“通过这次合作,两家公司将加快人工智能领域的突破,并推动OpenAI创造人工通用智能(AGI)的努力。”OpenAI还发表了一篇关于“合作在负责任的AI开发中的作用”。
- Ought有了一个新的首选工作介绍.参见保罗·克里斯汀诺的应该:为什么重要和帮助的方法.
- 富士重工已经11个研究职位空金宝博娱乐缺;申请截止日期为8月16日。你也可以申请CSER德盛风险研究助理职金宝博娱乐位8月26日。