Eliezer Yudkowsky在文明功能障碍和优于表现优于新书:均衡不足:文明在哪里以及如何卡住。完整的书籍将以印刷和电子格式提供11月16日。要预订电子书或注册更新,请访问equilibbook.com.。
我们在接下来的两周内将在线发布全部内容。前两章是:
金宝博娱乐研究更新
- 一篇新论文:“功能决策理论:一种新的仪器理性理论“(arxiv),由Eliezer Yudkowsky和Nate Soares飙升。
- 新的研究金宝博娱乐写作和讨论:比较逻辑电感CDT和逻辑电感EDT;逻辑更新作为子代理对齐问题;混合策略批判性意味着CDT = EDT
- 来自AI影响的新增功能:计算硬件性能数据集合
- 这可靠的人工智能研讨会举行的苏里克州埃尔希希·苏黎世
一般更新
- Deepmind宣布一个新版本的alphago这在三天内实现了超人的性能,使用了4个TPU,没有人工培训数据。Eliezer Yudkowsky认为,alphago零提供支持证据他在AI领域的辩论辩论;罗宾汉森答案。另见保罗基督徒alphago零和能力放大。
- Yudkowsky.关于AGI伦理学:“桥梁建设的道德是你的桥梁摔倒并杀死人,有一个心灵的思想,这种明显是足够的明显。如何不让桥跌倒很难。“
- nate翱翔给了他确保智慧比人类AI积极的结果讲话在O'Reilly AI会议上(幻灯片)。
新闻和链接
- “保护AI存在威胁“: 一种华尔街日报Openai的Ilya Sutskever和Dario Amodei op-ed。
- Openai宣布“A分层加固学习算法学习用于解决一系列任务的高级措施“。
- Deepmind的Viktoriya Krakovna在第一个报告东京AI&社会研讨会。
- 尼克博斯特罗姆说和CSER.提交书面证据向英国议会的人工智能伙计们。
- Rob Wiblin访谈Nick Beckstead对于80,000小时的播客。