我很高兴地宣布,Nate Soares和Ben Levinstein的“在大马士革欺骗死亡“已被录取出版物哲学杂志(以前投票过第二质量哲学中的期刊)。
在其他新闻中,Miri研究员Buck S金宝博娱乐hlegeris在各种Miri相关主题上写了超过12,000个字在一个EA论坛AMA。(示例主题:软件工程师的建议;什么对准计划往往是如此;和决策理论。)
其他更新
- Abram Demski预测-O-Matic的比喻是一个伟大的阅读:它封面的预测器/优化器问题很深,但我期待相当广泛的读者享受它并从中获取一些东西。
- Evan Hubinger's渐变黑客描述了以前未阐述的重要失败模式。
- Vanessa Kosoy'sLesswrong Shortform.最近讨论了与她的学习 - 理论议程有关的一些特别有趣的主题。
- Stuart Armstrong我所知道的只是善意在意识到的预期价值最大化器上构成很好的概念进展耶和华的法律并试图避免它。
- Reddy,Dragan和Levine的论文建模人体意图引用(所有东西)哈利波特和理性方法作为灵感。
新闻和链接
- 人工智能研究需要负责任的出版规范金宝博娱乐:Crootoot对该问题提供了良好的审查立法者。
- Stuart Russell的新书出来了:人类兼容:人工智能和控制问题(摘抄)。罗欣莎审查在较大的AI安全生态系统中,是否有一个很好的上下文化罗素的观点,rohin突出了Quote:金宝博官方
这项任务是,幸运的是,没有以下内容:给出了一台拥有高度智能的机器,解决如何控制它。如果这是任务,我们会吐司。一台作为黑匣子的机器,既可能从外层空间到达。我们控制来自外层空间的高层实体的机会大致为零。类似的论据适用于创建AI系统的方法,以保证我们无法理解他们的工作方式;金宝博官方这些方法包括全脑仿真 - 创建人类大脑的升高电子副本 - 以及基于模拟方案演进的方法。我不会更加关于这些提案,因为它们是如此明显是一个坏主意。
- 雅各布斯坦德特释放了一个AI对齐研究概述金宝博娱乐。
- Patrick Lavictoire阿尔法斯塔:令人印象深刻的RL进度,而不是AGI进展提出了关于今天最先进的系统有效的一些重要问题。金宝博官方