美里更新
- MIRI的Evan Hubinger使用优化能力的概念来定义人工智能系统金宝博官方与战略窃取假设相一致．
- MIRI的Abram Demski讨论了人工智能安全的争议方法这并不依赖于因素认知．
- 埃文认为,第一个AGI系统可能彼此非常金宝博官方相似，并讨论了对齐的含义。
- 杰克·克拉克的进口人工智能通讯讨论了我们的负面研究结果金宝博娱乐年终更新．
- 理查德非政府组织的股票高质量的讨论他伟大的开场白AGI安全第一原则保罗·克里斯蒂安诺，马克斯·丹尼尔，本·加芬克尔，亚当·格里夫，马修·格雷夫斯，丹尼尔·科科塔吉洛，威尔·麦卡斯基尔，罗欣·沙阿，让·塔林，以及MIRI的埃文·休宾格和巴克·施莱格里斯。
- 汤姆·奇弗斯讨论了理性共同体和合理性:从AI到僵尸．(与标题相反，人们很少讨论COVID-19。)
新闻和链接
- 亚历克斯·弗林特认为人工智能对齐研究人员的发展应该是优化“研究深度”的副作用，而不是作为自己的目标金宝博娱乐——就像软件项目不应该为更大的团队或更大的代码库而优化一样。他还对战略/政策研究发表评论。金宝博娱乐
- Daniel Kokotajlo长期风险为中心认为,德盛集团或许能在GDP加速增长之前获得决定性的战略优势．请参考更精练的评论从以利以谢Yudkowsky．
- TAI安全书目数据库: Jess Riedel和Angelica Deibel发布了人工智能安全研究数据库，并分析了该领域的最新趋势。金宝博娱乐
- DeepMind的人工智能安全团队进行了调查元训练rnn的最优性质和篡改问题:“当描述目标的所有反馈机制都受代理的影响时，我们如何设计追求给定目标的代理?”
- 脸谱网发布预报，一个类似于Metaculus．
- 有效的利他主义者已经释放了microCOVID计算器，是评估活动感染COVID-19风险的一个非常方便的工具。与此同时,Zvi MowshowitzLessWrong每周更新一次继续是一个很好的(以美国为中心的)资源，用于了解COVID-19的最新进展，如B117变种。
- 反思优先级研究员张林川总结了他所学到的金宝博娱乐东西2020年2019冠状病毒病预测:形成良好的外部观点往往是困难的;有效的利他主义者往往高估超级预测者;等。
