对灾难性的AGI风险的响应:调查

||文件

Miri是自我发布的另一种技术报告,其在杂志中出版太冗长(60页):对灾难性的AGI风险的响应:调查

该报告,由过去的Miri研究员共同撰写金宝博娱乐Kaj Sotala和路易斯维尔大学罗马yampolskiy.,是AGI风险的现存文献(250多个参考)的摘要,可以作为研究人员的指南或作为未偿还的介绍。金宝博娱乐

这是摘要:

许多研究人金宝博娱乐员认为,人类将在接下来的二十到一百年内创造人工普通情报(AGI)。有人建议,AGI可能对人类造成灾难性的风险。总结了为什么AGI可能提出这种风险的原因,我们调查该领域的建议对AGI风险的响应。我们考虑社会提案,对AGI行为的外部限制提案,以及创建由于其内部设计而安全的AGIS的建议。

纸张的首选讨论页是这里

更新:此报告现已发布Physica Scripta., 可用的这里