从11月23日到29日，MIRI将首次在英国牛津举办另一个关于逻辑、概率和反思的研讨会。参与者将调查与反思代理、概率逻辑和先验逻辑陈述/逻辑全知问题相关的问题。目前确认的嘉宾包括:斯图尔特·阿姆斯特朗(牛津)、米哈里·巴拉兹(谷歌)、卡特琳·坎贝尔-摩尔(LMU)、丹尼尔·杜威(牛津)、本雅……阅读更多»
贴子:路加福音Muehlhauser
安全关键系统的透明度金宝博官方
在这篇文章中，我打算总结一个关于AI透明度和AI可靠性的常见观点。很难确定该领域对AI透明度和可靠性的“共识”，所以我将提出一个共同的观点，以便我可以用它来引入一些复杂的问题和开放的问题(我认为)……阅读更多»
霍尔顿·卡诺夫斯基谈透明研究分析金宝博娱乐
霍尔顿•卡诺夫斯基(Holden Karnofsky)是GiveWell的联合创始人。该公司发现优秀的捐赠机会，并公布分析的全部细节，以帮助捐赠者决定捐赠地点。GiveWell追踪了2012年根据该机构的建议进行的大约960万美元的捐款。它在历史上一直寻求经过证明的、具有成本效益的、可扩展的捐赠机会，但它的新倡议……阅读更多»
完成2013夏季配对挑战!
8月15日，在数十位捐赠者的慷慨解囊下，我们成功地完成了MIRI历史上最大的募捐活动。我们总共筹集了40万美元，这将为我们未来的研究提供资金。金宝博娱乐这个筹款活动"到了最后关头"太平洋时间晚上8点45分，距离最后期限只有几个小时，我们宣布……阅读更多»
美国国际集团是什么?
谈到人工通用智能(AGI)时，我们听到的最常见的反对意见之一是:“AGI定义不明确，所以您不能对它说太多。”在之前的一篇文章中，我指出，我们在做有用的工作时，往往没有对事物的精确定义，就像……阅读更多»
本雅·法伦斯坦在Löbian的自我修改系统障碍金宝博官方
Benja Fallenstein在金宝博娱乐布里斯托大学研究人类和动物行为的数学模型，是MAD研究小组和决策研究小组的成员。在此之前，她毕业于维也纳大学，获得数学学士学位。在她的业余时间，Benja研究有关人工智能影响和友好人工智能的问题，包括:人工智能预测，…阅读更多»
《六个领域的算法进展》发布
今天，我们发布了一份由访问研究员Katja Grace撰写的新技术报告，名为“六个领域的算法进展”。金宝博娱乐该报告总结了算法进展的数据-即，更好的性能每固定数量的计算硬件-在六个领域:SAT求解器，象棋和围棋程序，物理模拟，分解，混合整数编程，和一些形式的计算…阅读更多»
人工智能风险与安全心态
2008年，安全专家Bruce Schneier写了关于安全心态的文章:安全需要一种特殊的心态。安全专家……看世界的角度不同。他们不可能走进一家商店而不注意自己可能会偷东西。他们在使用电脑时就会担心电脑的安全漏洞。他们不能投票，除非想办法…阅读更多»
