2018年3月通讯

||时事通讯

山姆·哈里斯和埃利泽·尤多科夫斯基谈《人工智能:濒临崩溃的边缘》

||对话

和山姆·哈里斯一起醒来

MIRI高级研究员Eli金宝博娱乐ezer Yudkowsky最近受邀成为Sam Harris的嘉宾醒来“播客。山姆是一名神经科学家,也是一位颇受欢迎的作家,撰写与哲学、宗教和公共话语相关的文章。

以下是山姆和以利以谢谈话的完整记录,AI: Racing Toward the Brink

内容

阅读更多»

2018年2月通讯

||时事通讯

2018年1月通讯

||时事通讯

筹款成功!

||新闻

我们的2017年筹集资金是完整的!我们度过了一个令人难以置信的月,有了迄今为止最大的募资成功。超过300个不同的捐赠者刚刚捐了2.5美元1这是我们第三次筹资目标125万美元的两倍。谢谢你!

总共筹集了2504625美元!

358年捐助者的贡献

我们最大的一笔捐款是在筹款活动接近尾声时,来自以太坊创始人兼联合创始人Vitalik Buterin的以太坊捐款,价值763970美元。维塔利克的捐款是迄今为止我们收到的第三大捐款,仅次于开放慈善项目的1.25亿美元授予支付在十月,和一个1.01美元Ethereum捐赠在五月。

我们mid-fundraiser更新,我们注意到MIRI被包括在一个大匹配的挑战职业扑克玩家丹·史密斯、汤姆·克劳利和马丁·克劳利宣布,到12月底,他们将把所有的捐款匹配到MIRI和其他9个组织。捐助者帮助我们在2周内获得了30万美元的匹配上限,最终Dan, Tom和Martin也获得了30万美元的匹配。匹配挑战在不到3周的时间内筹集了450万美元(包括匹配),其他大赢家包括givedirect(捐赠58.8万美元)和Good Food Institute(捐赠41.6万美元)。188betapp

我们在12月份收到的其他大笔捐款包括:

  • 克里斯蒂安·卡尔德隆(Christian Calderon)出价367,575美元
  • 100000美元伯克利存在风险研究所
  • 马略·范·福登(Marius van Voorden)出价59251美元

我们也得到了来自中等规模捐赠者的大量支持:42位捐赠了5000 - 50000美元的捐赠者共捐赠了6311595美元,75位捐赠了500 - 5000美元的捐赠者共捐赠了113556美元().我们也要感谢那些利用雇主的相应慷慨,在12月共捐赠了10万美元的捐赠者。

66%的资金捐赠是加密货币188betapp(主要是比特币和以太坊),包括Vitalik、Marius和Christian的捐赠,以及Dan、Tom和Martin的匹配捐赠。

总的来说,我们度过了一个非常成功的月和不平凡的一年!我非常感谢我们得到的所有支持,并为这为我们更快地发展研究团队创造的机会感到兴奋。金宝博娱乐有关我们增长计划的详细信息,请参阅我们的资金筹集活动后


  1. 随着我们处理2017年12月发起、2018年1月收到的捐款,未来几周确切的总数可能会略有增加。

年终匹配的挑战!

||新闻

更新2017-12-27:我们已经超过了我们的第三个也是最后一个目标,并达到了匹配挑战的30万美元的匹配上限!非常感谢所有支持我们的人!

所有在太平洋标准时间12月31日23:59之前的捐款将继续计入我们的筹款总额。筹款总额包括来自挑战的预计匹配资金。



职业扑克玩家马丁·克劳利,汤姆·克劳利和丹·史密斯,与“为有效的给予筹款”合作,刚刚宣布了一个100万美元配对挑战并将MIRI列入他们支持的10个组织中!

在太平洋标准时间12月31日中午之前向任何参与的组织捐款,您的捐款将有资格获得一美元对一美元的匹配,最高限额为100万美元!

合资格进行配对的机构有:

  • 动物福利-有效利他主义基金的动物福利基金,好食物研究所
  • 全球卫生与发展- - - - - -针对疟疾基金会,血吸虫病控制倡议,海伦凯勒国际的维生素A补充计划,GivedInectly
  • 全球灾难性的风险——美里
  • 刑事司法改革-布鲁克林社区保释基金,马萨诸塞州保释基金,Just City Memphis

配对挑战的网站为MIRI捐赠者列出了两种配对方式:(1)进行捐赠2017 charitydrive.com或(2)188betapp 然后把收据寄给receiptsforcharity@gmail.com.我们建议选择2,特别是对于美国税务居民(因为MIRI是501(c)(3)机构)和那些寻找更广泛的支付方式。

另一则新闻,第一则新闻筹款目标(约合625000美元)!

我们还很高兴地宣布,我们收到了加密货币爱好者克里斯蒂安·卡尔德隆(Christian Calderon)捐赠的36.8万美元比特币,以及早期比特币投资者Marius van Voorden的价值5.9万美元的捐赠。

到目前为止,我们总共收到了来自137位不同捐赠者的价值697638美元的捐款,其中76%是加密货币(如果排除克里斯蒂安的捐款,则为48%)。也要感谢雅各布·法尔科维奇资金筹集人/匹配的职位本周,他的观点分布曲线为MIRI筹集了超过2.7万美元,包括他的对手。

我们的资金推动将与配对挑战一起持续到12月底。当前进度(实时更新):



12月17日更正:我之前把GiveWell列为符合匹配条件的组织之一,这是不正确的。

ML生活图书馆开放

||新闻

2021年1月更新这个职位我们不再申请了。


机器智能研究所正在寻找一个非常专业的自学者,让我们金宝博娱乐了解机器学习的最新进展——一个新成果的“活图书馆”。

ML是一个快速发展和多样化的领域,对任何团体来说,保持对所有最新和最伟大的发展的更新都是一个挑战。支持我们AI对齐金宝博娱乐我们希望聘请专人阅读每一篇关于人工智能和机器学习的有趣论文,并让我们跟上值得注意的发展,包括新技术和新见解。

我们希望这对很多人来说都是一份非常有趣的工作!然而,这个角色对我们来说很重要,我们需要适当地辨别——如果你在这个领域或邻近领域没有被证明的能力,我们不推荐你申请。

我们的目标是雇佣全职员工,最理想的人选是能够做出多年承诺的人——我们打算付钱让你成为机器学习前沿领域的专家,除非你有兴趣长期与我们合作,否则我们不想进行人力资本投资。

阅读更多»

对弗朗索瓦·乔莱关于情报爆炸的回复

||分析

这是对Francois Chollet的回复,他是Tensorflow和Theano深度学习系统的Keras包装器的发明者,在他的文章“金宝博官方智力爆炸的不可能性.”

夏勒特在推特上回应了对他文章的批评:

如果你在网上发表了一个争论,而你得到的唯一反对意见是愚蠢的争论和侮辱,这是否证明你是对的?或者这只是那些在网上争论的人自己的选择?

他早些时候在推特上写道:

不要过于执着于自己的观点;其中一些可能是不正确的。智力上的超级能力是能够考虑每一个新想法,仿佛它可能是正确的,而不是仅仅检查它是否证实或反驳你当前的观点。

乔莱的文章似乎大都切中要害,并保持了对象层次的论点。我希望乔莱可能是一个相信遵守辩论过程规则的人,一个我认为是《文明》的粉丝;如果他加入这场谈话后遇到的只是愚蠢的争论和侮辱,那么他应该得到更好的回答。我在这里试着梳理了一些我认为在这场辩论中的标准论点,因为它们与夏勒特的陈述有关。

作为一个元层面的观点,我希望每个人都同意,一个对真实结论无效的论证仍然是一个糟糕的论证。为了达到正确的信念状态,我们需要综合所有有效的支持,而且只有有效的支持。为了总结这些支持,我们需要有这样一个概念,即根据论据自身的结构和有效性来判断它们,而不是为谬误找借口,如果它们支持我们因其他原因同意的一方。

我对夏勒特的回复并没有试图把情报爆炸的整个案例作为这样的内容。我只打算讨论我对夏列特论点的有效性的看法。即使“情报爆炸是不可能的”这句话碰巧是真的,我们仍然不想接受任何支持这一结论的无效论点。

言简意赅,以下是我对夏列的一些看法。

阅读更多»