夏天美里更新

||新闻

在我们最后一次重大更新中——我们的2017年战略更新资金筹集活动我们说过,我们目前的重点是技术研究和执行我们最大的金宝博娱乐招聘推动。我们的支持者在年底以令人难以置信的支持回应,让我们处于一个极好的位置来执行我们最雄心勃勃的增长计划。

在这篇文章中,我想提供一些关于我们的招聘努力和成功的更新,宣布一些我们收到的主要捐款和赠款,并提供一些其他的更新。

简而言之,我们的主要公告如下:

  1. 我们有两名新的全职研究人员金宝博娱乐员工宣布。
  2. 我们收到了170万美元的主要捐款和赠款其中100万美元来自于为加拿大MIRI支持者提供税收优惠基金

有关更多细节,请参见下面。


1.增长

我很高兴地宣布MIRI团队新增两名研究人员:金宝博娱乐

巴克Shlegeris在加入MIRI之前,Buck是PayPal的一名软件工程师,也是Triplebyte的第一个员工。他曾就读于澳大利亚国立大学,主修计算机科学,辅修数学和物理,并在行业会议上发表了关于数据结构合成的工作。除了他在MIRI的研究,Buck还帮助金宝博娱乐招聘。



本Weinstein-RaunBen加入MIRI之前在Cruise Automation担任了两年的软件工程师,在那里他曾在规划和预测团队工作。他之前在Counsyl公司的自动化基因组实验室工作,并帮助在弗吉尼亚州布莱克斯堡创建了黑客空间Hacksburg。他拥有弗吉尼亚理工大学计算机工程专业的学士学位。

今年,我们开展了几个不同的项目,以帮助我们实现招聘目标,并更广泛地增加从事人工智能对齐研究的人数:金宝博娱乐

  1. 我们一直在合作经营一系列仅限邀请的研讨会与应用理性中心(CFAR)合作,目标是未来有很强工程背景的潜在雇员。参与者表示他们非常喜欢这些研讨会,我们发现这些研讨会对于了解潜在的研究人员非常有用。金宝博娱乐1如果你有兴趣参加这些研讨会,请发送巴克电子邮件。
  2. 我们帮助运营人工智能暑期研究员计划CFAR。我们有一个非常强大的申请者池,超过170人申请30个名额(而2017年有50人申请20个名额)。今年的项目比2017年更有数学味道,并以一连串的新的分析由参与者。总体而言,该项目在挖掘人工智能对齐问题上似乎比前几年更成功,在培育参与者之间以及参与者与MIRI工作人员之间的持续合作方面也更成功。
  3. 我们进行了10周金宝博娱乐研究实习项目今年夏天,从六月到八月。2这包括我们的6名实习生参加AISFP,从事一些独立的研究,重点是瓷砖代理商。金宝博娱乐在其他活动中,实习生们寻找文根式的反思在期望效用最大化中在亚伯兰的基础上,总结了早期对子系统金宝博娱乐对准的研究金宝博官方完备类定理方法决策理论。

与此相关的消息是,我们一直在重组和壮大我们的运营团队,以确保我们在成长过程中能够很好地支持研究团队。金宝博娱乐Alex Vermeer作为我们的流程和项目负责人承担了更广泛的支持角色。除了他的捐赠者关系和筹款焦点之外,科尔姆Ó Riain作为我们的增长主管,在我们的招聘工作中发挥了核心作用。Aaron Silverbook现在负责操作;我们请卡森·琼斯做我们新的办公室经理。长期远程MIRI承包商Jimmy Rintjema现在是我们的数字基础设施领导。3.

2.筹款

在筹款方面,我很高兴地宣布,我们收到了几笔大额捐款和赠款。

首先,根据我们的101万美元的捐赠来自一位匿名的以太坊投资者,我们收到了一笔巨大的新捐赠102万美元来自“匿名以太坊投资者#2”,总部位于加拿大!这笔捐款是通过Rethink Charity Forward最近成立的为加拿大MIRI支持者提供税收优惠基金4

第二,离开管理员的长期未来基金尼克·贝克斯特德(Nick Beckstead)推荐了一种489000美元授予米里,主要目的是为提高组织效率和工作人员生产力提供资金。

在我们努力扩大团队规模的同时,这些捐款帮助我们保持了2017年筹款活动后的稳定地位。我们非常感谢这个令人难以置信的支持,并进一步感谢RC前进和有效利他主义中心帮助建立基础设施,使这些贡献成为可能。

我们还收到了150000美元人工智能安全再培训计划来自公开慈善项目的拨款,为一些高技术人才提供津贴和指导。该项目的目标是为优秀的候选人腾出3-6个月的时间进行再培训,这样他们就有可能过渡到全职的人工智能对齐工作。Buck目前正在为这个项目挑选候选人;到目前为止,我们已经向个人提供了两项资助。5

3.各种各样的更新

LessWrong开发团队推出了一个βAI对齐论坛这是一个新的人工金宝博娱乐智能技术安全工作研究论坛,我们一直在为它做出贡献。我非常感谢LW团队接手这个项目,我也非常期待新论坛的启动。

最后,我们在铺瓷砖问题,我们可能会在今年晚些时候详细说明。看到我们的3月金宝博娱乐研究计划和预测更多关于我们研究重点的文章。金宝博娱乐

我们对这些新进展感到非常高兴,我们特别为团队中有Buck和Ben感到兴奋。在不久的将来,我们还会发布更多重大消息,所以请继续关注。


  1. 本是一个研讨会的参与者,这最终导致他进入MIRI。
  2. 我们还有一名研究实习生将在秋季加入我们。金宝博娱乐
  3. 我们一直认为吉米是正式员工,但由于他住在加拿大,所以还不是正式员工。
  4. 他向科尔姆先生表示,他为国际捐助者建立了一些税收优惠的捐赠渠道。如果你是美国以外的MIRI支持者,请查看我们的税收优惠的捐款页面。
  5. 我们不接受正式的申请,但如果你对这个项目特别感兴趣或有问题,欢迎提问巴克电子邮件。