Miri的2018年筹款人

||消息

更新2019年1月:Miri的2018年筹款人现在结束了。

946981美元
|

|
$ 0.

|
300,000美元

|
600000美元

|
$ 900,000

|
1,200,000美元

筹款人结束了

345名捐助者为


Miri是一个数学/ CS研究非营利金宝博娱乐组织,其使命是最大化智慧比人工智能的潜在人道主义利益。您可以了解更多关于我们所做的工作“确保比人类聪明的智慧有一个积极的结果“ 和 ”嵌入式代理。“

我们今年的筹资目标是基于在2018年筹集足够资金,以满足明年“一切照旧”的预算目标。我们认为“每年赚足够的钱支付下一年的费用”对MIRI来说是一个很好的启发,因为我们是一个快速增长的非营利组织,拥有健康的储备水平和以研究人员工资为主的预算。金宝博娱乐

我们专注于商业和通常的支出,以便在未来几年内转移到新空间的(可能非常大的)成本,因为我们继续增长,这引入了对模型的大量方差。1

我目前对我们2019年(一切如常,没有异常值)的支出模式从440万美元到550万美元不等,预计为480万美元,高于今年的350万美元和2017年的210万美元。该模型将所有主要支出类别的输入估计范围作为输入,但绝大多数的差异来自于我们将添加到团队中的员工数量。2

在主线场景中,我们2019年的预算细目大致如下:

在这种情况下,我们目前有〜1.5年的储备。由于我们在1月1日和11月25日之间提出了〜430万美元,3.我们的两个目标是:

  • 目标1(50万美元),这是我们今年到目前为止筹集到的资金和我们对明年照常开支的预估之间的差额。
  • 目标2(1.2亿美元),我们的资金流需要与我们的增长走向我们预测的上限。4

下面,我们将总结一下米里是什么新的并更多地讨论我们的更多资金的房间

1.最近的更新

我们在最近的活动和战略上发布了一系列新帖子:

  • 2018年更新:我们的新研究方向金宝博娱乐讨论了我们在过去两年里一直在加强的一套新的研究方向金宝博娱乐,它们如何与我们的代理基金会研究和我们的“反融合”目标相关联,以及为什么我们对这项研究采取了“非公开的默认”政策。

  • 嵌入式代理描述了我们的代理基础研究议程,作为一个中央难度的不同攻击角度:我金宝博娱乐们不知道如何为嵌入环境中嵌入的代理商来表征良好的推理和决策。

  • 夏天美里更新讨论新员工、新捐款和赠款,以及我们招聘研究人员和增加人工智能对齐研究人员总数的新项目。金宝博娱乐

并添加11月28日

  • Miri的最新招聘:Edward KmettHaskell开发人员Edward Kmett,他在函数式编程中推广了透镜的使用,并维护了大量围绕Haskell核心库的库。

  • 2017年回顾回顾我们去年的活动及捐助者的支持。

我们的2018年也更新讨论我们现在正在努力招聘的更广泛的工程师和计算机科学家,以及我们试图在不久的将来添加到团队的人数更大的人数:

我们正在寻找任何能让我们“变得更少”的人使困惑关于AI对齐“工作更快。

在实践中,这意味着:那些天生就以数学或代码为思维方式的人,那些认真对待AI对齐问题的人,以及那些一般都很有能力的人。特别是,我们正在寻找高端谷歌程序员级别的能力;你不需要只有百万分之一的考试分数或命运的光环。你也不需要有博士学位,明确的ML背景,甚至之前的研究经验。金宝博娱乐

如果上述可能是你,并且在Miri诉诸你的想法,我建议发送工作申请或者把你的问题巴克Shlegeris是Mir金宝博娱乐i的一名研究员,他一直在帮助我们的招聘。

我们还聘请了代理基础角色,但步伐速度得多。对于那些角色来说,我们建议与我们互动和其他人锤击AI对准问题少错,AI对齐论坛,或在地方米西克斯团体。然后,我们一般聘请代理基础来自人们的研究人员,我们已经通过上述渠道,访问和活动来了金宝博娱乐解人工智能暑期研究员计划

开始为这些问题开发直觉的好地方是Scott Garrabrant最近发布的定点练习,或网站上的各种资源Miri研金宝博娱乐究指南.最近关于代理基金会/嵌入式机构的公共工作的一些例子包括:

这些结果相对较小,与Nate即将到来的平铺剂纸或Evan Hubinger,Chris Van Merwijk,vladimir Mikulik,Joar Skalse和Scott Garrabrant的“内在对准问题”。然而,他们应该给出一些最近的一些方向的良好意义,我们一直在推动我们的代理基础工作。

2.提供更多资金的空间

如上所述,我们2018年预算估计中最大的不确定性来源是关于我们雇用的研究人员,以及我们在搬到新办事处的程度。金宝博娱乐

在2017年的筹款活动中,我们设定了在2018-2019年招聘10名新研究人员的目标。金宝博娱乐到目前为止,我们增加了两名研究人员,有足够金宝博娱乐多的有前途的候选人在酝酿中,我仍然认为10个是可行的(尽管雄心勃勃)目标。

遵循我们去年从捐助者收到的令人惊叹的支持(并继续进入2018年),我们的资金比我们预期的更多资金,我们发现更多的方法可以使用比我们预期的要花。特别是,我们已经能够通过2017年收到的“奖金”支持来扩大招聘努力的范围。因此,我们的2018年支出率约为350万美元,实际上符合我2017年的2019年预算,而不是我对2018年的预测 - 从我预测的大量增加,而且larger step from last year’s budget of $2.1M.5

我们的两个筹款目标,目标一(500美元)和目标2(1.2美元),对应于预算需求,我们可以轻松预测和占据。由于捐助者在2017年的支持下,我们的2018年我们的推动力得多得多,而且我们可能是今天在类似的情况下,尽管我不相信这就是这种情况。

具体地说,我们的决策因为我们所看到的惊人的支持而发生了一些改变:

  • 我们在所有费用报销上花了更多钱计算机科学家的风险研讨会。我们在2月份举行了第一个这样的研讨会,并在其中看过有关具有相关技术经验的人的价值,从而开始推理更多关于AI风险的人。从那时起,我们在2018年运行了另外七场活动,2019年更多计划。
    如希望,这些研讨会也为加入Miri和其他AI安全研究团队产生了兴趣。金宝博娱乐这导致了一项全日制的​​Miri研究人员雇用,以及十大候选人,2019年全职加入金宝博娱乐的良好前景,包括最近的两个实习生。

  • 我们更加持续愿意,能够为最高技术人才支付竞争力的工资。这是一个特殊的案例是聘用相对高级的研究人员喜欢金宝博娱乐爱德华九九

  • 我们为一些现有的工作人员提高了薪水。我们有一个非常忠诚的员工,Miri的一些工作人员以前要求获得相当低的工资,以帮助让Miri的组织成本降低。这导致的工作人员对我们当前的组织规模没有很大的意义,这两者都不会对我们的团队的生产力和他们的幸福来说产生多大意义。

  • 我们跑了一个夏季研究实习计金宝博娱乐划,比我们否则更大的规模。

  • 正如我们考虑了能够适应我们扩展的新办公空间的选项,我们已经能够更少地过滤相对于适合的价格。我们还能够花费更多关于我们预期的改造,以便我们预期生产的工作环境,我们的研究人员可以减少干扰或不便。金宝博娱乐

2018年对我们的成本有效地转换了令人遗憾的资金的能力增加了(从我们的角度来看)非常高价值行动的能力,上面的名单希望有助于澄清在实践中所能的样子。我们不能保证能够在2019年在这一筹款机会过冲,但我们有乐观的理由。



  1. 也就是说,我们的业务 - 常用模型试图消除一次性异常成本,以便更容易看出“新正常”在Miri的支出和考虑我们的长期增长曲线。
  2. 这种估计相当粗糙和不确定。该模型的一个弱点是它处理输入的输入,尽管它们是独立的,但情况并非总是如此。我也没有试图考虑到我们可能在我们看到更多筹款成功的世界里度过更多的事实。

    然而,对最终输出的敏感性分析显示,这一估计中的绝大多数不确定性来自我们雇用了多少研究人员,这与我的预期相符,并表明该模型在跟踪直观上重要的变量方面做得不错。金宝博娱乐当我以其他方式计算我们的资金状况时,当我考虑不同的资金情况时,我也得出了类似的目标。

  3. 这不包括专用资金ai影响这是一个独立的研究小组,机构设在M金宝博娱乐IRI。
  4. 我们也可以将目标设定为10万美元,以达到目标区间的底部440万美元。然而,我担心10万美元的目标会误导我们,因为我们考虑的是440 - 550万美元的预算。
  5. 引用我们的2017年筹款制定者员工“如果我们成功了,我们估计2018年的预算将是280万美元,2019年的预算将是350万美元,高于2017年的约190万美元。”190万美元是2017年结束前的估计数字。我们现在将这个数字修正为210万美元,这正好与我们2016年对2017年的估计相符。