Miri的2019年筹款人

||消息

美里的2019资金筹集活动得出结论。

在过去的两年里,巨大的捐助者支持帮助我们为我们AI对准研究团队的大小增加了两倍。金宝博娱乐击中我们今年的100万美元筹款目标将使我们能够在2020年及以后继续发展我们的增长,招募尽可能多的辉煌思想,以便我们认为是对准的中央技术障碍。

我们的筹款进度,实时更新(包括捐赠和在Facebook期间的配对周二给事件):



周二给2019

||消息

2020年1月25日更新:在“周二捐赠”活动中,通过188betappFacebook向MIRI捐赠了77325美元。其中45,915美元是在13.5秒内捐赠188betapp的,该活动于上午5点开始,并被Facebook匹配。感谢大家这么慷慨地把时间调得这么早!大声喊出来ea给星期二给重新思考慈善机构团队代表EA社区的惊人努力。


2019年12月2日更新:本页面已更新,以反映(a) Facebook的500美元或以上捐款流量的观察变化(b)在Facebook的匹配活动中确保2500美元或以上捐款匹配的额外信息,以及(c) Paypal新宣布的匹配活动的指针,尽管规模明显较小。在12月3日上午5点(太平洋时间)开始Facebook配对活动之前,请在这里查看更多更新。


Miri的年度筹款人员将于2019年12月2日星期一开始周二给发生在第二天;12月3日上午5点(东部时间8点)开始,脸谱网将与其平台上的捐款页面上的捐款相匹配,总计为7,000,000美元。这篇文章侧重于此Facebook匹配事件。(您可以在脚注中找到有关PayPal的信息较小的匹配事件。1

  1. 在Facebook的“周二捐赠”活动中,捐款将以先到先得的方式进行,直到700万美元的配对资金用完为止。根据前几年的趋势,这可能会在10秒内发生。
  2. 任何基于美国的501(c)(3)非营利资格有资格在Facebook上获得捐款,例如,Miri,可以匹配。
  3. Facebook将为每个非营利组织提供总计10万美元的资助。
  4. 在“捐赠星期二”活动上,每位捐赠者最多可获得2万美元的合格捐赠。每笔捐赠的默认限额为2499美元。希望捐赠2499美元以上的捐赠者有多种188betapp策略可供选择,以增加他们的捐赠被匹配的机会。

2018年在活动开始后的16秒内,Facebook的700万美元匹配池就用完了。在这段时间里,66%的捐赠者闪电般快速完成了对MIRI的捐赠,总共获得了40,072美元的匹配资金。今年,我们的目标是每个组织最高10万美元,因为今年的配对活动很有可能会结束在十秒内,这里有一些建议可以提高你向MIRI在Facebook上的筹款页面被匹配。

活动前准备(星期二讲座前)

  • 确认您的FB帐户是可操作的。
  • 添加您首选的信用卡作为付款方式在你的FB设置页面.就捐赠速度而言,信用卡似乎比Paypal更可取。
  • 通过捐赠少量来测试您的付款方式Miri的筹款人员页面
  • 如果你的信用卡额度低于你所考虑的捐赠金额,你可能会(a)提前超额支付余额和/或(b)打电话给你的信用卡,要求他们(即使是暂时的)提高你的额度。
  • 如果您计划捐赠超过2,499美188betapp元,见下文有关说明。
  • 同步你将使用的钟表时间是
  • 考虑向miri捐赠给捐款ea给星期二给2

在捐赠星期二捐款

在12月3日星期二,之前5:00 am PT -建议在活动开始前10-20分钟保持警惕并做好准备-准备你的捐赠,这样你就可以在5:00 pm活动开始时通过点击进行捐赠。

  1. 打开一个准确的时钟时间是
  2. 在不同的浏览器窗口旁边,打开MIRI在Facebook上的筹款页面在您的浏览器中。
  3. 单击“捐赠”按钮。188betapp
  4. 在“捐赠”弹出面188betapp上的表面:
    • 输入你的捐款金额——在5美元到2499美元之间。见下文对于较大的捐款。
    • 选择你用来捐赠的卡片。
    • (可选)输入音符和/或调整捐赠的可见性。
  5. 在05:00:00 PST,单击绿色捐赠按钮。188betapp如果您的捐款金额为500美元或更大,则可能会提供另外的“确认您的捐赠”对话框。如果是这样,请单击它的188betapp捐赠按钮尽快。

更大的捐款

在默认情况下,Facebook对每笔捐款设定了2499美元的上限(在美国)3.),并将为每位捐赠者提供至多2万美元。如果你有能力向MIRI捐赠2500美元或更多,你可以:188betapp

  1. 为每个个人捐赠使用多个浏览器窗口/标签:打开MIRI在Facebook上的筹款页面在您的浏览器中根据需要的选项卡,并按照每个窗口/选项卡中的上面的说明按照上面的说明进行操作,因此您可以在每个选项卡中有多个捐赠按钮单击。188betapp然后在5:00:00 PT,频道闪电,尽可能快地点击 - 我们去年我们的明星支持者之一在21秒内捐款,其中5个符合匹配。

    和/或

  2. 在活动之前 - 理想情况下,不是早上 - 遵循EA给出周二的指示关于如何在2,499美元上增加Facebook的每捐款限额。我们的朋友们ea给星期二给在以下说明之后,估计“您可能能够每捐款成功捐赠9,999美元”。188betapp他们的分析还表明,个人捐赠的10,000美元可怜地显着提高被拒绝的可能性,因此建议每次捐赠超过9,999美元。Facebook可能会在更接近事件的个人捐款中提出2,499美元的盖帽。

使用上述组合,慷慨的支持者可以例如在单独的浏览器窗口中进行2美元的9,999美元捐款 - 在事件开始的秒内。


  1. 贝宝有3个单独的匹配活动在周二捐赠-所有这些增加10%的合格捐赠-为美国加拿大,英国
  2. 感谢Ari、William、Rethink Charity和EA Giving Tuesday的所有成员,感谢他们帮助EA组织最大化他们在Facebook的匹配资金份额。
  3. 关于Facebook在美国以外的捐赠限制的最新信息,请退房EA Giving周二的文件

2019年11月通讯

||时事通讯

2019年10月通讯

||时事通讯

2019年9月通讯

||时事通讯

2019年8月通讯

||时事通讯

2019年7月简报

||时事通讯

新论文:“从学会的优化中产生的风险”

||文件

高级机器学习系统中学习型优化的风险金宝博官方Evan Hubinger, Chris van Merwijk, Vladimir Mikulik, Joar Skalse和Scott Garrabrant发表了一篇新论文在先进的机器学习系统中学习优化的风险金宝博官方.”

论文的摘要:

我们分析学习型号(例如神经网络)本身是优化器的学习优化类型 - 我们所指的情况MESA优化,这是我们在本文中引入的一个新词。

我们认为台面优化的可能性对先进机器学习系统的安全性和透明度提出了两个重要问题。金宝博官方首先,在什么情况下学习的模型会成为优化器,包括在什么情况下它们不应该成为优化器?第二,当一个学习过的模型是一个优化器时,它的目标是什么——它将如何不同于它所接受的损失函数,以及它如何对齐?在本文中,我们对这两个主要问题进行了深入的分析,并对未来研究的主题进行了概述。金宝博娱乐

本文呈现的危急区别在于AI系统的优化(其)金宝博官方基地的目标以及它最终优化的目标是什么Mesa目标),如果它完全针对任何东西进行了优化。当ML模型最终将优化某些东西时,作者对某些东西有兴趣,以及ML模型的目标如何最终得到优化,以便与其选择的目标相比。

系统被选择去实现的目标和系统真正优化的目标之间的区别并不是什么新鲜事。金宝博官方Eliezer Yudkowsky在之前的讨论中也提出了类似的担忧优化守护进程, Paul Christiano在“失败是什么样的.”

这篇论文的内容也在本周陆续发布AI对齐论坛,交叉发布到LessWrong.当作者说明:

我们认为,这一顺序是迄今为止对这些问题进行的最彻底的分析。特别是,我们计划不仅介绍有关台面优化器的基本问题,而且还分析AI系统的特定方面,我们认为这些方面可能会使台面优化相关的问题相对容易或更难解决。金宝博官方通过提供一个框架来理解不同的人工智能系统可能对不对齐台面优化的鲁棒程度,我们希望开始一场关于构建机器学习系统来解决这些问题的最佳方法的讨论。金宝博官方

此外,在第四篇文章中,我们将提供迄今为止我们认为最详细的问题分析欺骗对齐我们认为,这可能是目前使用类似现代机器学习的技术来生产安全的先进机器学习系统的最大障碍之一,尽管不一定是不可逾越的。金宝博官方

注册以获取新的Miri技术结果的更新

每次发布新技术文件时都会通知。