Miri的2019年筹款人
美里的2019资金筹集活动得出结论。
在过去的两年里,巨大的捐助者支持帮助我们为我们AI对准研究团队的大小增加了两倍。金宝博娱乐击中我们今年的100万美元筹款目标将使我们能够在2020年及以后继续发展我们的增长,招募尽可能多的辉煌思想,以便我们认为是对准的中央技术障碍。
我们的筹款进度,实时更新(包括捐赠和在Facebook期间的配对周二给事件):
美里的2019资金筹集活动得出结论。
在过去的两年里,巨大的捐助者支持帮助我们为我们AI对准研究团队的大小增加了两倍。金宝博娱乐击中我们今年的100万美元筹款目标将使我们能够在2020年及以后继续发展我们的增长,招募尽可能多的辉煌思想,以便我们认为是对准的中央技术障碍。
我们的筹款进度,实时更新(包括捐赠和在Facebook期间的配对周二给事件):
2020年1月25日更新:在“周二捐赠”活动中,通过188betappFacebook向MIRI捐赠了77325美元。其中45,915美元是在13.5秒内捐赠188betapp的,该活动于上午5点开始,并被Facebook匹配。感谢大家这么慷慨地把时间调得这么早!大声喊出来ea给星期二给和重新思考慈善机构团队代表EA社区的惊人努力。
2019年12月2日更新:本页面已更新,以反映(a) Facebook的500美元或以上捐款流量的观察变化(b)在Facebook的匹配活动中确保2500美元或以上捐款匹配的额外信息,以及(c) Paypal新宣布的匹配活动的指针,尽管规模明显较小。在12月3日上午5点(太平洋时间)开始Facebook配对活动之前,请在这里查看更多更新。
Miri的年度筹款人员将于2019年12月2日星期一开始周二给发生在第二天;12月3日上午5点(东部时间8点)开始,脸谱网将与其平台上的捐款页面上的捐款相匹配,总计为7,000,000美元。这篇文章侧重于此Facebook匹配事件。(您可以在脚注中找到有关PayPal的信息较小的匹配事件。1)
在2018年在活动开始后的16秒内,Facebook的700万美元匹配池就用完了。在这段时间里,66%的捐赠者闪电般快速完成了对MIRI的捐赠,总共获得了40,072美元的匹配资金。今年,我们的目标是每个组织最高10万美元,因为今年的配对活动很有可能会结束在十秒内,这里有一些建议可以提高你向MIRI在Facebook上的筹款页面被匹配。
在12月3日星期二,之前5:00 am PT -建议在活动开始前10-20分钟保持警惕并做好准备-准备你的捐赠,这样你就可以在5:00 pm活动开始时通过点击进行捐赠。
在默认情况下,Facebook对每笔捐款设定了2499美元的上限(在美国)3.),并将为每位捐赠者提供至多2万美元。如果你有能力向MIRI捐赠2500美元或更多,你可以:188betapp
和/或
使用上述组合,慷慨的支持者可以例如在单独的浏览器窗口中进行2美元的9,999美元捐款 - 在事件开始的秒内。
Evan Hubinger, Chris van Merwijk, Vladimir Mikulik, Joar Skalse和Scott Garrabrant发表了一篇新论文在先进的机器学习系统中学习优化的风险金宝博官方.”
论文的摘要:
我们分析学习型号(例如神经网络)本身是优化器的学习优化类型 - 我们所指的情况MESA优化,这是我们在本文中引入的一个新词。
我们认为台面优化的可能性对先进机器学习系统的安全性和透明度提出了两个重要问题。金宝博官方首先,在什么情况下学习的模型会成为优化器,包括在什么情况下它们不应该成为优化器?第二,当一个学习过的模型是一个优化器时,它的目标是什么——它将如何不同于它所接受的损失函数,以及它如何对齐?在本文中,我们对这两个主要问题进行了深入的分析,并对未来研究的主题进行了概述。金宝博娱乐
本文呈现的危急区别在于AI系统的优化(其)金宝博官方基地的目标以及它最终优化的目标是什么Mesa目标),如果它完全针对任何东西进行了优化。当ML模型最终将优化某些东西时,作者对某些东西有兴趣,以及ML模型的目标如何最终得到优化,以便与其选择的目标相比。
系统被选择去实现的目标和系统真正优化的目标之间的区别并不是什么新鲜事。金宝博官方Eliezer Yudkowsky在之前的讨论中也提出了类似的担忧优化守护进程, Paul Christiano在“失败是什么样的.”
这篇论文的内容也在本周陆续发布AI对齐论坛,交叉发布到LessWrong.当作者说明:
我们认为,这一顺序是迄今为止对这些问题进行的最彻底的分析。特别是,我们计划不仅介绍有关台面优化器的基本问题,而且还分析AI系统的特定方面,我们认为这些方面可能会使台面优化相关的问题相对容易或更难解决。金宝博官方通过提供一个框架来理解不同的人工智能系统可能对不对齐台面优化的鲁棒程度,我们希望开始一场关于构建机器学习系统来解决这些问题的最佳方法的讨论。金宝博官方
此外,在第四篇文章中,我们将提供迄今为止我们认为最详细的问题分析欺骗对齐我们认为,这可能是目前使用类似现代机器学习的技术来生产安全的先进机器学习系统的最大障碍之一,尽管不一定是不可逾越的。金宝博官方
每次发布新技术文件时都会通知。