MIRIx的新野外指南
我们刚刚释放了a现场指南对于MIRIx群体,以及其他想要参与其中的人AI对齐金宝博娱乐研究。
Mirix是一个计划,Miri有助于涵盖想要在AI安全开放问题上工作的外部团体的基本费用。您可以启动自己的小组或查找有关现有聚会的信息www.gqpatrol.com/mirix.
几个MIRIx小组最近都在加强他们的活动,包括:
- 加州大学欧文分校:丹尼尔·赫尔曼正在加州欧文市成立一个MIRIx团体。联系他如果你想参与的话。
- 西雅图: MIRIxSeattle是一个正在重新启动和增加其活动的小团队。联系Pasha Kamyshev.如果你感兴趣。
- 温哥华:安德鲁·麦克奈特和Evan Gaenbauer.正在寻找更多人喜欢加入Mirixvancouver事件的人。
新的校准领域指南旨在为MIRIx小组提供提示和背景模型,基于我们的经验,往往使一个研究小组成功或失败。金宝博娱乐
导游开始:
序言我:决策理论
你好!您可能会注意到您正在阅读一个文档。
这一事实具有一定的含义。比如,你为什么要读这篇文章?你会完成它吗?你最终会做出什么决定?接下来你要做什么?
请注意,无论你最终做什么,很可能会有几十甚至上百个与你非常相似、处于相似位置的人,他们会遵循与你非常相似的推理,做出与你相匹配的选择。
鉴于这一点,我们的建议是通过询问问题“是什么政策,如果紧随其后的所有代理商,这将导致最有益的是,这是我们的建议,即最不好的,以及该政策在我的特定情况下表达了什么?”这是一个试图决定所有类似的代理的问题少(这可能会导致您造成错误的选择或压力的错误选择),更像是“如果我这样的话是在我的引用类中负责所有代理,我将如何处理该类的实例我的具体特征?“
如果这种想法引导你继续阅读下去,那很好。如果它能引导你建立一个《MIRIx》章节,那就更好了。与此同时,我们将继续进行,就好像只有那些有理由认为它相当有用的人才会阅读这份文件一样。
序言二:表面面积
想象一下,您已被任务移动一块米的固体铁立方体。鉴于这样的立方体重量~16000磅,并且平均人类可以提升〜100磅,一个天真的估计告诉你,你可以用〜150愿朋友解决这个问题。
但当然,一米的立方体最多能容纳10个人左右。它不事如果您有理论能力,如果您不能以有效的方式带来该电源。问题受其限制表面积.
MIRIx章节是增加人们思考和处理AI对齐技术问题的表面积的最好方法之一。正如这将是一个坏主意法令”发生在10人目前是最接近金属立方体是唯一允许考虑如何思考这个问题”,我们不希望米里成为瓶颈或权威什么样的思维可以而且应该做的领域嵌入式代理和其他相关的研究领域。金宝博娱乐
希望你和其他像你一样的人能够真正帮助解决问题,而不仅仅是遵循指示或阅读已经写好的东西。本文档旨在支持那些对自己进行真正的突破性研究感兴趣的人。金宝博娱乐