人工智能安全-机器智能金宝博娱乐研究所CHCAI/MIRI研究实习

我们正在寻找有才能，有动力，有抱负的技术研究人员参加暑期研究实习金宝博娱乐人类兼容人工智能中心和机器智能研究所(MIRI)。金宝博娱乐

CHCAI是加州大学伯金宝博娱乐克利分校的一个研究中心，拥有包括Stuart Russell、Pieter Abbeel和Anca Dragan在内的法律顾问。CHCAI将其目标描述为“开发概念和技术上的必要资金，将人工智能研究的总体方向转向可证明有益的系统”。金宝博娱乐金宝博官方

MIRI是一家位于加州大学伯克利分校附近的独立金宝博娱乐非营利研究机构，其使命是帮助确保比人类更聪明的人工智能对世界产生积极影响。188bet娱乐城

CHCAI的研究金宝博娱乐重点包括逆强化学习和人-机合作(链接)，而MIRI的重点领域包括人工智能任务和计算反射(金宝博娱乐）.这两个群体也对(有限)理性理论感兴趣，这可能有助于我们对通用人工智能代理有更深入的理解。

2.发送电子邮件至beth.m.barnes@gmail.com，并附上你的简历、一篇以你为主要作者的技术文章和你的研究计划。金宝博娱乐

研究计划金宝博娱乐应该是一到两页长。它应该列出一个你认为在这个夏天可以取得进展的问题，以及一些你认为有前途的解决方法。我们建议大家通读一下CHCAI注释的书目和具体问题的议程作为AI安全问题的良好来源，如果你之前没有这样做过的话。

你的建议应该针对特定的研究议程或特定顾问的兴趣。金宝博娱乐顾问的利益包括:

•安德鲁Critch(CHCAI, MIRI):列出的任何东西CHCAI的开放性技术问题;可转让强化学习;具有透明源代码的代理的博弈论(例如，“计划平衡”和“参数有界Löb的定理与有界代理的鲁棒合作”)。

•丹尼尔Filan(CHCAI):“基础问题”、“纠错”、“偏好推理”、“奖励工程”等内容打开的技术问题列表．

•迪伦Hadfield-Menell(CHCAI):博弈论分析在人工智能安全问题模型中的应用(特别是由具有理论经济学背景的人进行);制定和分析人工智能安全问题黄道眉鹀游戏;人工智能安全性与委托代理模型/不完全契约理论的关系;机器学习中的可靠性工程;关于公平的问题。

•杰西卡·泰勒，斯科特Garrabrant,帕特里克LaVictoire(MIRI):在MIRI中描述的开放问题代理基础和对齐先进的ML系统金宝博官方金宝博娱乐研究议程。

此申请并不约束您对您所提交的提案进行工作。它的目的是展示你的能力，就如何在一个给定的研究问题上取得进展提出具体的建议。金宝博娱乐

这是一个新的，有点实验性的项目。你需要自我指导，你需要有足够的知识来开始解决这些问题。导师可以给你研究方面的指导，但他们不会教你材料。金宝博娱乐然而，如果你被研究深深激励，这应该是一个奇妙的经历。金宝博娱乐

成功的申请人将展示技术写作的例子，动机和研究能力，并提出一个具体的研究计划。金宝博娱乐我们希望最成功的申请人可以:

•拥有或正在攻读与人工智能安全相关的博士学位;

•已经或正在攻读与此无关的领域的博士学位，但目前正转向人工智能安全，有证据表明，有足够的知识和动力进行人工智能安全研究;金宝博娱乐或

•优秀的本科或硕士研究生，在与人工智能安全密切相关的领域有具体的研究能力(如发表过论文或参与过项目)。金宝博娱乐

计划的日期是灵活的，可能因人而异。然而，我们的假设是，大多数人会从6月初开始来这里待12周。

该项目将在旧金山湾区进行。保障基本生活费用。我们不能保证为您安排好所有的住房，但如果需要，我们可以为您提供寻找住房的帮助。

非美国公民的实习生很可能需要申请J-1实习签证。一旦你被录取，我们可以帮助你提供所需的文件。

申请的截止日期是3月1日。申请人应在3月20日前收到决定。

人工智能安全CHCAI金宝博娱乐/MIRI研究实习