寻求类型理论与机金宝博娱乐自助参考研究员的研究

||新闻

该机器智能研究所(MIRI)正在接受申请的全职研究金宝博娱乐员发展与自我指涉的能力定理证明,通过实施非常语言中强类型语言开始。该研究项目的目标是帮助我们理解自治金宝博娱乐系统,可以证明有关与类似的演绎能力的系统定理。金宝博官方申请人应在函数式编程语言编程经验,有与相关的类型,如阿格达,勒柯克,或精益语言的偏好。

MIRI是一个数学和计算机科学研究机构,专门从事长期的AI安全和鲁棒性工作。金宝博娱乐我们的办公室在加州伯克利,靠近加州伯克利分校。188bet娱乐城

类型理论中的类型理论

我们这个项目的目标是构建工具对软件系统建模更好地反射推理,与我们的项目金宝博官方建模HOL4证明助手本身。有认为自我指涉的推理是不可能完全通用Gödelian原因。然而,不能完全一般性许多亟待解决的现实任务承认的有效多数为一般或启发式方法。人类,例如,肯定在很多情况下相信自己的推理成功。

有许多的工具,在现代定理证明缺失,这将是对学习的自我指涉的推理有帮助。其中首先是定理证明,可以构造有关软件系统,让使用非常相似的定理证明的证明。金宝博官方要在强类型的编程语言构建这些工具,我们需要通过编写程序和证据,可以证明可以参考的相同的语言程序和证据的类型开始。

类型理论在类型理论中最近得到了相当多的关注。詹姆斯·查普曼的工作类似的方向推到我们想要的东西,因为是马特·布朗和詹斯·帕尔斯伯格的,但是这些项目还没有给我们提供我们需要的工具。(对于我们的目的来说,F-omega是一个太弱的逻辑,像查普曼的方法不能让我们得到自我表示。)

这是为了成为一个独立的研究项目,虽然可能会发生一些合作与其他研究人员。金宝博娱乐我们的期望是,这将是一个多年的项目,但它是很难预测这个任务有多难是提前。它可能会更容易比它看起来,或实质上更加困难。

根据项目如何去,兴趣继续这个项目完成后,与我们合作的研究人员或许能够在金宝博娱乐其他地区的合作,我们的金宝博娱乐研究议程或提出自己的补充,我们的节目。

在美里工作

我们会尽力在美里工作一个很好的经验。下面是我们如何操作:

  • 现代的工作空间。我们很多人有大的外部显示器可调站在桌子。我们认为,工作空间的人体工程学设计的重要,并试图拼凑工作站是尽可能舒适。免费小吃,饮料和餐点也是在我们的办公室提供。
  • 灵活的工作时间。这是一个工薪位置。我们没有严格的办公时间,而我们没有限制员工的休假日。我们的目标是使在快速进步我们金宝博娱乐研究议程,我们更希望研究人员休息一天比他们延长任务,填补额外的金宝博娱乐一天。
  • 生活在湾区。MIRI的办公室位于加州伯克利市中心。从我们的办公室到旧金山湾区捷运(BART)只需30秒的路程,它可以带你绕旧金山湾区转一圈;步行3分钟到加州大学伯克利分校;188bet娱乐城到旧金山市中心需要30分钟的BART车程。
  • 旅行援助。如果需要协助办理签证是可用的。如果你正在向海湾地区,我们将讨论高达3500 $的搬家费用。我们还提供了一个公共交通通具有较大每月津贴。

这个职位的薪水是面议的,还有一流的健康和牙科福利。

关于MIRI

美里是一个基于伯克利分校的研究非营利性研究人工智能金宝博娱乐的基本问题。我们的目标是确保高质量的决策系统在未来的几十年产生积极的全球性影响。金宝博官方MIRI研金宝博娱乐究顾问和人工智能的先驱斯图尔特·罗素大纲关于高能力AI软件的几个担忧原因:

  1. 效用函数可能与人类的价值,这是(最好)很难牵制完全一致。
  2. 任何足够能力的智能系统会优先保证自身继续存在,并获得物理和计算资源 - 不金宝博官方为自己着想,但在其指定的任务取得成功。

优化金宝博官方函数的系统n变量,其中目标依赖于一个子集的大小k<n,往往会设置剩下的非约束变量,以极端值;如果这些无约束变量之一实际上是我们关心的东西时,发现的解决方案可能是极不可取的。

我们的重点是系统过于复杂和自主软金宝博官方件开发者预见所有可能的状态的系统和它的环境可能演变成。采用这样的系统安全,软件工程师金宝博官方需要理解的一个深层次的行为,并能够利用机器分析和验证技术,以确认高层次的系统性能。

MIRI是专门从事这方面技术研究的主要组织。金宝博娱乐我们的工作被引用金宝博娱乐研究的重点是强大和有益的人工智能报告,并在尼克·博斯特罗姆的已经讨论超级智能和拉塞尔和弱势族群的人工智能:一种现代方法

长期AI安全是研究的一个快速增长的领域,最近收到显著公众的注意。金宝博娱乐我们现在研究的目的是提供金宝博娱乐这一新的领域与理论基础,这将有助于指导今后的研究方向。

如何申请

点击这里申请。