金宝博娱乐研究讲习班
7月20日至22日,2018- 伯克利分校,加州
第二届研讨会的途径AI对齐
-
MIRI参与者
- 亚历克斯·阿佩尔亚历克斯·阿佩尔()
- 丹尼尔Demski丹尼尔Demski()
- 埃文Hubinger埃文Hubinger()
- 琳达Linsefors琳达Linsefors()
- 亚历克斯Mennen亚历克斯Mennen()
- 大卫·西蒙斯大卫·西蒙斯()
- 亚历克斯·朱亚历克斯·朱()
这个汇集了周末车间研究从美里和加州大学伯克利分校的实习生金宝博娱乐人权中心兼容AI(柴)讨论概念基础和人工智能安全研究有待解决的问题。金宝博娱乐
11月18-19日,2017年- 伯克利分校,加州
第一次研讨会在途径AI对齐
- Tsvi本森,TilsenTsvi本森,Tilsen(MIRI)
- 保罗·克里斯蒂保罗·克里斯蒂(OpenAI)
- 安德鲁·玛琳安德鲁·玛琳(加州大学伯克利分校)
- 魏代魏代(独立)
- 亚伯兰Demski亚伯兰Demski(MIRI)
- 山姆Eisenstat山姆Eisenstat(MIRI)
- 斯科特Garrabrant斯科特Garrabrant(MIRI)
- 理查德Mallah理查德Mallah(FLI,剑桥语义)
- 安德烈亚斯Stuhlmüller安德烈亚斯Stuhlmüller(斯坦福)
- 杰西卡泰勒杰西卡泰勒(独立)
本周末讲习班聚集了兴趣了解和探索MIRI的之间的交叉研究金宝博娱乐代理基础金宝博娱乐研究议程,保罗·克里斯蒂的研究金宝博娱乐。
4月1-2日,2017年- 伯克利分校,加州
第四车间机器学习和人工智能安全
- 罗伯特Krzyzanowski罗伯特Krzyzanowski(伊利诺伊大学)
- 埃里克·朗格卢瓦埃里克·朗格卢瓦()
- 帕特里克LaVictoire帕特里克LaVictoire(MIRI)
- 霍顿利霍顿利()
- 欧阳长欧阳长()
- 伊桑·佩雷斯伊桑·佩雷斯(莱斯大学)
- 安东尼·罗斯安东尼·罗斯(乌伯,得克萨斯A&M)
- 阿南德斯里尼瓦桑阿南德斯里尼瓦桑(MIT,AlphaSheets)
- 杰西卡泰勒杰西卡泰勒(MIRI)
这次研讨会与机器学习的长期AI安全问题的背景工作,可以在当前的金宝博娱乐机器学习系统和框架进行建模,例如那些描述的研究人员一起“金宝博官方在AI安全的具体问题”和“对齐方式先进的机器学习系统金宝博官方”。
这次研讨会是由拨款提供部分资助人工智能杂志。
3月25-26日,2017年- 伯克利分校,加州
在代理基金会和AI安全研讨会
- 亚历山大·阿佩尔亚历山大·阿佩尔(内华达州里诺大学)
- 迈克尔·丹尼斯迈克尔·丹尼斯(加州大学伯克利分校)
- 山姆Eisenstat山姆Eisenstat(谷歌)
- 马特·弗兰克马特·弗兰克()
- 斯科特Garrabrant斯科特Garrabrant(MIRI)
这两天的周末研讨会汇集了研究人员在长期的理论AI安全的研究兴趣。金宝博娱乐研讨会涉及的背景和目前的AI安全研究计划和项目(内容侧重于MIRI的金宝博娱乐代理基础技术议程)。它是面向谁拥有技术背景,谁以前没有与金宝博娱乐MIRI广泛的合作研究。
12月1-3日2016- 伯克利分校,加州
第三届研讨会机器学习和人工智能安全
- 瑞恩·凯莉瑞恩·凯莉(MIRI)
- 卡梅伦弗里尔卡梅伦弗里尔(Gamalon和Borelian)
- 斯科特Garrabrant斯科特Garrabrant(MIRI)
- 马塞罗Herreshoff马塞罗Herreshoff(谷歌)
- 帕特里克LaVictoire帕特里克LaVictoire(MIRI)
这个小为期三天的研讨会带来了机器学习的长期AI安全问题的背景工作,可以在当前的机器学习系统和框金宝博娱乐架进行建模,例如那些描述的研究人员一起“金宝博官方在AI安全的具体问题”和“对齐方式先进的机器学习系统金宝博官方”。
包括主题使用共享的嵌入零射门学习之间的差异quantilization的正规化,生成对抗性的网络和古德哈特定律和数学形式化保守的概念学习。
11月11-13日2016- 伯克利分校,加州
第九届研讨会逻辑,概率和反思
- Tsvi本森,TilsenTsvi本森,Tilsen(加州大学伯克利分校)
- 瑞恩·凯莉瑞恩·凯莉(MIRI)
- 安德鲁·玛琳安德鲁·玛琳(MIRI)
- 亚伯兰Demski亚伯兰Demski(USC)
- 山姆Eisenstat山姆Eisenstat(加州大学伯克利分校)
- Benya FallensteinBenya Fallenstein(MIRI)
- 杰克·加拉格尔杰克·加拉格尔()
- 斯科特Garrabrant斯科特Garrabrant(MIRI)
- 马塞罗Herreshoff马塞罗Herreshoff(谷歌)
- 帕特里克LaVictoire帕特里克LaVictoire(MIRI)
- 斯蒂农尼散斯蒂农尼散(谷歌)
- 杰西卡泰勒杰西卡泰勒(MIRI)
- 亚历克斯·朱亚历克斯·朱(MIT)
与会者在这个为期三天的研讨会 - 过去的作坊大多退伍军人 - 就有关美里的各种各样的问题的工作代理基础技术议程。
主题包括富域安全的探索,预测人体和预测HCH之间的差和从其他决策理论自修改导致决策理论。
10月21-23日2016- 伯克利分校,加州
第二届研讨会机器学习和人工智能安全
- 瑞恩·凯莉瑞恩·凯莉(MIRI)
- 萨拉·康斯坦丁萨拉·康斯坦丁()
- 斯科特Garrabrant斯科特Garrabrant(MIRI)
- 马塞罗Herreshoff马塞罗Herreshoff(谷歌)
- 帕特里克LaVictoire帕特里克LaVictoire(MIRI)
- 威廉·桑德斯威廉·桑德斯(谷歌)
- 杰西卡泰勒杰西卡泰勒(MIRI)
- 埃利泽·尤多科斯基埃利泽·尤多科斯基(MIRI)
这个小为期三天的研讨会带来了机器学习的长期AI安全问题的背景工作,可以在当前的机器学习系统和框金宝博娱乐架进行建模,例如那些描述的研究人员一起“金宝博官方在AI安全的具体问题”和“对齐方式先进的机器学习系统金宝博官方”。
8月26日至28日2016- 伯克利分校,加州
第一次研讨会机器学习和人工智能安全
- 保罗·克里斯蒂保罗·克里斯蒂(加州大学伯克利分校)
- 丹尼尔·菲兰丹尼尔·菲兰(加州大学伯克利分校)
- 卡梅伦弗里尔卡梅伦弗里尔(Gamalon和Borelian)
- 迪伦哈德菲尔德 - Menell迪伦哈德菲尔德 - Menell(加州大学伯克利分校)
- 维多利亚Krakovna维多利亚Krakovna(哈佛)
- 亚诺什Kramar亚诺什Kramar(蒙特利尔大学)
- 帕特里克LaVictoire帕特里克LaVictoire(MIRI)
- 伊莲娜Luketina伊莲娜Luketina(蒙特利尔大学)
- 理查德Mallah理查德Mallah(FLI,剑桥语义)
- 杰西卡泰勒杰西卡泰勒(MIRI)
- 埃利泽·尤多科斯基埃利泽·尤多科斯基(MIRI)
这个为期三天的研讨会带来了机器学习的长期AI安全问题的背景工作,可以在当前的机器学金宝博娱乐习系统和框架进行建模,例如那些描述的研究人员一起“金宝博官方在AI安全的具体问题”和“对齐方式先进的机器学习系统金宝博官方”。
主题包括学习环境的人类可解释和因果模型;基于影响的措施,disincentivize副作用工程造价功能;强大的设计指标计划的本意解释的质量;和发展古德哈特定律的正式模型,其产生温和的优化。
8月12日至十四日2016- 伯克利分校,加州
第八研讨会逻辑,概率,和反射
- Tsvi本森,TilsenTsvi本森,Tilsen(加州大学伯克利分校)
- 安德鲁·玛琳安德鲁·玛琳(MIRI)
- 山姆Eisenstat山姆Eisenstat(加州大学伯克利分校)
- Benya FallensteinBenya Fallenstein(MIRI)
- 斯科特Garrabrant斯科特Garrabrant(MIRI)
- 帕特里克LaVictoire帕特里克LaVictoire(MIRI)
- 内特·苏亚雷斯内特·苏亚雷斯(MIRI)
- 杰西卡泰勒杰西卡泰勒(MIRI)
- 埃利泽·尤多科斯基埃利泽·尤多科斯基(MIRI)
在参加本次研讨会 - 过去的车间所有这些退伍军人 - 就有关美里的各种各样的问题的工作代理基础技术议程,侧重于决策理论和逻辑的反事实的正式施工。
2016年6月17日- 伯克利分校,加州
CSRBAI研讨会代理模型和Multi-Agent的困境
- USC研究所创新技术
- 卡尔顿大学
- 人类研究所的未来
- 卡内基·梅隆大学
- 哈佛
- 牛津大学
- 伦敦大学学院
- 澳大利亚国立大学
- 加州大学伯克利分校
- 德克萨斯大学奥斯汀分校
- 普林斯顿大学
- 哥伦比亚大学
该座谈会系列的坚固与效益AI包括一系列的研讨会,以协助有兴趣在许多不同的方法与AI的稳定性和可靠性相关的技术挑战的人之间的对话和合作。
第四车间CSRBAI专注于设计,在他们的环境中表现良好代理商的主题,没有忽视对环境或环境中的其他代理商代理的自身行为的影响。
6月11-12日2016- 伯克利分校,加州
CSRBAI研讨会偏好规格
- 澳大利亚国立大学
- 伦敦大学学院
- 中心生存风险的研究
- 牛津大学
- 人类研究所的未来
- 卡内基·梅隆大学
- 瑞士人工智能实验室IDSIA
- 澳大利亚国立大学
- 加州大学伯克利分校
- 布朗大学
- 蒙特利尔大学
- USC研究所创新技术
该座谈会系列的坚固与效益AI包括一系列的研讨会,以协助有兴趣在许多不同的方法与AI的稳定性和可靠性相关的技术挑战的人之间的对话和合作。
第三车间CSRBAI专注于偏好规格为精干的AI系统,其中想要的代码的长期问题“你明白我的意思,不是我说”变得越来越具有挑战性的话题。金宝博官方
6月4-5日2016- 伯克利分校,加州
CSRBAI研讨会鲁棒性和容错
- 伦敦大学学院
- 中心生存风险的研究
- 谷歌
- 人类研究所的未来
- 卡内基·梅隆大学
- 澳大利亚国立大学
- 加州大学伯克利分校
- 瑞士人工智能实验室IDSIA
- 康奈尔大学
- USC研究所创新技术
该座谈会系列的坚固与效益AI包括一系列的研讨会,以协助有兴趣在许多不同的方法与AI的稳定性和可靠性相关的技术挑战的人之间的对话和合作。
的第二次研讨会CSRBAI专注于稳健性和AI系统容错,以及如何的话题,以确保当的AI系统失败,他们失败了优雅和检测。金宝博官方
5月28日至29日2016- 伯克利分校,加州
CSRBAI研讨会透明度
- 俄勒冈州立大学
- 澳大利亚国立大学
- 人类研究所的未来
- 卡内基·梅隆大学
- IBM研金宝博娱乐究
- 蒙特利尔学院学习算法
- 谷歌研究金宝博娱乐
- 斯坦福大学
- 谷歌
- 加州大学伯克利分校
- 伦敦大学学院
- 哈佛
- 生命研究所的未来
该座谈会系列的坚固与效益AI包括一系列的研讨会,以协助有兴趣在许多不同的方法与AI的稳定性和可靠性相关的技术挑战的人之间的对话和合作。
第一车间CSRBAI专注于透明度AI系统的话题,以及我们如何能够增加透明度,同时保持能力。金宝博官方
4月1-3日2016- 伯克利分校,加州
自我参照,类型理论和形式验证
- Miëtek朴Miëtek朴(最低固定)
- Benya FallensteinBenya Fallenstein(MIRI)
- 杰克·加拉格尔杰克·加拉格尔(Gallabytes)
- 贾森·格罗斯贾森·格罗斯(MIT)
- 拉玛纳库马尔拉玛纳库马尔(剑桥)
- 帕特里克LaVictoire帕特里克LaVictoire(MIRI)
- 丹尼尔Selsam丹尼尔Selsam(斯坦福)
- 纳撒尼尔·托马斯纳撒尼尔·托马斯(斯坦福)
参加工作就在类型理论的自我参照问题,并自动定理证明,与学习系统该模型本身的目标。金宝博官方
八月28日至30日,2015年- 伯克利分校,加州
第三入门研讨会逻辑决策理论
- 霍尔格·戴尔霍尔格·戴尔(萨尔州大学)
- 欧文·埃文斯欧文·埃文斯(MIT)
- Benya FallensteinBenya Fallenstein(MIRI)
- 本杰明·福克斯本杰明·福克斯(以色列国防军)
- 帕特里克LaVictoire帕特里克LaVictoire(MIRI)
- 李宗盛李宗盛(剑桥)
- 本Levinstein本Levinstein(牛津)
- 伊莲娜Luketina伊莲娜Luketina(阿尔托)
- 大卫·斯坦伯格大卫·斯坦伯格(U马里兰)
- 内特·苏亚雷斯内特·苏亚雷斯(MIRI)
- 埃利泽·尤多科斯基埃利泽·尤多科斯基(MIRI)
这是一系列介绍工作坊,其中美里汇集了来自不同背景的研究人员在第六,在一个讨论尚未解决的问题金宝博娱乐技术议程主题,并开始项目合作,并在这一领域。
本次研讨会的主题是决策理论,并在研讨会开始项目在下面的帖子讨论:证明长度和逻辑反事实再探
八月7日至9日,2015年- 伯克利分校,加州
第二入门工作坊逻辑上的不确定性
- 佩德罗·卡瓦略佩德罗·卡瓦略(研究所高级TECNICO)
- 阿黛尔杜威洛佩兹阿黛尔杜威洛佩兹(SEED平台公司)
- Benya FallensteinBenya Fallenstein(MIRI)
- 约翰·福克斯约翰·福克斯(牛津)
- 罗伯特Krzyzanowski罗伯特Krzyzanowski(UIC)
这是一系列介绍工作坊,其中美里汇集了来自不同背景的研究人员第五,在一个讨论尚未解决的问题金宝博娱乐技术议程主题,并开始项目合作,并在这一领域。
本次研讨会的主题是合乎逻辑的不确定性,并在研讨会开始项目在下面的帖子讨论:什么是反正逻辑关系?
年6月26-28 2015年- 伯克利分校,加州
第一个介绍研讨会Vingean思考
- 亚洲时报Siddharth巴斯卡尔亚洲时报Siddharth巴斯卡尔(UCLA)
- 贾斯汀·布罗迪贾斯汀·布罗迪(古彻学院)
- 亚伯兰Demski亚伯兰Demski(USC)
- Benya FallensteinBenya Fallenstein(MIRI)
- ROKO耶拉维奇ROKO耶拉维奇(爱立信)
- 赛斯Kurtenbach赛斯Kurtenbach(U密苏里)
- 帕特里克LaVictoire帕特里克LaVictoire(MIRI)
- 肯尼斯Presting肯尼斯Presting(文艺复兴计算研究所)
- 杰斯里德尔杰斯里德尔(周长研究所)
- 内特·苏亚雷斯内特·苏亚雷斯(MIRI)
- 埃利泽·尤多科斯基埃利泽·尤多科斯基(MIRI)
6月12-14日,2015年- 伯克利分校,加州
第二入门研讨会逻辑决策理论
- 维多利亚Krakovna维多利亚Krakovna(哈佛)
- 帕特里克LaVictoire帕特里克LaVictoire(MIRI)
- 扬雷克扬雷克(澳大利亚国立大学)
- 内特·苏亚雷斯内特·苏亚雷斯(MIRI)
- 埃利泽·尤多科斯基埃利泽·尤多科斯基(MIRI)
这是一系列介绍工作坊,其中美里汇集了来自不同背景的研究人员第三,在一个讨论尚未解决的问题金宝博娱乐技术议程主题,并开始项目合作,并在这一领域。
本次研讨会的主题是决策理论,并在研讨会开始项目在下面的帖子讨论:固定点定理在有限和无限的情况下
5月29日至31日,2015年- 伯克利分校,加州
第一个入门工作坊逻辑上的不确定性
- 萨拉·康斯坦丁萨拉·康斯坦丁(耶鲁)
- Benya FallensteinBenya Fallenstein(MIRI)
- 雅各布·希尔顿雅各布·希尔顿(利兹大学)
- 凡妮莎科索伊凡妮莎科索伊(Metaqube)
- 亚诺什Kramar亚诺什Kramar(独立)
- 帕特里克LaVictoire帕特里克LaVictoire(MIRI)
- Shivaram LingamneniShivaram Lingamneni(加州大学伯克利分校)
- 奎因Maurmann奎因Maurmann(Quidsi的)
- 内特·苏亚雷斯内特·苏亚雷斯(MIRI)
- 查理·施泰纳查理·施泰纳(独立)
- 埃利泽·尤多科斯基埃利泽·尤多科斯基(MIRI)
5月4-6日,2015年- 伯克利分校,加州
第一个介绍研讨会的逻辑决策理论
- 山姆Eisenstat山姆Eisenstat(推特)
- Benya FallensteinBenya Fallenstein(MIRI)
- 斯科特Garrabrant斯科特Garrabrant(UCLA)
- 乔治·霍茨乔治·霍茨(转承)
- 帕特里克LaVictoire帕特里克LaVictoire(MIRI)
- 埃文·劳埃德埃文·劳埃德(UCLA)
- 内特·苏亚雷斯内特·苏亚雷斯(MIRI)
- 埃利泽·尤多科斯基埃利泽·尤多科斯基(MIRI)
- 塞巴斯蒂安·滑稽的塞巴斯蒂安·滑稽的(独立)
5月3日至11日2014- 伯克利分校,加州
第七研讨会逻辑,概率,和反射
- 米哈伊Bárász米哈伊Bárász(谷歌)
- 保罗·克里斯蒂保罗·克里斯蒂(加州大学伯克利分校)
- Benya FallensteinBenya Fallenstein(布里斯托尔U)
- 马塞罗Herreshoff马塞罗Herreshoff(谷歌)
- 帕特里克LaVictoire帕特里克LaVictoire(Quixey)
在参加本次研讨会 - 所有的过去的作坊他们的老兵 - 在各种相关友好人工智能问题的工作。从这个车间的第一个技术报告可这里。
12月14日至20日,2013- 伯克利分校,加州
第六届研讨会逻辑,概率和反思
- 内特·阿克曼内特·阿克曼(哈佛)
- 约翰·贝兹约翰·贝兹(UC里弗赛德)
- 保罗·克里斯蒂保罗·克里斯蒂(加州大学伯克利分校)
- Benya FallensteinBenya Fallenstein(布里斯托尔U)
- 卡梅伦弗里尔卡梅伦弗里尔(MIT)
- 杰里米·哈恩杰里米·哈恩(哈佛)
- WOJTEK MoczydlowskiWOJTEK Moczydlowski(谷歌)
11月23日至29日,2013- 英国牛津
第五研讨会逻辑,概率,和反射
- 斯图尔特·阿姆斯特朗斯图尔特·阿姆斯特朗(牛津)
- 米哈伊Bárász米哈伊Bárász(谷歌)
- Catrin坎贝尔 - 摩尔Catrin坎贝尔 - 摩尔(LMU慕尼黑)
- 丹尼尔·杜威丹尼尔·杜威(牛津)
- Benya FallensteinBenya Fallenstein(布里斯托尔U)
9月7日至一十三日,2013- 伯克利分校,加州
第四研讨会逻辑,概率,和反射
- 保罗·克里斯蒂保罗·克里斯蒂(加州大学伯克利分校)
- 魏代魏代(独立)
- 加里·德雷斯彻加里·德雷斯彻(独立)
- 肯尼Easwaran肯尼Easwaran(USC)
- 卡梅伦弗里尔卡梅伦弗里尔(MIT)
- 帕特里克LaVictoire帕特里克LaVictoire(Quixey)
- 伊利亚Shpitser伊利亚Shpitser(U南安普敦)
- 弗拉基米尔Slepnev弗拉基米尔Slepnev(谷歌)
- 斯蒂农尼散斯蒂农尼散(斯坦福)
- 安德烈亚斯Stuhlmüller安德烈亚斯Stuhlmüller(MIT&斯坦福)
- 埃利泽·尤多科斯基埃利泽·尤多科斯基(MIRI)
本次研讨会集中了各种相关的公开问题规范决策理论。参加头脑风暴“以及定问题”的地区,建于LaVictoire等人的Löbian合作工作中,做出对形式化一些进展updateless决策理论,并制定了额外的玩具问题,如终极纽康的问题。
这些结果仍在以各种形式写出来。
7月8日至14日,2013- 伯克利分校,加州
第三研讨会逻辑,概率,和反射
- 安德鲁·玛琳安德鲁·玛琳(博士,加州大学伯克利分校)
- 亚伯兰Demski亚伯兰Demski(USC)
- Benya FallensteinBenya Fallenstein(布里斯托尔U)
- 马塞罗Herreshoff马塞罗Herreshoff(谷歌)
- 李宗盛李宗盛(剑桥)
- 威尔·萨温威尔·萨温(普林斯顿)
- 瞧出元瞧出元(加州大学伯克利分校)
- 埃利泽·尤多科斯基埃利泽·尤多科斯基(MIRI)
该研讨会的重点是有关的各种问题对于自修改系统Löbian障碍金宝博官方,并Demski对早期工作逻辑先验概率。该primary result was a proof that attempting to create a probability distribution which performs scientific induction on Π1statements, converging to probability 1 for the true versions of such statements, can create zero limiting probabilities assigned to true Π2声明。这一结果仍然被写上去,但它已经简要讨论中博客文章通过Demski。其他进步之位都在进一步发展研讨会和描述这里。
四月3日至24日,2013- 伯克利分校,加州
第二研讨会逻辑,概率,和反射
- 斯图尔特·阿姆斯特朗斯图尔特·阿姆斯特朗(牛津)
- 米哈伊Bárász米哈伊Bárász(谷歌)
- 保罗·克里斯蒂保罗·克里斯蒂(加州大学伯克利分校)
- 安德鲁·玛琳安德鲁·玛琳(博士,加州大学伯克利分校)
- 丹尼尔·杜威丹尼尔·杜威(牛津)
- Benya FallensteinBenya Fallenstein(布里斯托尔U)
- 马塞罗Herreshoff马塞罗Herreshoff(谷歌)
- 帕特里克LaVictoire帕特里克LaVictoire(U威斯康星州)
- 雅各布·斯坦哈特雅各布·斯坦哈特(斯坦福)
- 杰西卡泰勒杰西卡泰勒(斯坦福)
- 瞧出元瞧出元(加州大学伯克利分校)
- 埃利泽·尤多科斯基埃利泽·尤多科斯基(MIRI)
这个为期一周的讲习班同时处理多个开放研究的问题。金宝博娱乐首先,参与者发现的一个改进版本反射原理发现在以前的车间,虽然这种进步仍然被写上去。其次,与会者LaVictoire在早期的工作中提高,导致纸张“通过可证性逻辑程序均衡:在囚徒困境强大的合作“。第三,参与者在Benya Fallenstein的改进参数多态的方法去探对于自修改系统Löbian障碍金宝博官方。
十一月11日至18日,2012- 伯克利分校,加州
第一研讨会逻辑,概率,和反射
- 米哈伊Bárász米哈伊Bárász(谷歌)
- 保罗·克里斯蒂保罗·克里斯蒂(加州大学伯克利分校)
- 马塞罗Herreshoff马塞罗Herreshoff(谷歌)
- 埃利泽·尤多科斯基埃利泽·尤多科斯基(MIRI)
本次研讨会追求进攻的一个行上对于自修改系统Löbian障碍金宝博官方。本车间的主要结果是在真实的塔斯基不可定义的非建设性“漏洞”(经由固定点定理),后来写入了草稿形式为“真理可定义在概率逻辑”(见讨论这里,这里和这里)。