金宝博娱乐研究研讨会

柴参与者
• 约旦亚历山大约旦亚历山大（）
• 劳伦斯陈劳伦斯陈（）
• 詹姆斯排水詹姆斯排水（）
• 亚伦塔克亚伦塔克（）
• 亚历克斯特纳亚历克斯特纳（）
独立的参与者
• 亚历克斯射击亚历克斯射击（）

Miri参与者
• Alex Appel.Alex Appel.（）
• 丹尼尔Demski丹尼尔Demski（）
• 埃文Hubinger埃文Hubinger（）
• Linda Linsefors.Linda Linsefors.（）
• 亚历克斯门纳亚历克斯门纳（）
• 大卫•西蒙斯大卫•西蒙斯（）
• 亚历克斯·朱亚历克斯·朱（）

本周末研讨会从Miri和UC Berkeley汇集了研究实习生金宝博娱乐人类兼容人工智能中心(CHAI)讨论人工智能安全研究的概念基础和有待解决的问题。金宝博娱乐

• Tsvi Benson-TilsenTsvi Benson-Tilsen(美里)
• 保罗global保罗global(OpenAI)
• 安德鲁Critch安德鲁Critch（UC Berkeley）
• 魏戴魏戴(独立)
• 亚伯兰Demski亚伯兰Demski(美里)

• 以致艾圣斯特山姆以致艾圣斯特山姆(美里)
• 斯科特盖拉德坦特斯科特盖拉德坦特(美里)
• 理查德Mallah理查德Mallah(FLI剑桥语义)
• Andreas StuhlmullerAndreas Stuhlmuller(斯坦福大学)
• 杰西卡泰勒杰西卡泰勒(独立)

• 瑞安·凯里瑞安·凯里(美里)
• 劳伦斯陈劳伦斯陈(宾夕法尼亚大学)
• 迈克尔科恩迈克尔科恩(Noodle.ai)
• 莫妮卡·盖茨莫妮卡·盖茨(加州大学伯克利分校)
• 路加福音Grecki路加福音Grecki（店守）
• 丹尼尔Hendrycks丹尼尔Hendrycks（）
• 詹娜海人詹娜海人（纽约）
• 乔纳森·克劳斯乔纳森·克劳斯（）

• Robert Krzyzanowski.Robert Krzyzanowski.(伊利诺斯州大学)
• Eric LangloisEric Langlois（）
• 帕特里克LaVictoire帕特里克LaVictoire(美里)
• 霍尔顿李霍尔顿李（）
• 长欧阳长欧阳（）
• 伊桑·佩雷斯伊桑·佩雷斯(莱斯大学)
• 安东尼•罗斯安东尼•罗斯（Uber，德克萨斯州A＆M）
• Anand Srinivasan.Anand Srinivasan.(AlphaSheets麻省理工学院)
• 杰西卡泰勒杰西卡泰勒(美里)

• Alexander Appel.Alexander Appel.(内华达大学雷诺分校)
• 迈克尔·丹尼斯迈克尔·丹尼斯（UC Berkeley）
• 以致艾圣斯特山姆以致艾圣斯特山姆(谷歌)
• 马特·弗兰克马特·弗兰克（）
• 斯科特盖拉德坦特斯科特盖拉德坦特(美里)

• Juan David Gil.Juan David Gil.（麻省理工学院）
• 帕特里克LaVictoire帕特里克LaVictoire(美里)
• Lorch艾丽亚娜一直Lorch艾丽亚娜一直（Thiel Cellow）
• 伊莱Sennesh伊莱Sennesh（）
• 哈利巴塔拉特哈利巴塔拉特(谷歌)
• 亚历克斯·朱亚历克斯·朱（）

• 瑞安·凯里瑞安·凯里(美里)
• 卡梅伦更自由卡梅伦更自由（Gamalon和Borelian）
• 斯科特盖拉德坦特斯科特盖拉德坦特(美里)
• 马塞洛赫列斯果夫倍烧马塞洛赫列斯果夫倍烧(谷歌)
• 帕特里克LaVictoire帕特里克LaVictoire(美里)

• Moshe看起来Moshe看起来(谷歌)
• 杰里米·尼克松杰里米·尼克松(火花)
• Anand Srinivasan.Anand Srinivasan.（alphasheets）
• 杰西卡泰勒杰西卡泰勒(美里)
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)

• Tsvi Benson-TilsenTsvi Benson-Tilsen（UC Berkeley）
• 瑞安·凯里瑞安·凯里(美里)
• 安德鲁Critch安德鲁Critch(美里)
• 亚伯兰Demski亚伯兰Demski(南加州大学)
• 以致艾圣斯特山姆以致艾圣斯特山姆（UC Berkeley）
• Benya Fallenstein.Benya Fallenstein.(美里)

• 杰克·加拉格尔杰克·加拉格尔（）
• 斯科特盖拉德坦特斯科特盖拉德坦特(美里)
• 马塞洛赫列斯果夫倍烧马塞洛赫列斯果夫倍烧(谷歌)
• 帕特里克LaVictoire帕特里克LaVictoire(美里)
• 尼森施奈尔尼森施奈尔(谷歌)
• 杰西卡泰勒杰西卡泰勒(美里)
• 亚历克斯·朱亚历克斯·朱（麻省理工学院）

• 瑞安·凯里瑞安·凯里(美里)
• 莎拉江诗丹顿莎拉江诗丹顿（）
• 斯科特盖拉德坦特斯科特盖拉德坦特(美里)
• 马塞洛赫列斯果夫倍烧马塞洛赫列斯果夫倍烧(谷歌)

• 帕特里克LaVictoire帕特里克LaVictoire(美里)
• 威廉桑德斯威廉桑德斯(谷歌)
• 杰西卡泰勒杰西卡泰勒(美里)
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)

• 保罗global保罗global（UC Berkeley）
• 丹尼尔Filan丹尼尔Filan（UC Berkeley）
• 卡梅伦更自由卡梅伦更自由（Gamalon和Borelian）
• 迪伦哈菲尔德门尔迪伦哈菲尔德门尔（UC Berkeley）
• 维多利亚Krakovna维多利亚Krakovna(哈佛大学)

• Janos Kramar.Janos Kramar.(加拿大蒙特利尔大学)
• 帕特里克LaVictoire帕特里克LaVictoire(美里)
• 伊莲娜Luketina伊莲娜Luketina(加拿大蒙特利尔大学)
• 理查德Mallah理查德Mallah(FLI剑桥语义)
• 杰西卡泰勒杰西卡泰勒(美里)
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)

• Tsvi Benson-TilsenTsvi Benson-Tilsen（UC Berkeley）
• 安德鲁Critch安德鲁Critch(美里)
• 以致艾圣斯特山姆以致艾圣斯特山姆（UC Berkeley）
• Benya Fallenstein.Benya Fallenstein.(美里)
• 斯科特盖拉德坦特斯科特盖拉德坦特(美里)

• 帕特里克LaVictoire帕特里克LaVictoire(美里)
• 内特苏亚雷斯内特苏亚雷斯(美里)
• 杰西卡泰勒杰西卡泰勒(美里)
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)

• Mietek贝克Mietek贝克（最少固定）
• Benya Fallenstein.Benya Fallenstein.(美里)
• 杰克·加拉格尔杰克·加拉格尔(Gallabytes)
• 杰森总值杰森总值（麻省理工学院）

• Ramana Kumar.Ramana Kumar.(剑桥)
• 帕特里克LaVictoire帕特里克LaVictoire(美里)
• 丹尼尔Selsam丹尼尔Selsam(斯坦福大学)
• 纳撒尼尔·托马斯。纳撒尼尔·托马斯。(斯坦福大学)

• Holger戴尔Holger戴尔（萨尔兰大学）
• Owain埃文斯Owain埃文斯（麻省理工学院）
• Benya Fallenstein.Benya Fallenstein.(美里)
• 本杰明•福克斯本杰明•福克斯(以色列国防军)
• 帕特里克LaVictoire帕特里克LaVictoire(美里)

• 乔纳森•李乔纳森•李(剑桥)
• 本辞世本辞世(牛津大学)
• 伊莲娜Luketina伊莲娜Luketina（aalto）
• 大卫·斯坦伯格大卫·斯坦伯格马里兰(U)
• 内特苏亚雷斯内特苏亚雷斯(美里)
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)

• 佩德罗·卡瓦略佩德罗·卡瓦略(上级Tecnico研究所)
• 阿黛尔Dewey-Lopez阿黛尔Dewey-Lopez（种子平台公司）
• Benya Fallenstein.Benya Fallenstein.(美里)
• 约翰福克斯约翰福克斯(牛津大学)
• Robert Krzyzanowski.Robert Krzyzanowski.(UIC)

• 帕特里克LaVictoire帕特里克LaVictoire(美里)
• 米歇尔·赖利米歇尔·赖利（图灵公司）
• 内特苏亚雷斯内特苏亚雷斯(美里)
• 纳撒尼尔·托马斯。纳撒尼尔·托马斯。(斯坦福大学)
• 迈克尔威斯迈尔兰迈克尔威斯迈尔兰(丹尼森)
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)

• 哈斯Bhaskar哈斯Bhaskar(加州大学洛杉矶分校)
• 贾斯汀布罗迪贾斯汀布罗迪（Goucher College）
• 亚伯兰Demski亚伯兰Demski(南加州大学)
• Benya Fallenstein.Benya Fallenstein.(美里)
• 岩石Jelavić岩石Jelavić(爱立信)
• 赛斯Kurtenbach赛斯Kurtenbach(U密苏里州)
• 帕特里克LaVictoire帕特里克LaVictoire(美里)
• 肯尼斯·普雷斯特肯尼斯·普雷斯特(文艺复兴时期计算研究所)
• 杰斯里德尔杰斯里德尔(周边研究所)
• 内特苏亚雷斯内特苏亚雷斯(美里)
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)

• Manav BhushanManav Bhushan(牛津大学)
• 保罗·克罗利保罗·克罗利(谷歌)
• Benya Fallenstein.Benya Fallenstein.(美里)
• 普雷斯顿格林普雷斯顿格林(南洋理工大学)
• 杰森总值杰森总值（麻省理工学院）
• 尼克干草尼克干草（UC Berkeley）

• 维多利亚Krakovna维多利亚Krakovna(哈佛大学)
• 帕特里克LaVictoire帕特里克LaVictoire(美里)
• Jan LeikeJan Leike（澳大利亚国立大学）
• 内特苏亚雷斯内特苏亚雷斯(美里)
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)

• 莎拉江诗丹顿莎拉江诗丹顿（耶鲁）
• Benya Fallenstein.Benya Fallenstein.(美里)
• 雅各布希尔顿雅各布希尔顿(利兹大学)
• Vanessa Kosoy.Vanessa Kosoy.(Metaqube)
• Janos Kramar.Janos Kramar.（独立的）
• 帕特里克LaVictoire帕特里克LaVictoire(美里)
• Shivaram LingamneniShivaram Lingamneni（UC Berkeley）
• 奎因Maurmann奎因Maurmann(Quidsi)
• 内特苏亚雷斯内特苏亚雷斯(美里)
• 查理·施泰纳查理·施泰纳（独立的）
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)

• 以致艾圣斯特山姆以致艾圣斯特山姆(推特)
• Benya Fallenstein.Benya Fallenstein.(美里)
• 斯科特盖拉德坦特斯科特盖拉德坦特(加州大学洛杉矶分校)
• 乔治霍茨乔治霍茨(替代)
• 帕特里克LaVictoire帕特里克LaVictoire(美里)
• 埃文·劳埃德埃文·劳埃德(加州大学洛杉矶分校)
• 内特苏亚雷斯内特苏亚雷斯(美里)
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)
• Sebastien Zany.Sebastien Zany.（独立的）

• mihálybárász.mihálybárász.(谷歌)
• 保罗global保罗global（UC Berkeley）
• Benya Fallenstein.Benya Fallenstein.（布里斯托尔U）
• 马塞洛赫列斯果夫倍烧马塞洛赫列斯果夫倍烧(谷歌)
• 帕特里克LaVictoire帕特里克LaVictoire(Quixey)

• 内特苏亚雷斯内特苏亚雷斯(谷歌)
• 尼森施奈尔尼森施奈尔(斯坦福大学)
• Qiaochu元Qiaochu元（UC Berkeley）
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)

• Nate Ackerman.Nate Ackerman.(哈佛大学)
• 约翰·贝兹约翰·贝兹(加州大学河滨分校)
• 保罗global保罗global（UC Berkeley）
• Benya Fallenstein.Benya Fallenstein.（布里斯托尔U）
• 卡梅伦更自由卡梅伦更自由（麻省理工学院）
• 杰里米·哈恩杰里米·哈恩(哈佛大学)
• Wojtek MoczydlowskiWojtek Moczydlowski(谷歌)

• 米歇尔·赖利米歇尔·赖利(独立)
• 将Sawin将Sawin(普林斯顿大学)
• 内特苏亚雷斯内特苏亚雷斯(谷歌)
• 尼森施奈尔尼森施奈尔(斯坦福大学)
• 格雷戈里·惠勒格雷戈里·惠勒(LMU慕尼黑)
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)

• 斯图尔特阿姆斯特朗斯图尔特阿姆斯特朗(牛津大学)
• mihálybárász.mihálybárász.(谷歌)
• Catrin Campbell-MooreCatrin Campbell-Moore(LMU慕尼黑)
• 丹尼尔·杜威丹尼尔·杜威(牛津大学)
• Benya Fallenstein.Benya Fallenstein.（布里斯托尔U）

• 雅各布希尔顿雅各布希尔顿(牛津大学)
• Ramana Kumar.Ramana Kumar.(剑桥)
• Jan LeikeJan Leike（U Freiburg）
• BAS SteuneBrink.BAS SteuneBrink.（Idsia）
• 格雷戈里·惠勒格雷戈里·惠勒(LMU慕尼黑)
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)

• 保罗global保罗global（UC Berkeley）
• 魏戴魏戴(独立)
• 加里德雷塞尔加里德雷塞尔(独立)
• 肯尼伊斯瓦伦肯尼伊斯瓦伦(南加州大学)
• 卡梅伦更自由卡梅伦更自由（麻省理工学院）
• 帕特里克LaVictoire帕特里克LaVictoire(Quixey)
• 伊利亚肖斯特伊利亚肖斯特(U南安普顿)
• 弗拉基米尔•Slepnev弗拉基米尔•Slepnev(谷歌)
• 尼森施奈尔尼森施奈尔(斯坦福大学)
• Andreas StuhlmullerAndreas Stuhlmuller(麻省理工学院与斯坦福大学)
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)

• 安德鲁Critch安德鲁Critch（博士，UC Berkeley）
• 亚伯兰Demski亚伯兰Demski(南加州大学)
• Benya Fallenstein.Benya Fallenstein.（布里斯托尔U）
• 马塞洛赫列斯果夫倍烧马塞洛赫列斯果夫倍烧(谷歌)
• 乔纳森•李乔纳森•李(剑桥)
• 将Sawin将Sawin(普林斯顿大学)
• Qiaochu元Qiaochu元（UC Berkeley）
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)

• 斯图尔特阿姆斯特朗斯图尔特阿姆斯特朗(牛津大学)
• mihálybárász.mihálybárász.(谷歌)
• 保罗global保罗global（UC Berkeley）
• 安德鲁Critch安德鲁Critch（博士，UC Berkeley）
• 丹尼尔·杜威丹尼尔·杜威(牛津大学)
• Benya Fallenstein.Benya Fallenstein.（布里斯托尔U）
• 马塞洛赫列斯果夫倍烧马塞洛赫列斯果夫倍烧(谷歌)
• 帕特里克LaVictoire帕特里克LaVictoire(U威斯康辛州)
• 雅各布斯坦特雅各布斯坦特(斯坦福大学)
• 杰西卡泰勒杰西卡泰勒(斯坦福大学)
• Qiaochu元Qiaochu元（UC Berkeley）
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)

• mihálybárász.mihálybárász.(谷歌)
• 保罗global保罗global（UC Berkeley）
• 马塞洛赫列斯果夫倍烧马塞洛赫列斯果夫倍烧(谷歌)
• 以利以谢Yudkowsky以利以谢Yudkowsky(美里)