金宝博娱乐研究更新
- “Cirl框架中的不知形性“:Miri助理研究员Ryan Carey的一篇新论文响应Hadf金宝博娱乐ield-Menell等人。的”脱机游戏“。
- IAFF的新新手:古德哈特的诅咒三级;条件上的调理;稳定的指针值:嵌入在其自用实用程序中的代理;密度零探索;自动化系统和AGI对齐的金宝博官方难度
- Ryan Carey将Miri离开Miri与人类学院的未来与AI安全工作中的Outitue Evans的未来合作。
一般更新
- 作为他在Miri工程实习的一部分,最大危害有助于建设和延期rl-temant.,一个开源工具,用于培训具有人类反馈的AI系统,基于“金宝博官方来自人类偏好的深刻“Openai / DeepMind研究金宝博娱乐合作。看Openai的公告。
- Miri Coo Malo Bourgon参加了关于让事情完成的小组讨论(视频)在AI(视频)在旧金山的有效利他主义全球会议上。AI影响研究员Katj金宝博娱乐a Grace还谈到了AI安全(视频)。其他EAG谈论AI包括Daniel Dewey(视频)和欧文棉花巴尔特(视频)和更大的小组讨论(视频)。
- 在文学奖中宣布两个智力的获奖者:Laurence Raphael Brothers“关心家事的“和Shane Halbach的”人类在循环中“。
- 增加是一个开发在线AI对准课程材料的项目正在寻求志愿者。
新闻和链接
- 公开慈善项目正在接受申请人AI研究员计划“全力支持一小组人工智能和机器学习中最有前途的博士学生”。另见菲尔的部分列表主要研究金宝博娱乐主题在AI对齐中。
- 打电话给论文:Aaai和ACM正在举办奥地福,伦理和社会新会议,提交截至10月底截止日期。
- Deepmind的Viktoriya Krakovna争辩投资组合艾率研究方法金宝博娱乐。
- “教授AI系统表现自己金宝博官方“:来自的坚实文章纽约时报论AI安全研究的越来越多的领域。金宝博娱乐这时代还有一个开幕式对于AI的调查记者。
- UC Berkeley的长期网络安全中心是招聘对于几个角色,包括研究员,助理署长和计划经理。金宝博娱乐
- 生命3.0:Max Tegmark在AI的未来发布了一本新书(播客讨论)。