Miri研金宝博娱乐究员Evan Hubinger评论“11在当前机器学习范式下建立安全高级AI的不同建议“,将它们与外部对准进行比较,内部对准那培训竞争力和绩效竞争力。
其他更新
- 我们一直受到支持的新节目的惊讶最后的二公告,Miri从另一个匿名捐赠者捐赠了捐赠率〜265,000美元的欧元,促进有效给英国和有效的利他主义基础。由于捐助者为他们的慷慨而大规模,以及两种组织对Miri和其他长者组织的恒星支持!
- 黑客新闻讨论Eliezer YudkowskyAGI没有火警。
- Miri研金宝博娱乐究员Buck Shlegeris会谈尊重和内部视图模型在EA论坛上。
- Openai.推出GPT-3,一个大规模的175-十亿参数语言模型可以弄清楚如何解决多种问题而没有特定于特定的培训或微调。Gwern Branwen的精辟概括:
GPT-3是可怕的,因为它是一个微小的模型,而是与可能的,以最缺乏的方式训练在一个小型数据上的单一贫困的方式上训练,但第一个版本已经表现出疯狂的运行时元学习 - 和缩放曲线仍然不是弯曲!
进一步讨论by branwen.和罗滨莎。
- Stuart Russell在线赋予今年的图灵讲座,讨论“可怕的利益ai“。