“到目前为止我所目前的估计,现在我们已经AlphaGo和其他几个可能/也许不是在船头,和看到一个巨大的爆炸的努力投入到机器学习和一个巨大的洪水的论文,我们可能会占据我们目前的认知状态,直到非常接近尾声。
“很难猜测AGI还需要多少进一步的了解，或者需要多长时间才能达到这些了解。在下一次突破之后，我们仍然不知道还需要多少突破，这让我们几乎处于与之前相同的认知状态。你可以不顾一切地行动，也可以不行动。在最好的情况下，不采取行动，无法提供太多帮助;一般情况下，在基本结束之前不要采取任何行动。”
详见Eliezer Yudkowsky的一篇新博客文章:人工通用智能没有火警”(讨论LessWrong 2.0，黑客新闻.）
金宝博娱乐研究更新
- 新的研究金宝博娱乐报告和讨论:论人类决策理论中的世界末日之争;吸烟损伤
- 新AI影响:ML研究者认为你错在哪金宝博娱乐里?，研究人员认为什么时候特金宝博娱乐定任务会自动完成?
一般更新
- ”部落主义是一种自然现象吗?”:鹦鹉螺讨论了MIRI在决策理论、超理性和囚徒困境方面的工作。
- 我们帮助运营了2017年人工智能暑期研究员计划在应用理性中心任教，并在欧洲理性暑期课程．
- 我们很高兴地宣布，我们收到了10万美元的拨款来自伯克利生存风险倡议还有让·塔林，还有三万多美元为有效的奉献而筹款和一个承诺55000美元的扑克之星通过注册。我们将在12月的筹款活动之前提供更多关于我们的筹款情况的信息。
- LessWrong目前正在为一个网站的重新设计进行公开测试lesswrong.com;看到奥利弗Habryka帐面价值的策略．
新闻和链接
- 希拉里•克林顿(Hillary Clinton)和弗拉基米尔•普京(Vladimir Putin)声音担心人工智能技术的影响。
- 生命的未来研究所讨论了丹·维尔德的工作可辩解的人工智能．
- 金宝博娱乐OpenAI和牛津发布的研究人员有对手学习意识的学习，这是一种RL算法，它考虑了自己的策略选择如何改变其他代理的策略，从而在一些简单的多代理设置下实现协作行为。
- 人类未来研究所的卡里克·弗林说道:对人工智能政策与战略职业生涯的个人思考．
- 古德哈特的夺:古德哈特定律与人类心理学的讨论。
