OpenAI推出显微镜以可视化流行机器学习模型中的神经元

《OpenAI推出显微镜以可视化流行机器学习模型中的神经元》

OpenAI发布了Microscope,这是一个神经元可视化库,从九个流行的或重度神经网络开始。总而言之,该集合包含数百万张图像。显微镜可以像实验室中的显微镜一样工作,可以帮助AI研究人员更好地理解具有成千上万个神经元的神经网络的结构和行为。

显微镜的初始模型包括历史上重要且经过广泛研究的计算机视觉模型,例如AlexNet(2012年已退休的ImageNet挑战赛冠军)。AlexNet在研究中被引用了50,000次以上。2014年还有ImageNet赢家GoogleNet(又名Inception V1)和ResNet v2。每种模型可视化都带有一些场景,并且图像在OpenAI Lucid库中可用,可以在 Creative Commons许可下重复使用。

《OpenAI推出显微镜以可视化流行机器学习模型中的神经元》

“尽管我们对有兴趣探索神经网络如何工作的任何人都可用,但我们认为主要价值在于提供持久的共享工件以促进对这些模型的长期比较研究。我们还希望,具有相邻专业知识的研究人员(例如神经科学)能够在更轻松地处理这些视觉模型的内部工作中找到价值,” OpenAI在显微镜网站上说

OpenAI在今天上午介绍显微镜的博客文章中表示,希望显微镜将通过了解神经元之间的连接,为电路协作工作做出贡献,以对神经网络进行逆向工程。

除了显微镜的神经元可视化之外,近年来的一些工作还试图可视化机器学习模型的活动。

Facebook的Captum于去年秋天推出,使用可视化来解释机器学习模型做出的决策,而在2019年3月,OpenAI和Google发布了激活地图集技术,以可视化机器学习算法做出的决策。训练机器学习模型时,还有流行的TensorBoard工具用于可视化。

点赞

发表评论

您的电子邮箱地址不会被公开。 必填项已用*标注