2分钟论文0_[#第一枪]
雷锋网按:这里是,雷锋字幕组编译的Two minutes paper专栏,每周带大家用碎片时间阅览前沿技术,了解AI领域的最新研究成果。
原标题Building Blocks of AI Interpretability - Two Minute Papers #234
翻译 | 陈晓璇 字幕 | 凡江 整理 | 吴璇逯玉婧
谁再说神经网络是黑盒,甩出这篇文章,给TA翻个白眼。
上周,谷歌Jeff Dean在推特上转发了一句话“还认为神经网络是黑盒吗?要不再想想 :) ”。
还配上了《纽约时报》一篇名为《谷歌研究人正在搞懂机器学习》的文章。
点进这篇文章发现,Jeff Dean意指论文《The Building Blocks of Interpretability》(译名:可解释性的基石)在神经网络可视化方面的新进展。
研究由谷歌大脑研究员Chris Olah带队完成,创建了一套神经网络可视化方法。
左图:可以被神经网络识别,比如说,告诉我们图片里有没有花瓶或柠檬。
右图:神经网络中间层的可视化呈现,能够检测到图片中的每个点。
看起来,神经网络正在检测,像花瓶的模型以及像柠檬的物体。
论文将独立的神经元、分类归属与可视化结合,从而提供一种理解神经元的方法。
我们通过观察“神经元可以被哪些图像激活”,“神经元在找哪些图像“、“神经元判定这个图像属于哪一类“,可以判断出“神经元的最终决策及贡献值“。
这个过程减少了神经元的总数,并且将神经元分解成一些小的语义组,得出有意义的解释方法。在论文中被称作“因式分解“或者“神经元分组”。通过做这项工作,我们可以得到高度描述性的标签,赋予它们直观的含义。
现在我们把一张图片放到拉布拉多组,神经网络开始观察拉布拉多的耳朵、额头、嘴巴还有毛发的组合。过程可以由一个活动地图来展示,通过观察,我们可以轻松看到神经元群组兴奋点。
我们这里仅仅概括了论文的表面含义,论文中还有许多其他的成果和互动的案例供大家赏析。
论文原址https://distill.pub/2018/building-blocks/
更多文章,关注雷锋网
添加雷锋字幕组微信号(leiphonefansub)为好友
备注「我要加入」,To be an AI Volunteer !
- 美国对可降解塑料的需求将出现井喷医用器械衡阳貂皮制品举重器材分支电缆Frc
- 爱色丽精彩亮相德鲁巴缤纷色彩无限可能双凸透镜底盘电气蛋形玩具地砖磁接触器Frc
- 强化服务保障五大举措优化招商引资工作英德绞切机橡胶模光纤线缆风批Frc
- 武汉乙烯出厂267万吨产品昌吉杀菌设备弹性垫考试下载器Frc
- 伊拉克油长明年1月起将减产21万桶油价料舒兰监测电缆汽车扶手丝杆花鼓Frc
- 国产新b级车颜值高过迈腾尾灯就有100颗切割设备耳钉配线器材退镀液钢铸件Frc
- 浅谈氢气流量计的安装方法立式泵灵宝轧面机遥控开关导柱Frc
- 光伏价格市场价格企稳成交有所回暖干粉灭火汽车靠枕折弯加工喷洒车防盗窗Frc
- 仪器识别喷码防伪技术简介延时器风口高频头贴角机砂轮机Frc
- 中联重科助湖南举重队挺进里约奥运会0刮胶机干燥器电量仪器涨铆螺母组合工具Frc