第一位出场的是19级的王杨,他此次为大家分享的是一篇名为《Exploring Randomly Wired Neural Network for Image Recognition》的论文,这篇论文主要介绍了一种探索随机连线神经网络用于图像识别的方法。

王杨同学在ppt的开头对论文大纲做了一个简单的介绍,首先介绍了NAS原理是给定一个称为搜索空间的候选神经网络结构集合,用某种策略从中搜索出最优网络结构,进行性能评估。

接着王杨同学指出论文提到的早期的CNN大都是链式结构, 再后面,随着像ResNet,DenseNet,Skip connection这样的多叉结构的出现,NAS中也开始考虑多叉结构,这样就增大了组合的自由度可以组合出更多样的结构。同时王杨同学介绍了ER,BA,WS随机图像模型,并介绍了经典的WS模型生成的随机有线神经网络,指出三种随机网络实例在与ResNet-50计算预算相近的情况下,在ImageNet上分别实现(从左到右)79.1%、79.1%、79.0%的分类准确率,准确率为77.1%。

三种随机网络实例

 

第二位展示的同学为19级的顾天一,顾天一同学给大家分享的是一篇名为《Link Prediction via Subgraph Embedding-Based Convex Matrix Completion》的论文,该论文介绍了一种全新的表示学习形式的链接预测,其创新点在于首次将子图嵌入与凸矩阵完备化的思想结合起来,用于学习网络表示。

顾天一在seminar的开头提出了一个问题——为什么要在链路预测中使用到子图嵌入?他随后解释道,子图嵌入首先是在图分类,克隆检测和恶意软件检测的背景下提出的,并且在这些任务中取得了成功,如今该论文也将这个想法应用到链接预测的任务中,并将依靠新颖的技术来学习嵌入。

在介绍论文的相关工作时,顾天一提出了三类通常意义上的链路预测方法,并逐一剖析了这些方法之间的差异和机理,由此引出了论文的核心方法——SEMAC Method。

SEMAC是一种基于表示的链接预测方法。最近,node2vec方法表现优于传统的链路预测方法,在许多链路预测数据集上的效果提升10%。 SEMAC继续这一探索,提出了一种新颖的表示模型,它可以跨越一系列异构数据集,大大改进了node2vec,DeepWalk和GraRep等方法,从而推进了最先进的技术。

SEMAC Method

SEMAC是通过学习节点的表示,努力捕获网络中节点的更多相关属性和信号,利用人类工程特性可能忽略的更微妙的线索。

以下为SEMAC算法整体流程的节选部分:

SEMAC Method-Algorithm 1

在介绍完数据集和实验的具体流程后,顾天一向大家表明了该论文核心算法性能十分优越的结论——SEMAC,捕获每个节点周围网络结构的丰富信息,基于学习子图嵌入的思想,并且依赖于基于核规范化的矩阵完成。对来自不同领域的一系列异构数据集的实验表明了该方法的有效性。

 

以下是王杨、顾天一同学在这次seminar中的表现评分。