把问题留在这里,时时回顾思索吧。
GNN-GATv2
论文笔记:HOW ATTENTIVE ARE GRAPH ATTENTION NETWORKS?
PDF: https://openreview.net/pdf?id=F72ximsx7C1
OpenReview:https://openreview.net/forum?id=F72ximsx7C1
ICLR 2022
1. Abstract
认为GAT是static attention,仅实现了对节点重要度的静态ranking,而未实现对不同query给出不同key的设想;提出GATv2,通过调整LeakyReLU和linear unit计算顺序,实现dynamic attention,即对不同query能给出不同key。
BOOK-07-工作消费主义和新穷人
武汉夜雨狂泻,狂躁的雨滴砸落地面。哦不,该称之为水面了。持续一日的雨水,在柏油路上新铺一层水面。
听闻“麻豆传媒”的一个摄影团队被抓获,翻看知乎里对事件的评价,产业链的介绍、情色作品的科普。总是会错过些“艺术”,错过了汤不热时代,一如曾经错过了快播的便捷。
如今,大约大部分人已是笑贫不笑娼了。
MSL-16-匆匆2021又一年
总算考完一门硬核的试,抢下些许喘息时间。不知不觉年关又至,流水账般收集下今年尚能想起的记忆碎片吧。
试图手动统计些数据,量化将逝的2021。要是有时间,或许再来做点好看的可视化吧。
MSL_15_夜与便利店
搬家的前一夜,一如往常,走进罗森。打算买两个茶叶蛋,和舍友一人一个分了——煮泡一天的蛋最为入味。却只见一锅红褐色的茶汤,蛋已售罄了。和那胖乎乎的年轻店员对视一眼,又走出店门。
大约很难再见他。
没有所谓深夜食堂的热络,夜间的便利店,默默消化着每个独身过客。
GNN_STARGNN_Adaptive感受野
Improving Graph Neural Networks with Structural Adaptive Receptive Fields
PDF: https://dl.acm.org/doi/10.1145/3442381.3449896
Conferences: WWW '21
1. Abstract
现有GNN模型未能充分利用图结构信息,此工作提出STructural Adaptive Receptive fields (STAR-GNN),适应性地构建每个节点的感受野(receptive field)以捕获结构信息。具体贡献如下:
- 提出基于节点结构信息来自适应调节receptive field范围STAR-GNN;
- 将Anonymous Random Walks (ARWs)和互信息结合来捕获节点的结构信息,此外还提出针对receptive field的subgraph 聚合算子。
FLAG2021-1-马拉松gogogo
FLAG2021-1-马拉松gogogo
来到2021,立下今年的第一个FLAG,年内持续训练,跑下一场42.193公里的马拉松。(要是能抽中今年汉马就好了)
持续更新ing
2021-02-21开练前状态:
- 63.5KG
- 平均半个月跑次步,5km,配速5'45
MSL-13-不谈风月
GNN_利用边信息
Abstract:
当前GNNs主要利用了节点特征,忽略了边上信息。本笔记对GNNs中利用边信息的方式进行小结。
GNN_GIN论文笔记
借结课展示的强制力,更新 How Powerful Are Graph Neural Networks? 论文阅读笔记如下。
此工作发表于ICLR19,将GNN聚合邻居的方式与WL test做类比,理论上论证了GNN表达能力的上限为WL Subtree kernel,并根据分析提出GIN模型。论文提供了理解GNN表达能力的新思路,也启迪GNN模型架构发展的方向。