这是博客

试图存在, 但薛三无法自证

0%

论文笔记:HOW ATTENTIVE ARE GRAPH ATTENTION NETWORKS?

PDF: https://openreview.net/pdf?id=F72ximsx7C1

OpenReview:https://openreview.net/forum?id=F72ximsx7C1

ICLR 2022

1. Abstract

认为GAT是static attention,仅实现了对节点重要度的静态ranking,而未实现对不同query给出不同key的设想;提出GATv2,通过调整LeakyReLU和linear unit计算顺序,实现dynamic attention,即对不同query能给出不同key。

阅读全文 »

武汉夜雨狂泻,狂躁的雨滴砸落地面。哦不,该称之为水面了。持续一日的雨水,在柏油路上新铺一层水面。

听闻“麻豆传媒”的一个摄影团队被抓获,翻看知乎里对事件的评价,产业链的介绍、情色作品的科普。总是会错过些“艺术”,错过了汤不热时代,一如曾经错过了快播的便捷。

如今,大约大部分人已是笑贫不笑娼了。

阅读全文 »

总算考完一门硬核的试,抢下些许喘息时间。不知不觉年关又至,流水账般收集下今年尚能想起的记忆碎片吧。

试图手动统计些数据,量化将逝的2021。要是有时间,或许再来做点好看的可视化吧。

阅读全文 »

搬家的前一夜,一如往常,走进罗森。打算买两个茶叶蛋,和舍友一人一个分了——煮泡一天的蛋最为入味。却只见一锅红褐色的茶汤,蛋已售罄了。和那胖乎乎的年轻店员对视一眼,又走出店门。

大约很难再见他。

没有所谓深夜食堂的热络,夜间的便利店,默默消化着每个独身过客。

阅读全文 »

Improving Graph Neural Networks with Structural Adaptive Receptive Fields

PDF: https://dl.acm.org/doi/10.1145/3442381.3449896

Conferences: WWW '21

1. Abstract

现有GNN模型未能充分利用图结构信息,此工作提出STructural Adaptive Receptive fields (STAR-GNN),适应性地构建每个节点的感受野(receptive field)以捕获结构信息。具体贡献如下:

  • 提出基于节点结构信息来自适应调节receptive field范围STAR-GNN;
  • 将Anonymous Random Walks (ARWs)和互信息结合来捕获节点的结构信息,此外还提出针对receptive field的subgraph 聚合算子。
阅读全文 »

FLAG2021-1-马拉松gogogo

来到2021,立下今年的第一个FLAG,年内持续训练,跑下一场42.193公里的马拉松。(要是能抽中今年汉马就好了)

持续更新ing

2021-02-21开练前状态:

  • 63.5KG
  • 平均半个月跑次步,5km,配速5'45
阅读全文 »

长河无声奔去,唯爱与信念永存。

大约借贷了不少幸运,才得以有佳人相伴,赶上了这场舞剧——《永不消逝的电波》。

阅读全文 »

1.

告别伊豆时,那位“我”的脑中真的如一泓清泉流出吗,不再有舞女的身姿吗?

霍乱时期的那张黄旗,会在内河里一直飘扬吗?

阅读全文 »

借结课展示的强制力,更新 How Powerful Are Graph Neural Networks? 论文阅读笔记如下。

此工作发表于ICLR19,将GNN聚合邻居的方式与WL test做类比,理论上论证了GNN表达能力的上限为WL Subtree kernel,并根据分析提出GIN模型。论文提供了理解GNN表达能力的新思路,也启迪GNN模型架构发展的方向。

阅读全文 »