[Paper Review] Hyper Graph Neural Networks

작성자
Hyungseok Kim
작성일
2021-01-15 22:41
조회
6863
1. Topic

Hyper Graph에 대한 소개와 이를 활용한 Hyper Graph Neural Networks 방법론들을 소개


2. Overview

기존 단순 그래프에서 edge의 degree가 2였다면, Hyper Graph는 degreeless의 hyperedge 를 활용하여 고차원의 데이터 상관관계를 표현할 수 있으며, 이를 통해 simple graph 만으로 그 관계를 설명하기 어려운 관계형 데이터들을 유연하게 학습이 가능하다. Hyper Graph를 활용한 GNN을 제안한 2가지 논문을 소개한다.

3. 발표자료 및 발표영상
  • 발표 자료: 첨부파일 참고
  • 발표 영상: 업로드 예정
4. 참고자료

첨부파일 참조
전체 15

  • 2021-01-16 14:46

    최근 GCN을 읽어보고 그래프의 접근 방식에 대하여 공부를 하고 나니, Graph 분야의 세미나의 내용이 더 깊게 이해되었습니다. 본 세미나에선 일반 Graph가 아닌 Hyper Graph에 대한 내용이었으며, 이는 Edge가 무조건 하나의 노드끼리 연결되는 제약을 풀어, 하나의 엣지가 다중의 노드를 연결할 수 있도록 하는 그래프입니다. 비유적으로는 콘센트에 플러그를 직접 꽂는 1:1구조라기보다 Edge를 멀티탭으로 나타냈다고 생각할 수 있습니다. 그리고 해당하는 HyperEdge를 Multi-modal로 표현하여 다양한 관계들을 하나의 Adjacency Matrix로 담을 수 있는 장점 (지나친 Computation이 발생하는 단점도 있지만)이 있습니다. GCN의 논문 서술 형식과 같이, Chebyshev 근사식까지 진행하는 부분이 HyperGNN이며, 해당 근사실에서 K=1로 근사하는 것이 HyperGCN이라고 할 수 있습니다. 객체들간의 Dependent한 관계를 예측 / 분류에 정확히 반영하기 위한 Graph Data를 발전시켜, 관계의 다양성까지 증가시킨 HyperGraph에 대해서 안내해주셔서 감사드립니다.


  • 2021-01-19 15:48

    금일 세미나 발표는 hyper Graph를 적용한 GNN 논문 2가지에 대해 설명 주셨습니다. 본 세미나의 핵심은 hyper Graph이며 이는 일반적인 Graph와는 다르게 하나의 엣지가 다중 노드를 연결할 수 있도록 하여 고차원의 데이터 상관관계를 표현하게 하는 방법입니다. 이 방법론은 기존 아키텍처를 변경하지 않고, graph를 hyper graph로 변경하는 것만으로 어려운 관계형 데이터를 유연하게 학습하며, 연산의효율성을 확보할 수 있습니다. 따라서 오늘 설명해주신 2개의 논문은 모두 hyper graph를 구성하기 위하여 edge를 hyper edge로 통합하는 과정에 집중되어 있었던 것 같습니다. 실생활에 존재하는 그래프는 복잡성 뿐만 아니라 그 크기 때문에 일반적으로 GNN을 적용하기 어렵다는 점을 고려할 때 해당 방법론이 더 연구된다면 잘 활용될 꺼 같습니다. 좋은 발표 감사합니다.


  • 2021-01-19 21:07

    금일 발표는 "Hyper Graph Neural Networks"라는 주제로 진행되었습니다. 본 발표에서는 degreeless의 hyperedge를 활용하여 고차원의 데이터 상관관계를 표현할 수 있는 hyper graph를 활용한 논문들이 소개되었습니다. 최근 graph 분야가 빠르게 발전하며 다양하고 많은 graph neural network 관련 발표들을 세미나에서 접하고 있는데, 금일 발표에는 hyper graph라는 새로운 형태의 graph가 소개되어 관심을 가지고 발표를 청취하였습니다. 먼저 기존에 많이 접하였던 simple graph는 edge를 통해 두 node의 관계를 설명하지만, hyper graph의 hyper edge는 2개 이상의 노드를 연결하여 관계를 설명하기 어려운 관계형 데이터들을 유연하게 학습이 가능합니다. 개인적으로 발표 초반에는 처음 접하는 hyper edge의 개념을 이해하는데 어려움이 있었지만, 발표자가 예시를 통해 잘 설명해주어 잘 이해할 수 있었습니다. 더불어 이상치 탐지 분야에서 많이 사용되는 센서 데이터들도 변수간의 다양한 관계가 존재하기 때문에 해당 데이터 및 분야에도 hyper graph를 접목할 수 있을 것 같다는 생각이 들었습니다. 좋은 발표 감사합니다.


  • 2021-01-20 20:17

    이번 세미나는 하이퍼GCN에 대한 발표였습니다. Attributed network encoder는 노드간의 구조적 특징과 사용자가 가지는 attribution의 관계를 학습하게 됩니다. 일반적으로 Attribution을 원복했을 때 사용자의 정보를 잘 표현하는지 확인, 사용자간의 link prediction을 통해서 엣지가 생성여부를 통해 이상치 탐지를 하게 됩니다. 이상치 탐지를 정의하는 방법은 실제데이터에서 임의의 노드를 노이즈를 부여해 이상치를 생성하여 테스트에 해당 노드를 잘 분류하는지 확인하는 과정을 다루고 있습니다.
    일반적으로 edge는 2 degree를 가지는데 hyper edge는 가장 가까운(신호가 강한) 2개의 노드들을 연결되는 구조로 새로운 네트워크를 구성합니다. 이러한 점에 차원축소 및 과적합을 어느정도 극복한다는 점이 인상 깊었습니다. 좋은 발표 감사합니다.


  • 2021-01-21 14:35

    본 세미나에서는 hyer edge를 사용하는 hyper graph에 대하여 알아보는 시간을 가졌습니다. Hyper edge의 경우 simple edge에서 multi-hop을 고려하기 위해 들어가는 cost를 여러 노드를 한번에 연결함으로써 매우 크게 줄일 수 있다는 장점이 있습니다. 이는 graph network가 social media 혹은 DNA와 같이 node들간의 연결성이 매우 복잡한 데이터에서 많이 활용된다는 점을 볼 때 의미있는 제안이라고 생각합니다. 다만 graph network에서 사용되는 아이디어들을 역으로 vision이나 nlp task에 적용하는 경우를 찾기가 어렵고, 우리가 흔히 접하는 문제들을 graph로 푸는 연구도 많지 않음을 고려해 볼 때 이러한 좋은 아이디어를 어떻게 내가 마주하고 있는 문제에 적용해 볼 것인지에 대한 고민이 필요하지 않을까 생각하였습니다.


  • 2021-01-24 15:18

    이번 세미나에서는 hyper-edge를 사용하는 HyperGCN에 대한 내용을 접했습니다. 일반 GCN의 경우 엣지 하나가 노드 두개의 관계를 표현하는 데 그치지만 hyper-edge는 둘 이상의 여러 노드의 관계를 표현할 수 있다고 합니다. 하나의 hop으로 표현하기 어려운 고차원적인 관계를 multi-hop으로 표현한다고 알고 있는데, hyper-edge를 사용하게 된다면 굳이 multi-hop이라는 연산적 부담이 드는 관계 표현 대비 훨씬 효율적이고 유연한 도구를 사용할 수 있게 되는 것이라고 이해했습니다. 여러 CNN 모델을 사용하지 않더라도 feature에 대해 풍부한 표현을 할 수 있는 다차원 커널과 유사한 점이 있지 않을까 생각이 들었고, 그래프 분야가 아직 낯설지만 HyperGCN과 같이 점차 복잡도나 효율성을 개선하는 모델이 많이 등장하고 있는 것으로 보아 앞으로 더욱 많은 task에 중요한 역할을 할 것 같습니다. 좋은 발표 감사합니다.


  • 2021-01-28 12:11

    본 세미나에서 소개해주신 hyper graph는 통상적인 그래프와 달리 edge가 node간의 1:1 대응관계가 아닌 여러 개의 node를 포함할 수 있도록 합니다. 이를 통해 데이터를 구성하는 노드들의 관계를 더욱 고차원적으로 표현할 수 있게 됩니다. 처음 보는 개념이어서 처음에 조금 헷갈렸는데 발표자료를 굉장히 직관적으로 잘 만들어주셔서 쉽게 이해할 수 있었습니다. hyper graph는 다양한 관계를 표현할 수 있다는 특징으로 인해 한 개의 adjacency matrix만으로 계산이 가능하기에 효율적인 연산이 가능하다고 합니다. 아무래도 기존의 그래프만으로는 실제 데이터를 완전히 표현할 수 없기에 hyper graph를 활용한 연구가 점점 더 많아지지 않을까 하는 생각이 듭니다. 좋은 주제를 소개해주셔서 감사합니다!


  • 2021-01-28 16:40

    이번 세미나는 Hyper Graph Neural Network를 주제로 진행되었습니다.기존 그래프가 가지는 구조와 달리 Hyper graph는 각 노드의 연결성을 표현해주기위해 edge가 2개 이상의 node에 걸쳐 표현되어있습니다. 사실 동일한 노드를 가지고 여러가지 데이터 타입으로 구분한 후 Hyperedge group으로 표현하는 것이 잘 이해되지 않았는데, 특정 데이터셋이 다양한 관계들을 가질 수 있다는 점에서부터 Hypergraph의 정의가 시작된다는것을 알 수 있었습니다. 하지만 한편으로는 너무 다양한 관계들을 고려해주다보면 하나의 노드가 고유한 특징을 잃지않을까 하는 궁금증도 생겼습니다. 연구실에서 Graph 관련한 세미나가 많이 진행되었지만 실제로 Graph domain을 제대로 이해하기 위해서는 추가적인 공부가 필요할 것 같습니다. 데이터를 Graph로 표현하면 굉장히 많은 이점이 있다고 생각하는데, 추후에 이런 관계들을 최적화와 연결지어 적용해도 재미있을 것 같다는 생각이 들었습니다. 감사합니다 !


  • 2021-01-29 16:55

    금일 세미나는 hypergraph neural network 에 대한 논문에 대한 소개로 진행되었습니다. 데이터 간의 관계는 pairwise 보다 복잡하므로 기존 GCN 구조로 데이터를 모델링하기 어렵다는 한계점이 있습니다. 이에 hyergraph 를 사용하고자 했는데, hypergraph 는 degreeless hyperedge 를 활용하기 때문에 고차원의 상관관계를 표현할 수 있습니다. 하지만 단순 hypergraph GNN 은 clique 형태로 고정된 형태의 그래프만 활용이 가능하기 때문에 HyperGCN 이 등장하게 되었습니다. 이 모델을 활용하면 보다 유연하고, 효율적 연산을 통해 hyperedge 를 정의하는 것이 가능합니다. 최종적으로 HyperGCN 을 활용한 SSL 방법이 가능합니다. graph 모델들의 특징과 한계점에 대해 포인트를 짚어주며 여러 모델을 설명해주셔서 흐름을 이해하는 데에 좋았습니다. 좋은 발표 감사합니다.


  • 2021-01-30 02:40

    Hypergraph는 소셜네트워크처럼 단순한 그래프 구조로 모델링하기 어려운 상황에서 활용될 수 있는 구조입니다. 이는 연결된 이웃 노드의 특징을 고려하여 multimodal feature를 반영할 수 있다는 특징이 있습니다. 소개해주신 논문인 HyperGCN은 앞선 hypergraph의 형태로 복잡한 그래프 구조의 데이터를 학습시키되 GCN에 접목한 방법론입니다. Hypergraph의 특징 중 인접한 edge가 아닌 2개 이상의 노드를 연결할 수 있다는 것이 직관적으로 이해가 되지 않았는데, latent한 관계나 unlabeled node를 연결할 때 유용하게 사용될 것 같다는 생각도 들었습니다. 조금 확장하여 kernel mapping과도 연관이 있지 않을까 싶습니다.


  • 2021-01-31 23:20

    이번 세미나는 발표자께서 지난번 세미나에서 마지막에 소개해주신 hyper graph에 대한 내용으로 진행되었습니다. 기존의 graph에서 매우 고차원의 degree를 가지게 되면 연산이 어려워지는 등의 문제를 해결하고자 여러 degree를 한번에 표현할 수 있는 hyper edge 개념을 도입한 것이 hyper graph입니다. hyper graph로 표현하게 되면 multi-hop 연산 없이 adjancency matrix 하나만으로도 node들 사이의 복잡한 관계를 표현할 수 있다는 장점이 있어 매우 복잡한 관계형 데이터의 연산에 있어서 계산 복잡도의 큰 이득을 볼 수 있을 것 같습니다. 이러한 형태의 graph를 위해 제안된 모델인 HyperGCN은 단순히 기존의 graph의 clique단위로 hypergraph가 아닌, hypergraph laplacian을 이용해 hyperedge를 정의함으로써 연산의 효율성을 높였습니다. 발표자님 덕분에 그래프 관련하여 항상 많이 배우고 있습니다. 좋은 발표 감사합니다.


  • 2021-02-02 23:36

    발표자는 이번 세미나에서 HyperGraph Neural Network(HyperGNN)와 Hypergraph Convolutional Network(HyperGCN)에 대하여 설명해주셨습니다.
    우선 HNN은 edge의 degree가 2인 기존 단순 그래프가 아닌, degree에 제약없이 고차원의 데이터 상관관계를 표현할 수 있는 hypergraph를 사용하게 됩니다. 실제로 현실에서의 데이터간의 관계는 단순한 쌍(pair)인 관계보다 복잡하므로 기존 구조로 데이터를 모델링하기 어렵다는 한계점이 있었는데 hypergraph는 이러한 장벽을 부숴버린 느낌이었습니다.
    하지만, 단순 HyperGNN 은 clique 형태로 고정된 형태의 그래프만 활용이 가능하기 때문에 HyperGCN 이 등장하게 되었습니다. 이 모델을 활용하면 기존 fixed된 graph clique단위가 아닌 hypergraph laplacian을 통해 hyperedge를 정의하고 이를 통해 연산의 효율성을 확보하는 것이 가능해집니다. 시간의 흐름에 맞춰서 Graph 모델들의 장점과 한계점에 대해 설명해주시면서 발표를 진행해주셔서 흐름을 이해하는 데에 좋았습니다. 좋은 발표 감사합니다.


  • 2021-02-08 13:37

    이번 세미나에서는 degree가 정해해지지 않은 hypergraph에 대한 세미나였습니다. Hypergraph를 사용하여 고차원의 상관관계를 표현할 수 있고 단순 그래프만으로 설명하기 어려운 관계형 데이터에 대해 설명 가능하게 만듭니다. 또한 GCN등 기존의 그래프를 활용하면 계산 복잡도 측면에서 단점이 불가피했지만 hypergraph를 통하여 multi-hop연산 없이 adjacency matrix 하나만으로 node들 사이의 복잡한 관계를 표현할 수 있었습니다.
    각 그래프에서의 특징들을 hypergraph에서 적용하는 방법도 구체적으로 익힐 수 있었고 노드들 간의 연결성을 포함한다는 그래프만의 장점과 계산 복잡도를 해결한다는 점을 합하여 hypergraph를 통한 발전이 기대되며 이에 대해 소개해주셔서 감사합니다.


  • 2021-02-08 15:00

    이번 세미나에서는 두개 이상의 Node 간의 연결을 Hyper Edge로 표현하여 Graph Neural Network를 수행하는 Hypergraph Neural Network 논문에 대해 소개해 주셨습니다. 해당 논문에서는 Data Type에 따라 다수의 Hyper Graph를 생성하고, 이를 Concat하여 Feature를 형성한 뒤, Graph Neural Network를 적용합니다. 해당 구조를 이용하여 단순 Simple Graph만으로 그 관계를 설명하기 어려운 데이터들을 잘 표상할 수 있음을 확인할 수 있었습니다. 추가적으로 Hyper Graph를 이용하여 GCN을 수행한 논문을 소개해 주셨는데, 개인적으로는 어려운 개념이었지만, 상세한 설명을 통해 조금 수월하게 이해할 수 있었습니다. 좋은 발표 감사합니다.


  • 2021-02-09 06:27

    이번 논문 세미나는 hyper graph 의 구성을 통한 기존 GCN 에서의 문제점을 해결하고자 하는 방법론을 설명해 주었습니다. GCN 의 가장 큰 문제점 중 하나는 Multi hop 에 대한 정보를 반영해야 더 많은 정보를 담는 representation 이 될 수 있으나, 반대로 GCN 의 특성상 Over-smoothing 문제를 야기합니다. 이런 부분을 관계를 몇가지 cluster 와 유사한 개념인 hyper edge 로 연결되는 그룹을 생성하게 되고, 이 그룹상의 연결은 가능함을 전제로 시작합니다. hyper graph 의 특수한 case 가 bi-partite grpah 인데, 최근 제가 연구하고 있는 분야인 hetero graph 에서도 hyper graph 적용 논문들이 많이 나오고 있습니다. 상당히 관심있던 주제였는데, 좋은 발표를 통해서 어떻게 문제를 해결 해 나가고, 기존 방식과의 차이점을 알게 되어 유익한 시간이였습니다. 감사합니다.


전체 506
번호 제목 작성자 작성일 추천 조회
공지사항
Paper Reviews 2019 Q3
관리자 | 2020.03.12 | 추천 0 | 조회 10590
관리자 2020.03.12 0 10590
공지사항
Paper Reviews 2019 Q2
관리자 | 2020.03.12 | 추천 0 | 조회 9186
관리자 2020.03.12 0 9186
공지사항
Paper Reviews 2019 Q1
관리자 | 2020.03.12 | 추천 0 | 조회 10303
관리자 2020.03.12 0 10303
503
[Paper Review] Restructuring Vector Quantization with the Rotation Trick (6)
Woojun Lee | 2025.05.20 | 추천 0 | 조회 82
Woojun Lee 2025.05.20 0 82
502
[Paper Review] Battling the Non-stationarity in Time Series Forecasting via Test-time Adaptation (8)
Jinwoo Park | 2025.05.16 | 추천 0 | 조회 95
Jinwoo Park 2025.05.16 0 95
501
[Paper Review] SD-LoRA: Scalable Decoupled Low-Rank Adaptation for Class Incremental Learning (9)
Hun Im | 2025.05.15 | 추천 0 | 조회 94
Hun Im 2025.05.15 0 94
500
[Paper Review] AA-CLIP: Enhancing Zero-Shot Anomaly Detection via Anomaly-Aware CLIP (16)
Junyeong Son | 2025.05.08 | 추천 0 | 조회 208
Junyeong Son 2025.05.08 0 208
499
[Paper Review]SLMREC: Distilling Large Language Models Into Small For Sequential Recommendation (15)
Doyoon Kim | 2025.05.01 | 추천 0 | 조회 186
Doyoon Kim 2025.05.01 0 186
498
[Paper Review] TimeXer: Empowering Transformers for Time Series Forecasting with Exogenous Variables (18)
Sunghun Lim | 2025.04.24 | 추천 0 | 조회 342
Sunghun Lim 2025.04.24 0 342
497
[Paper Review] Imputation-based Time-Series Anomaly Detection with Conditional Weight-Incremental Diffusion Models (17)
Suyeon Shin | 2025.04.21 | 추천 0 | 조회 237
Suyeon Shin 2025.04.21 0 237
496
[Paper Review] Revisiting Multimodal Fusion for 3D Anomaly Detection from an Architectural Perspective (15)
Woongchan Nam | 2025.04.16 | 추천 0 | 조회 229
Woongchan Nam 2025.04.16 0 229
495
[Paper Review] Your Large Vision-Language Model Only Needs A Few Attention Heads For Visual Grounding (17)
Kiyoon Jeong | 2025.04.16 | 추천 0 | 조회 483
Kiyoon Jeong 2025.04.16 0 483
494
[Paper Review] Reasoning over Time Series with LLMs (16)
Hyeongwon Kang | 2025.04.09 | 추천 0 | 조회 500
Hyeongwon Kang 2025.04.09 0 500

Data Science & Business Analytics Lab.
Department of Industrial Engineering, College of Engineering,
Seoul National University

Contact Us

  • 강필성 교수 (pilsung_kang@snu.ac.kr)
    서울특별시 관악구 관악로 1 서울대학교 공과대학 39동 301호 
  • 대학원 연구실 (총무 허재혁 : jaehyuk.heo@snu.ac.kr)
    서울특별시 관악구 관악로 1 서울대학교 공과대학 39동 411호