이번 세미나에서는 knowledge graph construction의 subtask들과 GraphRel : Joint Entity and Relation Extraction이라는 논문에 대해 다루었습니다. 세미나를 듣기 전에는 knowledge graph를 만드는 것이 하나의 task라고 생각했었는데, Named Entity Recognition, Knowledge Graph Completion 등의 다양한 subtask들로 구성되어 있다는 것을 알게 되었습니다. 또한 각각의 subtask들이 knowledge graph construction에서 어떤 역할을 하는 것인지 예시를 통해 차근차근 설명해주셔서 쉽게 이해할 수 있었습니다. 본 세미나에서 다룬 GraphRel이라는 모델은 2-phase로 구성된 모델인데, phase 1에서는 entity와 relation간의 관계를 학습하고, phase 2에서는 phase 1을 활용하여 entity extraction과 relation extraction을 수행하는 구조로 되어 있고 각각의 과정에서 bi-lstm과 bi-gcn을 사용하였습니다. 2019년에 나온 논문인만큼 간단한 구조를 보이고 있지만 당시에는 knowledge graph에 deep learning을 적용한 논문이 거의 없었기 때문에 의미를 갖는 논문이라고 할 수 있습니다. 최근에는 LLM의 발달으로 인해 knowledge graph에서 수행하는 task들을 LLM이 거의 수행할 수 있는 것 같지만, 그럼에도 불구하고 entity간의 관계 파악이 중요한 task에는 knowledge graph가 중요하게 활용될 수 있을 것 같다는 생각이 들었습니다. 좋은 발표 감사합니다!

이번 세미나에서는 2019년에 발표 된 GraphRel: Modeling Text as Relational Graphs for Joint Entity and Relation Extraction에 대해 다뤄주셨습니다. 본 방법론 설명에 앞서 놀리지 그래프를 만드는 전반적인 방법에 집중을 하여 설명을 해주셨기에 조금 더 수월한 이해가 가능했던 것 같습니다. 본 논문은 entity extraction과 relation extraction을 동시에 시도한 초창기 모델로 2단계의 Phase를 통해 Entity와 relation의 관계를 반영하고자 하였으며 Bi-LSTM과 Bi-GCN을 이용하여 시간적 정보, 공간적 정보를 학습하고자 하였습니다. 다소 오래된 논문이기에 현재의 방법론과 비교해 본다면 차이점, 개선점들이 존재 하지만 2-phase 구조를 통해 entity와 relation 사이의 관계를 학습하고, 이를 활용하여 entity extraction과 relation extraction을 수행하는 점이 여전히 눈여겨 볼 점이라고 생각합니다. 좋은 발표 감사합니다.

이번 세미나는 Knowledge graph 데이터 구축을 주제로 진행되었습니다. 기본적으로 세 가지 요소 subject-relation-object 가 하나의 샘플로 구성되는데 이를 위해 NER, Relation Extraction, Coreference Resolution 등의 자연어처리 알고리즘 들이 필수적으로 선 적용되곤 합니다. 이 과정에서 아시다시피 딥러닝 모델들이 활용되어 자동 분류가 가능할 수 있도록 합니다. Knowledge Graph로 수행할 수 있는 대표적인 과업으로 Entity prediction, Relation prediction, Link prediction 등이 있습니다. 이 과업들은 Knowledge Graph가 불완전하다는 불변적인 속성으로 인해 이를 해소하기 위한 것으로도 볼 수 있고 이러한 시도를 모두 Knowledge Graph Completion 이라고 불립니다. 이로써 기존의 Knowledge Graph 보다 더 확장된 그래프를 구축할 수 있게 됩니다. 소개해주신 방법론 GraphRel은 이중에서도 relation path reasoning, 즉 relation의 관계들을 고려하여 새로운 그래프의 일부가 형성될 수 있도록 합니다. 발표자분께서도 언급하신 것 처럼 이는 삼단추론의 모습과 비슷한 모습이기도 합니다. 개인적으로 자연어처리 과업을 그래프로 수행하는 연구에 관심이 많기에 Knowledge Graph 관련 연구도 늘 흥미가 느껴집니다. 재미있는 주제의 발표 감사합니다.

본 세미나에서는 Knowledge Graph Construction에 대한 소개와 GraphRel: Modeling Text as Relational Graphs for Joint Entity and Relation Extraction라는 주제의 논문에 대한 리뷰를 진행하였습니다. Knowledge Graph Construction에서는 Knowledge Graph Construction의 다양한 subtask인 Named Entity Recognition, Relation Extraction, Event Extraction, Entitiy Linking, Coreference Resolution, Knowledgr Graph Completion에 대한 리뷰를 진행하였습니다. 많은양의 subtask를 세미나에서 다뤘는데, 핵심만 잘 집어서 설명해 주셔서 전반적인 흐름을 쉽게 이해할 수 있었습니다. 또한 GraphRel은 Entity & relation extraction task에서 deep learning model을 적용하였습니다. 해당 논문 이전의 방법론들의 경우 Entity extraction과 relation extraction을 별도로 수행하였는데, 본 논문에서 최초로 Entity와 relation의 extraction을 동시에 진행하였습니다. Entity와 relation 사이의 관계를 활용할 수 있다는 점에서 좋은 시도였다고 판단됩니다. 2019년에 나온 비교적 예전 논문이지만, 아이디어 자체는 굉장히 좋았다는 생각이 들었고 해당 구조를 조금 더 발전 시키는 것도 좋은 연구주제가 될 것이라고 생각합니다. 좋은 발표 감사합니다!

이번 세미나에서는 knowledge graph construction을 주제로 GraphRel: Joint Entity and Relation Extraction라는 논문 소개가 있었습니다. 먼저 knowledge graph 구축 과정과 subtask들에 대해 단계적으로 자세히 설명해주셔서 개념 이해에 큰 도움이 됐습니다. GraphRel은 Entity Extraction과 Relation Extraction을 동시에 end-to-end 딥러닝 모델(Bi-LSTM, GCN)로 설계하였으며 2 phase 구조로 entity와 relation의 관계를 모델링합니다. 다소 베이직한 방법론이었지만, 해당 주제로 연구를 할 때 본 세미나가 좋은 레퍼런스가 될 것 같습니다. 흥미로운 발표 감사합니다.

이번 세미나는 Knowledge Graph를 구축하는 방법이라는 큰 틀에서 진행되었습니다. 자연어처리 관련 연구들을 읽다 보면 Knowledge Graph라는 용어를 종종 마주쳐, Knowledge Base와 비슷한 역할을 하지만 구조적으로 다른 것이라는 막연한 이해에 머물렀었습니다. Knowledge Graph의 형태와 생성 방법을 알지 못했는데 이번 세미나에서 이에 대해 자세히 설명해주셔서 흥미롭게 들을 수 있었습니다. Knowledge Graph를 구축하기 위해 NER, Relation Extraction 등의 여러 Subtask들이 수반된다는 것이 각 Subtask의 내용을 생각하면 직관적으로 이해가 되면서도 한편으로는 너무 많은 작업이 필요한 것이 아닌가라는 의문이 들기도 했습니다. 세미나 중반까지 Knowledge Graph를 구축하는 전반적인 과정(Subtasks)을 소개해주신 후, 이러한 Subtask들 중에서 Entity & Relation Extraction에 Bi-LSTM과 GCN을 적용해 End-to-End로 수행한 연구인 GraphRel: Modeling Text as Relational Graphs for Joint Entity and Relation Extraction을 다뤄주셨습니다. 해당 방법론은 2-Phase 구조를 이용해, 첫 번째 단계에서는 Entity와 Relation 사이의 관계를 학습하고, 두 번째 단계에서는 첫 번째 단계를 통해 얻은 결과를 활용해 Entity & Relation Extraction을 수행합니다. 이번 세미나를 통해 Knowledge Graph와 관련된 핵심적인 내용들을 들을 수 있어서 개인적으로 감사한 발표였습니다. 또한 Knowledge Graph를 구축하는 과정을 설명해주실 때 예시를 통해 각 Subtask 별로 설명을 해주셔서 이해에 많은 도움이 되었습니다. 좋은 발표 감사드립니다.

이번 세미나에서는 Knowledge Base & Knowledge Graph를 주제로 소개해 주셨습니다. Knowledge Graph를 형성함에 있어 하위 subtask는 다음과 같이 정리할 수 있습니다. 첫째로는 고유명사와 같은 entity로 명명하는 Named Entity Recognition (NER)이 있고, entity 쌍 사이의 관계를 찾아내는 Relation Extraction (RE) task, 동일 entity이나 다르게 표현된 phrase들을 찾고 이 entity를 표현하는 mention을 연결해주는 Conference Resolution task, entity 또는 관계 또는 node간 비워있는 edge를 예측하는 Knowledge Graph Completion task 등이 있습니다. 다음으로 GraphRel에서는 2 phase 구조를 이용하여 entity와 relation 간의 관계를 학습하고, entity extraction과 relation extraction을 수행하고 있습니다. GraphRel 은 2-phase 구조를 이용하여 phase 1에서는 entity와 relation 사이의 관계를 학습하고, phase 2에서는 이를 이용하여 entity extraction과 relation extraction을 수행하게 됩니다. Phase 1에서는 양방향 graph convolutional network를 통해 node간 regional feature를 학습합니다. Phase 2에서는 relation-weighted graph를 이용하게 됩니다. survey 논문부터 메인 논문까지 하여 자료를 매우 꼼꼼하게 준비하신 점이 인상적이었습니다. 좋은 발표 감사합니다!

이번 세미나는 Knowledge Graph Construction을 주제로 KG를 생성하는 다양한 방법론을 살펴보았습니다. KG는 기존의 자연어 데이터에서 Named Entity를 노드로, Relation을 링크로 하는 그래프를 의미합니다. 즉, KG 구축을 위해선 Entity를 인식하고, Entity 간 관계를 구축하는 과정이 필요하고, 이를 위한 다양한 subtask가 존재하게 됩니다. 실제로, Relation Extraction과 같은 다양한 NLP 태스크가 KG 구축을 위해 활용되는 것을 확인할 수 있었습니다. 이를 하나의 모델을 통해 수행하고자 한 것이 GraphRel이었습니다. 해당 모델은 Phase 1에서는 bi-lstm과 dependency parsing을 통해 초기 그래프 구조를 생성하고, bi-GCN을 통해 그래프 모델이 Entity 간 관계를 학습할 수 있도록 합니다. Phase 2에선 모든 relation을 고려한 최종적인 그래프를 생성하도록 하고 있습니다. KG라는 개념이 상당히 복잡하고, 다양한 요소의 결합으로 이루어져 있어 항상 어렵다는 감각만 있었는데, 발표자분의 친절한 설명 덕분에 이해할 수 있었던 것 같습니다. 자세한 발표 감사드립니다.

이번 세미나에서는 "GraphRel: Modeling Text as Relational Graphs for Joint Entity and Relation Extraction"라는 논문을 주제로 다루어 주셨습니다. Knowledg Grpah 즉 KG는 entity간의 관계를 파악하여 그래프로써 그 관계를 표현하는 작업이라고 이해하였습니다. 이를 위해 하위 task들이 존재하는데 named entity recognition (NER)과 realtation extraction (RE) 등이 그것이었습니다. 여러가지 하위 task들로 구성되어 있기 때문에 KG 생성 과정에 대해 잘 모르고 있었는데 단계적으로 잘 설명해주셔서 파악하기 용이하였습니다. GraphRel은 해당 과정들을 하나의 모델을 통해 수행하고자 하엿는데, bi-lstm과 bi-GCN을 사용하여 초기 그래프 구조를 생성하고 entity간의 관계를 학습하는 부분이 인상적이었습니다. ACL 2019에 개재된 논문으로 KG 분야를 공부함에 있어서 baseline이 되는 좋은 논문이라는 생각이 들었습니다. 좋은 발표 감사드립니다.

이번 세미나는 Knowledge Graph construction과 Subtask들의 소개와 함께, GraphRel: Modeling Text as Relational Graphs for Joint Entity and Relation Extraction 논문을 바탕으로 진행되었습니다. Knowledge graph construction의 Subtask 중에서는 Entity가 될 수 있는 고유명사 등을 목적에 따라 정의하는 Named entity recognition, 구조화되지 않는 일반적인 text에서 entity 간의 relation을 찾는 Relation Extraction, 특정한 Entity를 표현하는 다양한 Mention들을 연결해주는 Coreference resolution 등이 있습니다. GraphRel: Modeling Text as Relational Graphs for Joint Entity and Relation Extraction 논문에서는 이런 Subtask 들 중에서 특히 Entity extraction과 Relation extraction을 Deep learning 구조를 통하여 End-to-end로 학습하는 모델을 제안하고 있습니다. 해당 모델은 1st phase와 2nd phase로 구성되어 학습하는데, 먼저 1st phase에서는 Bi-LSTM, GCN을 통하여 Entity와 Relation 사이의 시간적, 공간적 정보를 학습합니다. 이후, 2nd phase에서는 1st 의 결과를 활용하여 Entity Extraction 과 Relation extraction을 수행하는 모델입니다. 사실 시간이 좀 지난 모델인 만큼 특별히 좋은 성능을 보이지는 않지만, 논문이 나온 시점에서는 Relation extraction 방법론에 이제 막 딥러닝을 적용하던 시점이고, Entity extraction과 Relation extraction을 별도로 수행하던 시점인 만큼 이 두 방법을 같이 End-to-End로 수행하는 것에 Contribution이 있는 논문으로 보입니다. Knowledge Graph construction에 대해서 전혀 모르던 저였지만 발표자분이 subtask부터 하나하나 자세히 설명해 주셔서 쉽게 이해할 수 있었습니다. 좋은 발표 정말 감사드립니다.

이번 세미나에서는 Knowledge Graph Construction 관련하여 GraphRel: Modeling Text as Relational Graphs for Joint Entity and Relation Extraction 논문을 주제로 진행되었습니다. 우선 KG 와 GCN 에 대해서 배경지식이 어느정도 있어야 해당하는 내용을 이해할 수 있는데 발표자께서는 해당 내용에 대해서 많은 공부를 하지 않았을까 우선 생각이 듭니다. 상당히 간단한 구조로 Bi-lstm 이 주요 모델이고, GCN 을 결합하는 방식으로 사용됩니다. 최근에 나오는 좀 더 복잡한 그래프모델이 아닌 방식을 적용해도 당시 좋은 논문으로 이어 질수있었던 상황을 짐작 할 수 있었고, 최근 이러한 relation, edge 관련 prediction 부분에서 그래프 모델들이 크게 강세를 가지고 있진 않은 것으로 알고 있습니다. 처음 언급해주신 임베딩기반의 방법론들이 더 나은 성능을 보이는데, 개인적으로는 아직도 KG 분야는 그래프의 활용도의 가치가 더 높으면서도, 더 나아질 방향이 있다고 생각합니다. 해당 논문에서는 다양한 entity, relation 과 같은 값을 기반으로 학습이 진행되는데 Open Graph Benchmark 도 관심있으면 같은 task 를 진행하니 찾아보시면 좋을 것 같습니다. 좋은발표 감사합니다.

금일 세미나는 "Knowledge Graph Construction"라는 주제로 진행되었습니다. 본 발표에서는 Named Entity Recognition과 Relation Extraction을 한 번에 수행하는 GraphRel이 소개되었습니다. 해당 방법론은 relation extraction에 딥러닝이 적용되기 시작한 초기에 제안되었으며, Entity와 Relation 사이의 관계를 활용하여 두 task를 end-to-end로 수행하였습니다. GraphRel은 두 단계의 Phase를 통해 두 task에 대한 Prediction을 수행하였으며, 개인적으로는 Phase 2에서 Relation마다 생성된 모든 그래프를 결합하는 방식을 통해 entity와 relation 사이의 관계를 반영한 부분이 흥미로웠습니다. 아무래도 초창기 모델이다보니 예전 방법론들을 기반으로 연구가 진행되었지만, 연구의 흐름은 논리적이라는 생각이 들었습니다. 좋은 발표 감사합니다.

이번 세미나는 Knowledge Graph Construction를 주제로 진행되었습니다. 본 논문의 방법론인 GraphRel은 이전에 방법론들이 entity extraction과 relation extraction을 별도로 수행하고 있었고 relation간의 관계가 고려되지 않는다는 한계점이 있었습니다. 따라서 entity와 relation 사이의 관계를 활용하고자 하였고 entity extraction과 relation extraction을 end to end로 수행하고자 하였습니다. GraphRel은 두개의 페이즈로 구성되어 페이즈 1에서는 Bi-LSTM과 Bi-GCN을 통해 entity와 relation의 관계를 학습하고 페이즈 2에서는 entity와 relation extraction을 수행하는 구조를 가지고 있습니다. 지난 세미나에 이어서 Knowledge graph에 대한 연구를 접하게 되니 흐름에 따라 이해하기 수월하였던 것 같습니다. 좋은 발표 감사합니다.

이번 세미나는 Knowledge Graph Construction를 주제로 task에 대한 소개와 함께 GraphRel에 대한 내용으로 진행되었습니다. Task에 대한 소개로는 Knowledge Graph Construction의 subtask 종류와 각각의 대표적인 접근법들에 대한 내용이 다뤄졌고, 이 중 Knowledge Graph Construction 에서 핵심이 되는 Named Entity Recognition과 Relation Extraction을 동시에 시도한 연구가 GraphRel 입니다. GraphRel는 entity와 relation의 관계를 학습하는 phase1과 이를 통해 추출한 정보로 prediction을 수행하는 phase2의 순으로 구성됩니다. 구조적으로는 Bi-LSTM과 Bi-GCN을 사용하는 단순한 구조를 사용하는데, 시간이 조금 지난 연구이기에 성능보다는 접근방식과 후속 연구 측면에서 의미있는 연구라는 생각이 들었습니다. 짧지 않은 시간 동안 상당히 많은 정보를 전달해주셨는데, 세미나를 위한 발표자분의 노고가 느껴졌습니다. 좋은 세미나 발표 감사합니다.

이번 세미나는 Knowledge Graph 구축과 관련된 다양한 subtask에 대한 설명과 ACL 2019에 게재된 GraphRel: Modeling Text as Relational Graphs for Joint Entity and Relation Extraction 논문으로 진행되었습니다. GraphRel은 2-phase 구조를 기반으로 phase 1에서 entity와 relation 사이의 관계를 학습하고, phase2에서 이를 활용해 entity extraction과 relation extraction을 동시에 수행할 수 있는 모델입니다. GreaphRel이 Named Entity Recognition와 Relation Extraction을 동시에 시도한 초창기의 모델이자 2019년 논문인만큼 Bi-LSTM과 Bi-GCN으로 모델이 구성되었다는 점에서 최근에 자주 접한 모델들의 구조와 차이가 있었지만, Transformer 같은 범용적인 모델이 나오기 전까진 어떤 식으로 문제를 풀어나갔었는지 생각해보기 좋은 논문이라는 생각이 들었습니다. 또한 세미나에서 소개해주신 6개의 Task 중 어느 정도 알고 있는 Task들이 많았지만, 각 task별로 발전 흐름과 데이터셋들을 함께 소개해주셔서 더 깊이 알아갈 수 있었던 것 같습니다. 좋은 발표 감사합니다.

이번 세미나는 Knowledge Graph를 구성하는 과정과 GraphRel: Modeling Text as Relational Graphs for Joint Entity and Relation Extraction 논문에 대하여 소개해 주셨습니다. 지금까지 Knowledge Graph가 활용되는 연구들에 대해서는 많이 들었지만 어떻게 구성되는지 구체적인 내용을 잘 알지 못했는데 친절하게 구성과정을 하나씩 예시와 함께 설명해주셔서 이해하기 좋았습니다. 앞선 Knowledge Graph Construction 설명에 이어 GraphRel을 방법론을 설명해 주셔서 GraphRel의 두 단계 학습 및 추론 과정을 이해하기 좋았습니다. 비록 최근 논문은 아니지만 처음 시작된 방법이 어떤식으로 시작되었고 발전되어 왔는지 알게 되어서 좋은 시간이었습니다. 좋은 발표 감사합니다.

이번 세미나는 knowledge graph를 주제로 진행되었습니다. 발표자분께서 knowledge graph 구축과 관련한 개념, 방법론들을 소개해주셨습니다. 사실 knowledge graph 관련한 주제를 연구실 세미나에서 종종 접할 수 있었는데 구체적으로 데이터베이스로부터 어떤 과정을 거쳐 knowledge graph가 구축되는지, 어떤 정보를 담고 있는지 등의 개념들을 놓치고 있어 이해가 쉽지만은 않았습니다. 이번 세미나를 통해 관련 개념들을 차근히 배울 수 있어 개인적으로 매우 유익한 시간이었습니다. 우선 Knowledge graph의 subtask인 NER, Relation Extraction, Entity Linking, Coreference Resolution 등을 차례로 소개해주셨고, 이어서 KG 구축에 핵심이 되는 NER과 Relation Extraction을 동시에 수행한 연구 GraphRel을 다뤄주셨습니다. GraphRel은 Bi-LSTM을 통해 text의 sequential한 정보를, Bi-GCN을 통해 regional한 feature를 추출하며 이 두가지 모듈을 연결한 구조로 이루어져 있습니다. 총 2단계를 거쳐 Entity와 Relation의 관계를 반영하고자 하였습니다. 하나의 논문을 집중적으로 다루기보다 이렇게 큰 개념을 중심으로 다양한 접근 방식과 연구 흐름에 대해 짚는 세미나도 충분히 유익한 것 같습니다. 고생 많으셨습니다.

이번 세미나는 Knowledge Graph Construction를 주제로 진행되었으며 GraphRel 논문을 소개해주셨습니다. GraphRel은 entity, relation extraction을 동시에 수행하는 모델로 OpenIE 초기모델과 거의 비슷한 세팅으로 진행되고 있음을 확인했습니다. Graph 구조 생성시 adjacency matrix를 사용하지 않고 dependency parser로 대체하여 사용하고 있는 점이 흥미로웠습니다. 하지만 relation의 개수가 미리 정해진 상황에서만 사용가능한 방법론이므로, OpenIE 세팅과는 차이가 있습니다. 저는 발표에서 Knowledge Graph Construction 과정을 하나씩 설명해주신것이 인상깊었습니다. 총 6가지 task를 통해 구축되지만 가장 핵심적인 부분은 relation, event extraction이라 생각됩니다. 추출된 entity들이 어떤 relation를 가지는지 알기위해서는 KG내에서 유의미한 relation이 무엇인지 정의하는 과정이 핵심적이라 생각합니다. wiki에서 공개된 KG 외에도 새로운 domain용 KG구축을 위해 현실적으로 접근할 수 있는 방법이 무엇인지 생각할 수 있는 좋은 발표였습니다. 감사합니다.

금일 세미나에서는 GraphRel: Modeling Text as Relational Graphs for Joint Entity and Relation Extraction에 대하여 살펴보았습니다. 직접적인 모델 소개에 앞서 subtask들에 대해 예시와 함께 설명을 해주어 어떤 문제를 푸는지 이해하기 편했습니다. 본 연구는 ACL 2019에 accept된 논문으로 지금 봤을때는 old fashion인 방법론 입니다. 구조도 bi-lstm과 gcn을 사용하고 있으며 two phase로 구성되어 entity extraction과 relation extraction이 진행되고 있습니다. 현재는 사용되지 않는 방법들이 쓰이고 있지만 그래도 이러한 연구들을 공부하고 최신 연구들까지 follow up 하다보면 분야가 발전하는 흐름을 익힐 수 있어 반드시 예전 방법론들에 대한 공부도 필요하다고 생각합니다. 그리고 최신 방법론들이 항상 옳은것은 아니기 때문에 약간의 변형이나 결합을 통해 또 좋은 연구가 나올 수 있을 것이라 기대합니다.