[Paper Review] LLM based Recommender Systems : EAGER-LLM

Paper Review
작성자
Jungho Lee
작성일
2025-04-02 18:20
조회
1069
1. 논문 정보
  • 제목: EAGER: Two-Stream Generative Recommender with Behavior-Semantic Collaboration (KDD 2024)
  • 인용 수: 16회
  • 제목: EAGER-LLM: Enhancing Large Language Models as Recommenders through Exogenous Behavior-Semantic Integration  (WWW 2025)
  • 인용 수: 1회
2. Overview
  • EAGER 논문은 유저의 Sequence 정보를 기반으로 유저 history 의 preference 를 반영하는 stream 과 아이템이 가지고있는 특성의 stream , two stream 데이터를 다룸
  • 특히, tokenization 방법론에서 semantic 한 정보만을 반영하는 한계를 두개의 stream 의 멀티모달 학습을 통해 해결함
  • Eager-LLM 은 EAGER 방식으로 생성되는 Token 을 LLM 에 적용하여 LLM 을 튜닝하는 방법론
  • 본 세미나에서는 LC-Rec 의 이전 SOTA 성능을 뛰어넘는 EAGER-LLM 에 대해 소개한다.
    특히, LC-Rec 에서 부족했던 Collaborative 정보를 반영하는 방법론으로 EAGER 를 사용하였고, 이를 통해 성능의 차이가 나는 것은
    추천시스템에서 멀티모달에 대한 정보를 활용하는 것이 중요함을 보임
3. 발표 자료 및 영상
  • 발표 자료: 하단 첨부
  • 발표 영상:
전체 20

  • 2025-04-24 23:50

    이번 세미나에서는 “EAGER-LLM: Enhancing Large Language Models as Recommenders through Exogenous Behavior-Semantic Integration” 논문을 중심으로 발표해주셨습니다. EAGER 논문은 추천 시스템에서 사용자 행동(behavior)과 아이템 의미(semantic)를 각각의 스트림으로 분리해 다루며, 이 두 스트림의 협력을 통해 기존 토크나이제이션 방식의 한계를 효과적으로 극복한 점이 인상 깊었습니다. 특히 사용자 이력 기반의 preference stream과 아이템 속성 기반의 semantic stream을 병렬적으로 처리하면서도, 그 사이의 연관성을 정교하게 학습해낸다는 점이 인상 깊었습니다. 기존 LC-Rec이 담아내지 못했던 협업 필터링적 정보(Collaborative Signal)를 EAGER가 잘 반영함으로써 성능 향상을 이뤘다는 분석은 설득력 있었고, 멀티모달 정보의 중요성을 실증적으로 보여주었습니다. EAGER-LLM을 통해 생성된 멀티모달 토큰이 LLM 튜닝에 활용되어 일반 텍스트 기반 LLM보다 더 정밀한 추천 결과를 도출한다는 점도 흥미로웠습니다. 전통적인 언어모델에 추천 시스템을 접목하는 새로운 가능성을 엿볼 수 있던 발표였습니다.


  • 2025-05-04 17:50

    이번 세미나에서는 "LLM based Recommender Systems : EAGER-LLM" 라는 논문에 대한 소개를 중심으로 진행되었습니다. 기존 생성 기반 추천 모델들은 아이템의 semantic 정보에만 의존해 tokenization을 진행해 collaborative signal을 충분히 반영하지 못했다는 점이 문제로 지적되었습니다. 이러한 문제를 해결하기 위해 EAGER는 user behavior와 item semantic의 두 stream 정보를 통합해 멀티모달 방식의 tokenization을 제안하였습니다. 단순히 데이터를 LLM에 입력하는 것이 아니라, input representation 단계에서부터 recommender system에 특화된 구조적 정보를 반영하는 시도가 인상 깊었습니다. EAGER-LLM은 이러한 EAGER 방식으로 생성된 token을 LLM에 vocab으로 포함시켜 fine-tuning하는 접근으로, 기존 LC-Rec과 같은 baseline 모델의 한계를 넘어섰다는 점이 발표의 핵심이었습니다. 특히 user history로부터 behavior token을 생성하고, 이를 prompt 기반이 아닌 직접적인 input token으로 사용함으로써 LLM의 representation power를 추천 문제에 맞게 유도하는 방식이 인상적이었습니다. 발표 자료에 담긴 실험 결과도 의미있었는데, behavior token을 추가함으로써 LC-Rec 대비 의미있는 성능 향상이 관찰되었다는 점이 collaborative 정보의 중요성을 다시금 보여주는 근거로 느껴졌습니다. 좋은 발표 준비해주셔서 감사합니다.


  • 2025-04-02 19:00

    이번 세미나는 추천시스템에서 LLM을 활용하는 최신 연구들인 EAGER와 EAGER-LLM을 제안한 “EAGER: Two-Stream Generative Recommender with Behavior-Semantic Collaboration”과 “EAGER-LLM: Enhancing Large Language Models as Recommenders through Exogenous Behavior-Semantic Integration”이라는 두 가지 논문에 대한 발표를 중심으로 진행되었습니다. EAGER의 경우 유저들의 행동을 통해 나타나는 Sequential한 정보를 나타내는 Behavior와 제품의 특성이 나타나는 Semantic한 정보를 잘 Align하는 방법론에 해당합니다. 기존 방법론들이 Semantic한 정보를 학습하는 것에 집중한 것에서, 더 나아가 유저의 행동을 통해 나타나는 Sequential한 부분도 잘 학습하는 것이 중요하다고 생각이 들었습니다. 다음으로 EAGER-LLM의 경우 기존 EAGER 모델과 달리 Semantic-Behavior 토큰을 결합해 하나의 아이템에 매핑하며, Item Token이 LLM의 Semantic Space에 비침투적인 방식으로 융화되는 방식을 제안합니다. 기존 추천시스템 분야에서 LLM을 적용하는 연구들을 보며 아직 제대로 LLM이 가지는 강점을 활용하지 못한다는 생각이 들었었는데, 점점 LLM의 생성 능력을 잘 활용하는 시도들이 진행되고 있다는 생각이 들었습니다. 좋은 발표 해주셔서 감사합니다.


  • 2025-04-04 15:02

    이번 세미나에서는 추천 시스템 분야에서 LLM을 활용한 ‘EAGER-LLM: Enhancing Large Language Models as Recommenders through Exogenous Behavior-Semantic Integration’ 논문에 대해 발표해 주셨습니다. 우선, 그 전에 EAGER 논문에 대해 설명해 주셨는데, 기존 생성 기반 추천 모델들이 아이템의 semantic 정보만을 기반으로 tokenization을 진행하여 collaborative signal을 효과적으로 반영하지 못했던 문제를, EAGER는 behavior와 semantic의 두 스트림을 활용한 멀티모달 방식으로 해결한 점이 매우 흥미로웠습니다. 이러한 설계를 바탕으로 등장한 EAGER-LLM은 기존 LC-Rec이 지닌 협업 정보 반영의 한계를 극복하고, user history를 기반으로 behavior token을 LLM에서 학습 가능하도록 설계했습니다. 특히, 단순히 텍스트 기반 prompt를 활용하는 것이 아닌, 토큰 자체를 LLM의 vocab으로 활용함으로써 진정한 멀티모달 추천 시스템을 구축하고 있다는 점이 매우 인상깊었습니다. 무엇보다도 의미 정보만으로 구성된 token보다 behavior 기반 token의 효과가 더 높았다는 실험 결과는, 추천 시스템에서 collaborative 정보의 중요성을 재차 강조하며 LLM과의 융합 가능성을 보여준다고 생각합니다. 해당 발표를 통해 추천 시스템이 단순한 검색을 넘어 reasoning 기반의 생성 모델로 나아가는 전환점이 될 수 있는 연구로 느껴졌습니다. 흥미로운 주제로 좋은 발표해 주셔서 감사합니다.


  • 2025-04-04 20:50

    이번 세미나에서는 추천 시스템에서의 LLM 활용 가능성을 탐구한 “EAGER”와 “EAGER-LLM” 두 편의 논문을 중심으로, 유저 행동과 아이템 의미 정보를 통합하여 더 정교한 추천을 가능하게 하는 새로운 접근법들을 살펴보았습니다. EAGER는 행동(Behavior)과 의미(Semantic) 정보를 각각의 스트림으로 나누어 학습함으로써 두 정보를 효과적으로 정렬하고, 기존 생성형 추천 모델들이 간과했던 유저의 시퀀스 정보까지 포착할 수 있도록 설계된 점이 인상 깊었습니다. 이어서 소개된 EAGER-LLM은 이러한 구조를 LLM 기반 모델에 적용하여, Behavior와 Semantic 정보를 융합한 토큰을 LLM에 비침투적으로 통합하는 새로운 방식을 제안했으며, 단순한 텍스트 프롬프트를 넘어 구조화된 사용자 행동 데이터를 직접 LLM의 입력으로 활용하는 시도가 매우 참신하게 느껴졌습니다. 두 모델 모두 추천 시스템이 LLM과 결합해 단순한 유사도 기반 매칭을 넘어, 보다 정교하고 개인화된 생성형 추천으로 발전해나가는 흐름을 잘 보여주는 사례였고, 앞으로의 확장 가능성도 엿볼 수 있어 흥미로운 시간이었습니다.


  • 2025-04-06 00:31

    기존의 LLM 기반 추천 시스템에서 발생하는 제품 정보의 semantic과 유저 behavior 간의 불일치를 해소하고, 효과적인 alignment를 가능케 하는 방법론인 듯합니다. Hierarchical K-means 기반의 dual-token 방식과 이를 활용한 two-stream 구조가 창의적이라고 느꼈습니다. 특히, token을 단순히 entitiy ID로 정의하는 것이 아니라, semantic과 behavior를 내포할 수 있는 구조로 정의한 것이 인상깊었습니다. 오로지 prompting 만으로 최신 LLM의 높은 텍스트 생성 성능에 의존하는 것이 아니라 collaborative signal까지 학습할 수 있도록 유도하는 설계가 상당히 유의미하다고 생각됩니다. 앞으로의 LLM을 활용한 recommender 연구 방향에 좋은 시사점을 주는 것 같습니다.


  • 2025-04-06 21:59

    이번 세미나에서는 EAGER-LLM: Enhancing Large Language Models as Recommenders through Exogenous Behavior-Semantic Integration 논문을 소개해주셨습니다. 해당 논문은 기존 추천 시스템에서 생성 기반 모델들이 아이템의 semantic 정보만을 활용하여 collaborative signal을 충분히 반영하지 못한 한계를 극복하기 위해, behavior와 semantic 정보를 통합한 멀티모달 접근법을 제안한 EAGER 논문을 확장한 연구입니다. 특히 EAGER-LLM은 user history로부터 behavior 정보를 추출해 이를 LLM의 vocab으로 직접 통합하는 방식을 통해, 기존의 LC-Rec에서 나타난 협업 정보 반영의 제한을 효과적으로 개선했습니다. 이는 단순히 텍스트 프롬프트에 의존하지 않고 behavior 토큰을 직접 학습 가능하게 함으로써, 추천 모델의 성능과 reasoning 능력을 한 단계 더 끌어올렸다는 점에서 의미가 컸습니다. 또한 실험을 통해 semantic 기반 토큰보다 behavior 기반 토큰의 우수한 성능을 입증하여 collaborative 정보의 중요성과 LLM 기반 추천 시스템으로의 발전 가능성을 명확히 보여주었다고 생각됩니다. 좋은 발표 감사합니다.


  • 2025-04-07 16:06

    이번 세미나에서는 EAGER와 EAGER-LLM 두 논문이 추천 시스템에 LLM을 효과적으로 통합하는 새로운 접근법을 소개해 주셨습니다. 기존 생성 기반 추천 모델들이 아이템의 semantic 정보만을 활용하는 한계를 지적하며, 사용자 행동 데이터에서 나타나는 순차적 패턴(Behavior)과 아이템의 특성 정보(Semantic)를 별도로 학습한 후 이를 정교하게 정렬하는 두 스트림 구조의 필요성을 강조한 점이 인상적이었습니다. 특히 EAGER 모델이 Hierarchical K-means 기반의 dual-token 방식을 도입해 두 정보 간의 불일치를 효과적으로 해소한 점은, 기존 추천 시스템에서 간과되던 협업 신호의 중요성을 부각시켰다는 점에서 큰 의의를 지닌다고 생각이 들었던 것 같습니다. 더불어 EAGER-LLM 논문에서는 기존 모델의 한계를 극복하고자, Behavior와 Semantic 토큰을 통합하여 하나의 아이템에 매핑하는 새로운 방법론을 제안했습니다. 이 모델은 단순히 텍스트 프롬프트에 의존하는 기존 방식이 아닌, 유저의 행동 데이터를 LLM의 vocab에 비침투적으로 융합함으로써 추천 시스템이 협업적 신호를 더욱 효과적으로 반영할 수 있도록 설계되었습니다. 이러한 접근법은 LLM의 강력한 생성 능력뿐만 아니라, 구조화된 데이터에서 얻을 수 있는 협업 정보의 장점을 동시에 활용한다는 점에서 혁신적이며, 향후 추천 시스템의 발전 방향에 많은 시사점을 제공한다고 생각합니다. 끝으로, 항상 LLM과 추천 시스템의 결합 과정에 있어 현재까지의 수준이나 발표자 분의 개인 사견을 들을 수 있음에 정말 감사드립니다. 좋은 발표 감사합니다!


  • 2025-04-07 16:50

    금일 세미나는 “EAGER-LLM: Enhancing Large Language Models as Recommenders through Exogenous Behavior-Semantic Integration (WWW 2025)”, “EAGER: Two-Stream Generative Recommender with Behavior-Semantic Collaboration (KDD 2024)”연구를 바탕으로 진행되었습니다. 기존 LLM 기반 recommendation 모델의 한계였던 Collaborative Knowledge 반영 부족 문제를 극복하고자 제안된 두 가지 연구, EAGER와 EAGER-LLM의 접근 방식과 구조를 중심으로 살펴보았습니다. 먼저 EAGER는 유저의 sequential behavior와 아이템의 semantic 정보를 분리된 두 개의 스트림으로 처리하고, 이 둘을 효과적으로 alignment하여 공동으로 학습할 수 있는 구조를 제안합니다. 특히, 아이템을 단순한 ID가 아닌 behavior-based token과 semantic-based token의 dual-token 구조로 표현하고, 이를 Hierarchical K-means 기반으로 구성하여 의미적, 행동적 특성을 동시에 반영하도록 하고 있습니다. EAGER-LLM은 이러한 두 스트림 기반 구조를 확장하여, behavior와 semantic 정보를 통합한 형태의 item token을 LLM의 vocab distribution 내에서 non-intrusive으로 통합하는 방식을 제안합니다. 즉, 기존 LLM 기반 추천 시스템들이 단순히 텍스트 기반 prompt를 통해 semantic 정보를 처리하는 수준에 그쳤던 반면, EAGER-LLM은 behavior token을 직접 LLM에 입력 가능한 구조로 만들어 collaborative signal을 직접 학습할 수 있게 설계된 것이 핵심이라고 볼 수 있습니다. 이 과정에서 user history를 기반으로 한 행동 시퀀스를 효과적으로 포착하고, 이를 LLM의 구조 안에서 자연스럽게 활용함으로써 기존 LC-Rec 계열 모델들이 가진 Collaborative Knowledge 학습의 한계를 보완하고 있습니다. LLM 기반 추천 모델들이 점점 좋은 모습을 보이고 있는데 다양한 관점에서 소개해주셔서 정말 감사드립니다. 좋은 발표 정말 감사드립니다.


  • 2025-04-07 20:52

    이번 세미나에서 다룬 EAGER와 EAGER-LLM 논문은 추천 시스템 분야에서 멀티모달 정보를 어떻게 효과적으로 활용할 수 있는지를 잘 보여주는 흥미로운 사례였습니다. 특히 기존의 토크나이제이션이 아이템의 의미 정보에만 의존해왔다는 한계를 지적하고, 사용자 행동 시퀀스를 반영하는 별도의 스트림을 추가한 점이 인상 깊었습다. 두 스트림 간의 협력 학습을 통해 사용자 선호와 아이템 특성을 동시에 잘 반영한다는 점에서 추천 시스템이 더 풍부한 맥락을 이해할 수 있는 방향으로 진화하고 있음을 느낄 수 있었습니다.
    또한 EAGER-LLM은 이렇게 생성된 토큰을 대규모 언어 모델에 적용해 추천 태스크를 학습시키는 방식인데, 단순히 LLM을 사용하는 것을 넘어서 추천 시스템 고유의 정보를 LLM 구조에 통합했다는 점이 새로웠습니다. 기존 SOTA였던 LC-Rec보다 협업 정보 반영 측면에서 훨씬 뛰어난 성능을 보인 것도 인상적이었고, 이로 인해 LLM 기반 추천 모델에서도 멀티모달 정보의 통합이 성능 향상에 결정적이라는 것을 체감할 수 있었습니다.
    전반적으로 추천 시스템이 단순한 행동 로그에만 의존하던 방식에서 벗어나 의미 정보와 협업 정보를 모두 아우르는 방향으로 나아가고 있다는 점에서 향후 다양한 분야에 적용 가능성이 높고 실제 서비스에 큰 영향을 줄 수 있는 모델이라고 생각되었습니다.
    재밌는 세미나 준비해 주셔서 감사합니다 🙂


  • 2025-04-08 17:14

    이번 세미나는 생성 기반의 추천시스템 모델을 주제로 진행되었습니다. EAGER라는 기존의 모델에 LLM을 활용한 EAGER-LLM 두 방법론이 소개되었습니다. 생성 기반이라고 함은 토큰을 생성하도록 함이고, 이때의 토큰은 크게 behavior-구매 패턴과 관련된 토큰과 semantic-아이템의 설명 또는 속성과 관련된 토큰을 의미합니다. 아이템을 토큰으로 표현하는 것에 대한 연구 주제가 한 축을 담당하고 있는 만큼, 아이템을 표현하는 것에 대한 고민이 계속해서 이루어지고 있습니다. 개인적인 견해로는 마치 TIGER 방법론처럼, 토큰으로 아이템의 카테고리에 기반하여 구조적인 모습을 표현할 수 있어야 하지 않은가 생각됩니다. EAGER-LLM은 아이템의 description을 LLM에 입력하여 임베딩을 획득하고 사전에 지정한 설정에 따라 Hierarchical K-Means 클러스터링을 적용해 토큰을 생성합니다. 이 부분이 앞서 얘기한 부분과 일맥상통합니다. 더불어, 다시 LLM을 이용하여 propmt와 입력값을 변형해가며 다양한 task를 학습하도록 합니다. 토큰 기반의 모델을 LLM으로 발전시킬 수 있는 방안을 보여주는 방법론입니다. 유익한 발표 감사합니다.


  • 2025-04-11 22:14

    이번 세미나에서는 KDD 2024에서 발표된 "EAGER: Two-Stream Generative Recommender with Behavior-Semantic Collaboration" 에 대해 진행해주셨습니다. 이 연구는 생성 기반 추천 시스템에서 사용자 행동 정보와 아이템의 의미 정보를 효과적으로 통합하여 추천 성능을 향상시키기 위한 새로운 프레임워크인 EAGER를 제안합니다. 기존의 생성 기반 추천 모델들은 주로 행동 정보나 의미 정보 중 하나에만 초점을 맞추는 경향이 있었지만, EAGER는 두 가지 정보를 동시에 활용하여 보다 정밀한 추천을 가능하게 했다는 점이 인상적이었습니다.
    EAGER는 공유 인코더와 두 개의 독립적인 디코더로 구성된 이중 스트림 생성 아키텍처를 도입하여, 행동 정보와 의미 정보를 각각의 디코더에서 처리하도록 설계되었습니다. 이를 통해 두 정보 유형의 독립적인 학습을 보장하면서도, 전체적인 추천 품질을 향상시킬 수 있었습니다. 또한, 글로벌 대조 학습을 통해 각 정보 유형의 구별력을 높이고, semantic 기반 전이 학습을 통해 두 정보 간의 미묘한 상호작용을 촉진하는 전략을 사용했습니다.
    이 논문은 행동 정보와 의미 정보를 통합하여 생성 기반 추천 시스템의 성능을 향상시키는 새로운 접근법을 제시하였으며, 다양한 추천 시나리오에서의 적용 가능성을 보여주었습니다. 특히, 이중 스트림 아키텍처와 다중 학습 전략을 통해 추천 품질을 높인 점이 주목할 만합니다. 좋은 발표 감사합니다!


  • 2025-04-12 10:08

    이번 세미나에서는 EAGER-LLM: Enhancing Large Language Models as Recommenders through Exogenous Behavior-Semantic Integration와 관련된 방법론을 제시한 논문을 중심으로 진행되었습니다. 이 연구는 기존 LLM 기반 추천 시스템이 단순한 텍스트 기반 접근에 치우쳐 있어 협업 신호(CF 정보)와의 정렬이 어려운 한계를 극복하고자, EAGER에서 제안된 이중 스트림 구조(Behavior-Semantic Tokenization)를 기반으로 LLM을 효과적으로 학습시키는 방법을 제안합니다. 특히, 사전학습된 DIN 모델로부터 유저 행동 임베딩을, LLaMA 기반 LLM으로부터 텍스트 기반 의미 임베딩을 추출하고, 각각을 Hierarchical K-Means로 토큰화하여 유저와 아이템을 표현합니다. 학습 단계에서는 Contrastive Loss, Semantic Reconstruction, Sequence Recommendation 등 다양한 과업을 결합하여 의미 기반 정보와 행동 기반 정보를 효과적으로 정렬하고, inference 시에는 dual token 기반 beam search를 통해 추천을 수행합니다. 실험 결과, 기존 TIGER, LC-Rec, LETTER 등의 토큰화 기반 LLM 추천 모델 대비 높은 성능을 보였으며, 특히 사전 생성된 토큰을 단순히 input으로 넣는 것보다 LLM 내부에서 behavior-semantic 관계를 직접 학습시키는 방식이 더 효과적임을 확인했습니다. 발표를 통해, 대규모 언어 모델이 추천 시스템에서 협업 신호까지 통합적으로 학습할 수 있는 가능성을 확인할 수 있었습니다.


  • 2025-04-12 15:30

    LLM이 가지고 있는 기본 언어적 지식은 추천 시스템에서 활용하기에 좋은 장점을 가지고 있습니다. 하지만 일반적으로 LLM은 특정 도메인에서 collaborative knowledge 정보를 담고 있지 않고 있어서 추가적인 학습이 필요합니다. 따라서 semantic, history등의 정보를 담고 있는 ID token을 생성하는 것이 중요한 과업이 될 수 있습니다. 오늘 소개한 연구는 semantic(text)정보와 user history를 가지고 ID token을 생성하는 EAGER 방법을 제안하고 있습니다. 각각 정보는 pre-trained model에서 임베딩을 추출하고 hierarchical K-means로 각 아이템들을 토큰화를 진행합니다. 이전 연구인 TIGER 연구에서는 이미 사전에 만들어진 아이템 토큰을 사용했었기 때문에 sequence로 사용하는 경우 중복 토큰이 많이 생기기 때문에 성능 하락의 요인이 될 수 있습니다. 또한 아이템의 semantic 특징을 기반한 ID이기 때문에 sequence에서 자주 나타내는 특징을 잡기 어려웠습니다. EAGER에서는 behavior information, 즉 user들의 행동에서 나타나는 유사한 아이템을 유사한 ID로 생성하기 때문에 이러한 문제점을 극복할 수 있습니다. EAGER-LLM 연구에서는 semantic과 behavior 모델에서 나온 임베딩을 별도로 사용하는 것이 아니라 concat을 통해 하나로 묶어서 활용하고 있습니다. 디코딩 부분에서는 별도로 나눠서 학습하기도 하지만 두 개의 모달 토큰을 합쳐서 시너지 효과를 보고자 한 시도로 보여집니다. 실험결과에서도 기본 모델 대비 전체 평가지수에서 높은 성능을 나타내어 behavior-semantic의 멀티모달 특징을 효과정을 토큰화하는 기법이 효과적임을 보여주었습니다. 좋은 발표 감사합니다


  • 2025-04-13 17:10

    이번 세미나는 추천 시스템의 기본적인 가정들을 활용하는 LLM 기반 모델 구조를 제안한 "EAGER-LLM: Enhancing Large Language Models as Recommenders through Exogenous Behavior-Semantic Integration"와 관련 연구들을 중심으로 진행되었습니다. 기존의 LLM 활용 방식들은 LLM의 입력 및 생성 id로 의미적 정보를 보존하는 방식을 사용하기는 하지만 입력 데이터에 사용자 및 아이템 정보와 interaction 정보가 충분히 활용되지 못한다는 한계점이 존재했습니다. 이에 대해 해당 연구들에서는 사용자 구매기록과 각 아이템의 정보를 별도의 encoder를 이용하여 처리하고, contrastive learning 및 reconstruction loss 등을 활용하여 모델이 구매 정보와 아이템 정보를 충분히 활용할 수 있도록 유도하고자 합니다. 특히, Eager-LLM에서는 해당 프레임워크에서 LLM의 능력을 최대한 활용하기 위하여 구매기록과 아이템 정보 모두 LLM을 통해 encoding하고, 별도의 encoder들을 활용하여 contrastive learning으로 학습하는 방식을 활용하고 있습니다. 해당 방식이 실제 실험에 있어서도 좋은 성능을 보이고 있고, 이전에 소개해주신 TIGER에 비해서도 많은 정보를 효과적으로 사용하고자 노력하는 모습들을 엿볼 수 있었습니다. LLM의 강력한 능력이 실제 추천시스템에 널리 활용되기 위해서는 그 동안의 추천 시스템에서 널리 연구되어온 여러 개념들이 통합될 필요성이 여전히 존재함을 알 수 있었습니다. 감사합니다.


  • 2025-04-13 18:20

    이번 세미나에서는 KDD 2024에서 발표된 "EAGER: Two-Stream Generative Recommender with Behavior-Semantic Collaboration"에 대해 진행해주셨습니다. 이 연구는 생성 기반 추천 시스템에서 사용자 행동 정보와 아이템의 의미 정보를 효과적으로 통합하여 추천 성능을 향상시키기 위한 새로운 프레임워크인 EAGER를 제안합니다. 기존의 생성 기반 추천 모델들이 주로 행동 정보나 의미 정보 중 하나에만 초점을 맞추는 경향이 있었던 반면, EAGER는 두 가지 정보를 동시에 고려하여 보다 정교한 추천을 가능하게 했다는 점이 인상적이었습니다.
    EAGER는 공유 인코더와 두 개의 독립적인 디코더로 구성된 이중 스트림 아키텍처를 도입하여, 행동 정보와 의미 정보를 각각 별도로 처리하면서도 전체적인 추천 품질을 높일 수 있도록 설계되었습니다. 특히, 글로벌 대조 학습을 통해 각 정보 유형의 표현력을 강화하고, semantic 기반의 전이 학습을 통해 두 정보 간의 상호작용을 유연하게 조율하는 전략이 돋보였습니다. 이 논문은 행동 기반과 의미 기반 정보의 균형 있는 결합을 통해 생성 기반 추천 시스템의 정밀도와 다양성을 모두 향상시킬 수 있음을 보여주며, 다양한 추천 환경에서의 활용 가능성을 제시했다는 점에서 의미 있는 기여를 했다고 생각됩니다. 좋은 발표 감사합니다!


  • 2025-04-16 00:17

    이번 세미나에서는 LLM 기반 추천 시스템을 다룬 EAGER와 EAGER-LLM 논문을 중심으로 발표가 진행되었습니다. EAGER는 유저의 sequential behavior와 아이템의 semantic 정보를 두 스트림으로 분리해 정렬하고 학습하는 구조를 제안해 협업 신호 반영을 강화한 것이 특징입니다. EAGER-LLM은 이를 확장해 behavior-semantic 통합 토큰을 LLM의 vocab에 비침투적으로 융합하는 방식을 제시하며, 단순 프롬프트 입력보다 깊이 있는 통합을 가능하게 했습니다. 특히 behavior 기반 토큰이 semantic 기반보다 높은 성능을 보인 실험 결과가 인상적이었습니다. 기존 LC-Rec 대비 협업 정보 반영 측면에서 명확한 개선을 보여주며, LLM의 생성 능력과 추천 시스템의 구조적 특성을 효과적으로 결합한 시도로 보였습니다. 추천 모델의 표현력과 reasoning 능력 모두를 끌어올리는 접근이라는 점에서 향후 응용 가능성이 높아 보입니다. 흥미로운 발표 감사합니다.

    이번 세미나에서는 LLM 기반 추천 시스템을 다룬 EAGER와 EAGER-LLM 논문을 중심으로 발표가 진행되었습니다. EAGER는 유저의 sequential behavior와 아이템의 semantic 정보를 두 스트림으로 분리해 정렬하고 학습하는 구조를 제안해 협업 신호 반영을 강화한 것이 특징입니다. EAGER-LLM은 이를 확장해 behavior-semantic 통합 토큰을 LLM의 vocab에 비침투적으로 융합하는 방식을 제시하며, 단순 프롬프트 입력보다 깊이 있는 통합을 가능하게 했습니다. 특히 behavior 기반 토큰이 semantic 기반보다 높은 성능을 보인 실험 결과가 인상적이었습니다. 기존 LC-Rec 대비 협업 정보 반영 측면에서 명확한 개선을 보여주며, LLM의 생성 능력과 추천 시스템의 구조적 특성을 효과적으로 결합한 시도로 보였습니다. 추천 모델의 표현력과 reasoning 능력 모두를 끌어올리는 접근이라는 점에서 향후 응용 가능성이 높아 보입니다. 흥미로운 발표 감사합니다.


  • 2025-04-14 18:20

    이번 세미나에서는 추천 시스템 분야에서 LLM의 협업 정보 반영 한계를 해결하고자 제안된 EAGER-LLM 논문을 중심으로 발표가 진행되었습니다. 발표에 앞서 EAGER 모델의 구조와 한계 극복 방식에 대한 설명도 함께 제공되어, 전체적인 흐름을 이해하는 데 많은 도움이 되었습니다. 기존의 생성 기반 추천 시스템은 주로 아이템의 semantic 정보에 기반한 tokenization 방식만을 사용하여, collaborative signal을 충분히 반영하지 못한다는 한계가 있었습니다. 이에 대해 EAGER는 user의 행동 정보와 아이템의 의미 정보를 각각 별도의 스트림으로 처리하고, 이를 효과적으로 통합하여 학습하는 구조를 제안한 점이 인상 깊었습니다. 이러한 구조를 확장한 EAGER-LLM은, behavior 정보를 단순한 텍스트 프롬프트 형태가 아닌 LLM의 vocabulary 내 token으로 직접 통합함으로써, LLM이 사용자 행동 데이터를 보다 직접적으로 학습할 수 있도록 설계된 점이 특히 주목할 만했습니다. 기존의 LC-Rec 계열 모델과 달리, 행동 기반 토큰을 통한 학습이 가능해짐에 따라 reasoning 기반 추천으로의 확장 가능성을 보여주었습니다. 또한 실험 결과에서도 semantic 기반 token보다 behavior 기반 token이 더 우수한 성능을 보였다는 점은, 추천 시스템에서 collaborative 정보가 여전히 핵심적인 역할을 한다는 것을 잘 보여주었다고 생각됩니다. LLM을 기반으로 한 추천 시스템이 단순 텍스트 생성이 아닌 사용자 맥락에 따른 정교한 추론까지 가능하다는 점에서, 향후 발전 가능성이 매우 높은 연구라고 느꼈습니다. 좋은 발표 준비해주셔서 감사합니다!


  • 2025-04-16 21:47

    이번 세미나에서는 “EAGER-LLM: Enhancing Large Language Models as Recommenders through Exogenous Behavior-Semantic Integration” 논문을 중심으로 발표해주셨고, 그 배경이 되는 선행 연구인 EAGER 논문에 대해서도 함께 설명해주셔서 전체적인 흐름을 이해하는 데 많은 도움이 되었습니다. 특히 EAGER에서는 유저의 시퀀스 정보를 기반으로 사용자의 히스토리와 선호도를 반영하는 stream과, 아이템이 가지고 있는 의미적 특성을 다루는 stream이라는 두 개의 stream 데이터를 활용하는 구조가 인상적이었습니다. 기존 tokenization 방식이 semantic 정보에만 의존하는 한계를, 이러한 멀티모달 학습 구조를 통해 효과적으로 보완했다는 점이 흥미로웠습니다. EAGER-LLM은 이러한 구조를 바탕으로 생성된 token을 LLM에 적용하여 추천 특화 LLM으로 튜닝하는 새로운 접근을 제시하였고, 기존에 다소 부족했던 collaborative 정보를 EAGER 구조를 통해 효과적으로 반영했다는 점은, 추천 시스템에서 멀티모달 정보의 중요성을 다시금 확인시켜주는 부분이었습니다. 이번 발표는 앞으로 LLM을 활용한 추천 시스템 연구의 방향에 있어 실질적인 시사점을 제공해준 의미 있는 연구라고 생각합니다. 좋은 논문 소개해주셔서 감사합니다!


  • 2025-04-17 18:31

    이번 세미나는 EAGER와 EAGER-LLM에 대해서 소개해주셨습니다. 기존의 생성 기반 추천 시스템들이 주로 아이템의 semantic 정보에만 의존했다면, EAGER는 사용자 행동 시퀀스에서 비롯된 behavioral signal과 아이템의 고유한 의미를 담은 semantic signal을 two-stream 구조로 분리하여 각각 학습하고 이를 효과적으로 결합하는 방식을 제안합니다. 특히, dual-token 기반 표현을 통해 한 아이템에 대한 다양한 관점을 포착한다는 점이 인상 깊었습니다. EAGER-LLM은 이러한 구조를 더욱 확장하여, behavior-semantic token을 **LLM의 vocabulary 내에 비침투적(non-intrusive)**으로 통합함으로써, 기존 LLM 기반 추천 모델에서 부족했던 collaborative 정보의 반영 문제를 해결하려는 시도가 돋보였습니다. 특히 behavior token을 직접 학습 가능하도록 구성함으로써 LLM의 표현력과 reasoning 능력을 실질적으로 강화한 점에서 실험적, 이론적으로 모두 큰 의미를 가진다고 느꼈습니다. 세미나를 통해 멀티모달 정보의 통합이 단순한 feature fusion 그 이상으로 작동할 수 있다는 점을 다시금 실감할 수 있었고, 향후 LLM을 활용한 추천 모델의 설계 방향에 대해 고민해볼 수 있는 좋은 기회였습니다. 유익한 발표 감사합니다.


전체 539
번호 제목 작성자 작성일 추천 조회
공지사항
Paper Reviews 2019 Q3
관리자 | 2020.03.12 | 추천 0 | 조회 13524
관리자 2020.03.12 0 13524
공지사항
Paper Reviews 2019 Q2
관리자 | 2020.03.12 | 추천 0 | 조회 12269
관리자 2020.03.12 0 12269
공지사항
Paper Reviews 2019 Q1
관리자 | 2020.03.12 | 추천 0 | 조회 13210
관리자 2020.03.12 0 13210
506
비밀글 [Rehearsal] 석사학위 논문심사 - 남웅찬 (19)
Woongchan Nam | 2025.06.02 | 추천 0 | 조회 39
Woongchan Nam 2025.06.02 0 39
505
비밀글 [Rehearsal] 석사학위 논문심사 - 이상민 (21)
SangMin Lee | 2025.06.02 | 추천 0 | 조회 38
SangMin Lee 2025.06.02 0 38
504
[Paper Review] Which Agent Causes Task Failures and When? On Automated Failure Attribution of LLM Multi-Agent Systems (14)
Siyul Sung | 2025.05.31 | 추천 0 | 조회 1267
Siyul Sung 2025.05.31 0 1267
503
[Paper Review] Restructuring Vector Quantization with the Rotation Trick (16)
Woojun Lee | 2025.05.20 | 추천 0 | 조회 831
Woojun Lee 2025.05.20 0 831
502
[Paper Review] Battling the Non-stationarity in Time Series Forecasting via Test-time Adaptation (16)
Jinwoo Park | 2025.05.16 | 추천 0 | 조회 1030
Jinwoo Park 2025.05.16 0 1030
501
[Paper Review] SD-LoRA: Scalable Decoupled Low-Rank Adaptation for Class Incremental Learning (18)
Hun Im | 2025.05.15 | 추천 0 | 조회 915
Hun Im 2025.05.15 0 915
500
[Paper Review] AA-CLIP: Enhancing Zero-Shot Anomaly Detection via Anomaly-Aware CLIP (18)
Junyeong Son | 2025.05.08 | 추천 0 | 조회 1395
Junyeong Son 2025.05.08 0 1395
499
[Paper Review]SLMREC: Distilling Large Language Models Into Small For Sequential Recommendation (16)
Doyoon Kim | 2025.05.01 | 추천 0 | 조회 1009
Doyoon Kim 2025.05.01 0 1009
498
[Paper Review] TimeXer: Empowering Transformers for Time Series Forecasting with Exogenous Variables (18)
Sunghun Lim | 2025.04.24 | 추천 0 | 조회 1984
Sunghun Lim 2025.04.24 0 1984
497
[Paper Review] Imputation-based Time-Series Anomaly Detection with Conditional Weight-Incremental Diffusion Models (17)
Suyeon Shin | 2025.04.21 | 추천 0 | 조회 1063
Suyeon Shin 2025.04.21 0 1063

Data Science & Business Analytics Lab.
Department of Industrial Engineering, College of Engineering,
Seoul National University

Contact Us

  • 강필성 교수 (pilsung_kang@snu.ac.kr)
    서울특별시 관악구 관악로 1 서울대학교 공과대학 39동 301호 
  • 대학원 연구실 (총무 김도윤: doyooni303@snu.ac.kr)
    서울특별시 관악구 관악로 1 서울대학교 공과대학 39동 411호