이번 세미나에서는 Tool Learning Task에 있어서 단일 큰 LLM 대신 여러 개의 작은 LLM을 활용하는 새로운 접근 방식에 대한 내용을 다룬 “Small LLMs Are Weak Tool Learners: A Multi-LLM Agent”에 대해서 소개해 주셨습니다. 해당 논문에서 제안하는 Multi-LLM 프레임워크는 Planner, Caller, Summarizer로 구성되어 각각의 모델이 특정 역할에 집중함으로써 효율성과 정확성을 높이는 전략을 사용합니다. 이러한 구조는 각 LLM이 전문화되고 최적화된 학습을 통해 전체적인 성능을 개선하는 방식으로 구현되었습니다. 프레임워크의 핵심인 GLPFT(Global-to-Local Progressive Fine-Tuning) 전략은 전체적인 이해도를 높인 후, 각 역할에 특화된 데이터로 세분화하여 다시 튜닝하는 과정을 포함합니다. 이 방법은 각 LLM이 특정 작업에 필요한 능력을 극대화하도록 설계되어, 실제 실험에서도 기존의 단일 모델 방식보다 뛰어난 결과를 도출한 점이 매우 흥미로웠습니다. 이러한 접근 방식을 통해 LLM의 활용 범위와 효율성을 향상시킬 수 있는 가능성을 보여주며, 복잡한 문제 해결에 있어 여러 모델의 협업이 중요하다는 점을 알게 되었습니다. 개인적으로 해당 발표를 통해 LLM이 단순히 텍스트 생성에만 뛰어난 것이 아니라, 다양한 외부 도구를 효과적으로 활용하여 보다 복잡한 작업을 수행할 수 있는 방법을 배울 수 있었습니다. 특히, 다양한 LLM을 조합하여 사용하는 것이 각각의 장점을 극대화할 수 있는 방법으로, 향후 이러한 연구가 더욱 발전하면 인공 지능의 활용성이 크게 확장될 것으로 생각되었습니다. 흥미로운 주제로 좋은 발표 해주셔서 감사합니다.

이번 세미나에서는 “Small LLMs Are Weak Tool Learners: A Multi-LLM Agent”라는 연구를 중심으로 소개해 주셨습니다. 해당 논문에서는 파이썬 인터프리터, 계산기, Bing Search를 비롯한 Tool을 LLM이 적시에 사용할 수 있도록 하는 Tool Learning Task를 효과적으로 수행하기 위한 프레임워크를 제안했습니다. 이를 위해 Planner, Caller, Summarizer를 위한 개별 LLM을 사용했고, 효과적으로 개별 LLM들을 학습시키기 위한 Global-to-Local Progressive Fine-tuning 방법을 함께 제안했습니다. Toolformer 이후로 Tool Learning 관련 논문들을 직접 읽어본 적은 없었는데 이번 세미나를 통해 LLM이 Tool을 사용하는 방법론을 새롭게 접할 수 있어 좋았습니다. Retrieval 관련 연구 또는 Factual Hallucination 관련 연구들을 보면서 항상 Time-dependency 혹은 Real-time Knowledge를 LLM에 효과적으로 주입하기 위해 API Call이 불가피하다고 생각했는데 이와 관련된 연구를 세미나에서 다뤄주셔서 흥미로웠습니다. 다만, Global-to-Local Progressive Fine-tuning에서 Global Fine-tuning 후, 각 LLM 별로 Subtask에 대해 추가적인 Fine-tuning을 수행하고 있지만, 일종의 모듈에 해당하는 각 LLM의 Subtask 별 최적의 성능이 전체 최적의 성능일지는 궁금했습니다. 흥미로운 연구 소개해주셔서 감사합니다.

해당 세미나는 "Small LLMs Are Weak Tool Learners: A Multi-LLM Agent"라는 논문을 바탕으로 진행되었습니다. 본 논문은 Tool learning task를 효과적으로 수행하기 위한 Multi-LLM 프레임워크에 대해 다루고 있으며, Tool use의 역할을 Planner / Caller / Summarizer 3가지로 나눠, 각각 개별적인 LLM을 사용하는 방법을 소개하고 있습니다. 마지막으로 효과적인 Multi-LLM 학습을 위한 GLPFT(Global-to-Local Progressive Fine-tuning strategy)를 제안하고 있습니다. 기본적으로 Tool이라는 것은 LLM의 능력을 극대화시키기 위해 검색 엔진, 계산기 등 external tool을 사용하는 것을 의미합니다. 그리고 이 tool을 LLM에게 효과적으로 가르치기 위해 tool learning task가 발전되어 왔습니다. 이 논문에서 가장 흥미로웠던 점은 tool learning task에서 수행해야 할 역할을 3가지 sub-task로 나눈다는 것입니다. Planner는 Task 해결을 위한 계획을 rationale 형태로 생성한다는 것이고, Caller는 Action 생성 및 호출하는 역할을 합니다. 마지막으로 Summarizer는 이전 단계들에서 얻은 정보를 활용하여 최종 Answer를 생성합니다. 가장 직관적인 실험 결과로는 하나의 큰 LLM을 사용하는 방법보다 여러 개의 작은 LLM을 사용하는 방법이 더 우수할 수 있다는 가능성을 보인다는 것이고, Tool learning task에 필요한 sub-task들의 capacity를 극대화 했다는 것이라고 생각합니다. 흥미로운 논문, 좋은 발표 준비해주셔서 감사합니다.

금일 세미나는 Small LLMs Are Weak Tool Learners: A Multi-LLM Agent 논문을 바탕으로 진행되었습니다. 기본적으로 LLM은 대량의 코퍼스를 바탕으로 학습되어 텍스트의 이해와 생성에 대하여 매우 높은 성능을 보여주고 있으나, Real-time information, mathematics 등에서는 한계를 보이고 있습니다. 이러한 LLM의 단점을 보완하고자, 최근 다양한 External tool을 API등을 바탕으로 사용하여 LLM의 역량을 강화하려는 시도가 존재합니다. 해당 논문에서 제안하는 alpha-UMi에서는 Tool learning task에서 수행해야 할 역할을 3가지 sub-task로 구분하고 있으며, 각 Sub-task는 개별적인 sLLM이 집중 학습하는 방법을 제안합니다. 먼저, 전체 Process의 Input으로 User의 Instruction이 주어진다면, 하나의 LLM이 Planner의 역할로써 Task 해결을 위한 계획인 Rationale을 생성합니다. 이때 Rationale에 Caller의 호출이 포함되어 있다면 Caller를 호출하여, Caller는 호출할 Tool에 대한 Useful request를 생성하고 호출하고, Planner는 이를 참고하여 Task 해결을 위한 새로운 계획을 수립하게 됩니다. 이후 Planner가 Caller의 생성물로 Task를 충분히 해결할 수 있다고 판단한다면 이전 단계들에서 얻은 정보를 활용하여 최종 Answer를 생성하는 summarizer를 호출하거나, 지금까지 얻어진 정보로 더 시도해도 Task를 수행할 수 없다고 판단하면 Task를 포기하는 형식으로 마무리가 이루어집니다. 또한, 다양한 sLLM을 사용하는 Multi-LLM 프레임워크에서 효과적으로 사용할 수 있는 학습 방법인 GLPFT를 제안하고 있습니다. 하나의 큰 LLM에서는 해결할 수 없었던 문제를 해결하고자 각 sLLM에 역할을 부여하여 프레임워크로써 문제를 해결하는 것이 인상적이었습니다. 좋은 발표 정말 감사드립니다.

이번 세미나에서는 "Small LLMs Are Weak Tool Learners: A Multi-LLM Agent"라는 논문에 대한 소개를 중심으로 진행되었습니다. 이 논문은 단일 대형 언어 모델(LLM) 대신 여러 개의 소형 LLM을 활용하는 새로운 접근 방식을 제안합니다. Multi-LLM 프레임워크는 Planner, Caller, Summarizer 세 가지 역할로 나누어 각각의 모델이 특정 작업에 집중하도록 설계되었습니다. Planner는 작업 계획을 세우고, Caller는 적절한 도구를 호출하며, Summarizer는 최종 답변을 생성합니다. 이러한 구조는 각 모델이 자신에게 특화된 작업을 수행하게 함으로써 전체적인 성능을 향상시킵니다. 또한, 전체 데이터를 사용하여 LLM을 학습한 후, 각 역할에 특화된 데이터로 다시 미세 조정하는 2단계 학습 방법인 GLPFT(Global-to-Local Progressive Fine-Tuning)라는 학습 전략을 제안합니다. 해당 프레임워크는 각각의 sLLM이 하나의 서브 작업에 집중함으로써 기존의 단일 LLM 방법보다 높은 성능을 보여주었습니다. 해당 결과를 통해 여러 개의 작은 LLM을 활용함으로써 더 큰 LLM의 성능을 능가할 수 있다는 점이 인상 깊었고, 각 역할을 구분함으로써 단계별 성능 파악이 가능하다는 것 또한 의미 있는 연구였다고 생각합니다. 좋은 발표를 준비해 주셔서 감사합니다.

금일 세미나는 'Small LLMs Are Weak Tool Learners: A Multi-LLM Agent'라는 논문을 소개해 주셨습니다. 해당 논문에서는 Planner, Caller, Summarizer 3가지의 목적으로 나눈 후 이를 수행하기 위한 Tool로 LLM을 활용하는 방법을 제시하고 있습니다. 먼저, Planner에서는 현재 System 상태를 기반으로 Caller, Summarizer에게 전달할 Rationale을 생성한 후, Rationale 기반 적절한 Tool을 호출하는 Caller로 이어지게 됩니다. 마지막 Summarizer에서는 Rationale, 실행 기록을 바탕으로 최종 Answer를 생성하게 되며, 이 때 효과적인 Multi-LLM 학습을 위한 2-stage 학습 방법인 Global-to-Local Progressive Fine-Tuning (GLPFT) 방법으로 각 sub-task에 대한 성능을 끌어올리기 위해 전체 training 데이터로 backbone LLM을 학습한 뒤 3개의 모델로 복제하여 1단계를 마무리한 후, 각 sub-task에 맞게 training 데이터를 새로 구성하여 3가지 모델을 fine-tuning하는 2단계까지의 방법을 같이 제시하고 있습니다. 해당 논문을 보면서 여러 개의 작은 sLLM을 활용함으로써 좋은 앙상블의 효과를 내는 것 같아 현실적으로 LLM을 활용할 수 있는 하나의 연구이지 않았나 생각이 들었던 것 같습니다. 좋은 발표 정말 감사드립니다.

이번 세미나에서는 “Small LLMs Are Weak Tool Learners: A Multi-LLM Agent” 논문을 소개해주셨습니다. 이 논문은 작은 크기의 언어 모델들이 도구로서의 학습능력이 약하다는 문제를 다루며, 여러 LLM을 연계하여 Planner, Caller, Summarizer의 세 가지 역할로 분류해 사용하는 새로운 접근을 제안합니다. Planner는 시스템의 현재 상태를 분석하여 Caller와 Summarizer에 전달할 근거를 생성합니다. Caller는 이 근거를 바탕으로 필요한 도구를 호출하고, Summarizer는 이를 종합하여 최종적인 답변을 도출합니다. 이 과정에서 Global-to-Local Progressive Fine-Tuning(GLPFT)이라는 이단계 학습 방식을 활용하여, 여러 LLM의 합성 효과를 극대화하는 방안을 제시합니다. 이는 실제 환경에서 LLM을 더욱 효과적으로 활용할 수 있는 방법으로 보입니다. 좋은 발표 감사합니다.

금일 세미나는 Small LLM을 이용하여 Tool 활용 능력을 학습하고자 하는 “Small LLMs Are Weak Tool Learners: A Multi-LLM Agent”을 중심으로 진행되었습니다. 기존의 tool 사용 능력을 LLM에 학습시키는 접근법들은 모두 하나의 대형 LLM을 이용하여 prompting 및 synthetic 학습 데이터를 이용하는 접근법을 취하고 있었습니다. 하지만 본 연구에서는 tool 사용 시 1) 주어진 query에 대한 tool 사용 계획 2) 실제 문제 해결 과정에서 적절한 tool 호출 3) tool의 반환값을 기반으로 최종 문장 생성 등의 3가지 태스크로 구성되어 있다는 점에 집중하여 각기 다른 모델을 훈련하고 결합합니다. 특히, rational 생성 과정에서 planning을 종료할 조건이나 답변 도출이 불가능한 경우도 규칙으로서 삽입하여 이용하고 있습니다. 학습 데이터 구축부터 각 모델 훈련을 별도로 진행하는 과정까지 진행한 결과, 해당 방법론의 성능이 ChatGPT 및 기존 tool 활용 모델 대비 우수한 것을 확인할 수 있었습니다. 각기 다른 태스크로 기존의 큰 태스크를 재정의하고, 이를 분류하되, 잘 결합될 수 있도록 설계한 점이 인상적인 논문이었습니다. 좋은 발표 감사드립니다.

이번 세미나는 흔히 LLM Chain 프레임워크에서 주로 'Agent'라고 표현되는 LLM Tool-based approach를 sLLM으로 구현하는 것에 초점을 맞춘 논문인 “Small LLMs Are Weak Tool Learners: A Multi-LLM Agent”를 중심으로 진행되었습니다. 본 논문은 유저의 특정 Query를 사용할 수 있는 여러 Tools들을 해결하는 과정을 크게 세 단계로 나누어서 각 단계에 특화된 sLLM을 확보 및 조합하는 것으로 문제를 해결하고자 하였습니다. 각 단계는 해결 과정을 계획하는 Planner, 이에 따라 API를 호출하는 Caller, 모든 과정이 끝난 후 유저에게 정보를 전달할 Summarizer가 있으며, 자세히는 Planner의 Plan에 따라 Planner와 Caller가 Turn을 주고받으며 API를 연속적으로 호출하게 되고, Planner가 더 이상 API를 호출하지 않아도 된다고 판단했을 시, Summarizer로 결과를 넘기는 흐름으로 프레임워크가 짜여져 있습니다. 훈련의 경우, 기존 LLM 훈련 방식인 NTP 방식의 roll-out을 훈련하게 되며, 단순히 이것만으로도 Agent의 역할을 하게 되는 것이 인상적이었습니다. 다만, 개념적으로 Reinforcement Learning에 더 가까운 학습을 단순히 NTP 방법으로만 진행하였다는 점에서 강화학습으로 훈련시켰으면 어땠을까 하는 생각이 들었고, Specialized한 모델 3개를 운용해야 한다는 부담을 LoRA를 교체하는 방식으로는 해결할 수 없었을까 하는 사소한 아쉬움이 있었습니다. 재밌는 논문 소개해주셔서 감사합니다.

이번 세미나는 단일 LLM이 아닌 여러 개의 sLLM을 활용하여 Tool 활용 능력을 학습하는 Tool Learning task와 관련된 "Small LLMs Are Weak Tool Learners: A Multi-LLM Agent"이라는 논문을 중심으로 진행되었습니다. 해당 논문에서는 사용자의 Query에 기반해 Planner, Caller, Summarizer에 해당하는 3가지 목적을 통해 각각의 단계에 sLLM을 학습시켜 이를 수행하고자 합니다. 먼저 Planner의 경우 주어진 Query에 대해 Tool을 어떻게 사용할 것인지에 대한 계획에 해당하며, Caller는 앞서 구축한 Plan에 따라 API를 호출하는 역할을 수행하며, Summarizer는 최종 문장 생성에 해당합니다. 해당 논문을 보며 들었던 생각은 기존에 단일 LLM을 이용하는 방법보다 좀 더 구조적으로 흥미로웠고, 좀 더 체계적이라는 느낌을 받았지만 3가지의 모델을 구성하는 과정에서 발생하는 비용에 대한 대처가 조금 아쉬웠습니다. 그래도 LLM에 앙상블이라는 개념을 효과적으로 잘 적용했다는 생각이 들며, sLLM뿐만 아니라 더 넓은 범위에서 활용가능한 다양한 모듈들을 결합시킴으로써 해당 방법론이 더 다양한 분야로 확장될 수 있을 것 같아 앞으로의 후속 연구들이 기대가 됩니다. 좋은 발표 해주셔서 감사합니다.

오늘 세미나는 "Small LLMs Are Weak Tool Learners: A Multi-LLM Agent"라는 논문을 중심으로 진행되었습니다. 해당 논문은 Tool learning task를 효과적으로 수행하기 위한 Multi-LLM 프레임워크에 대해 다루고 있으며, Tool use를 Planner, Caller, Summarizer 세 가지 역할로 나누어 각각의 역할을 수행하는 개별적인 LLM을 사용하는 방법을 제안하고 있습니다. 또한, 효과적인 Multi-LLM 학습을 위해 GLPFT(Global-to-Local Progressive Fine-tuning) 전략을 제안합니다. 여기서 Tool이란 LLM의 능력을 최대한 발휘하기 위해 검색 엔진, 계산기 등 외부 도구를 사용하는 것을 의미하며, 이를 효과적으로 학습시키기 위해 tool learning task가 발전해왔습니다. 실험 결과, 하나의 큰 LLM을 사용하는 것보다 여러 개의 SLLM을 사용하는 방법이 더 우수할 수 있음을 보여주었으며, 각 sub-task의 능력을 극대화하는 데 성공한 contribution을 가집니다. LLM의 실용적인 응용 방안에 대해 배울 수 있어 좋았습니다. 좋은 발표 감사합니다.

이번 세미나에서 "Small LLMs Are Weak Tool Learners: A Multi-LLM Agent" 논문에 대해 소개해주셨습니다. 이전 세미나에서의 toolformer에 이어 이번에도 tool learning task에 대해 다루어주셨습니다. 저번 세미나와의 차이점으로 좀 더 agent식의 접근법을 활용했다는 점입니다. toolformer의 경우 언제, 어떻게, 어떤 api를 사용할지 스스로 결정하 수 있는 모델로 self-supervised 방법을 통해서 다양한 tool을 적절한 상황에서 사용할 수 있도록 학습되었습니다. 해당 연구는 agent접근방법으로 planner-caller-summarizer로 구성되어 global-to-local progressive fine-tuning을 통해 각 기능으로서의 llm으로 작동하기 위해 학습됩니다. tool learning task를 agent 형태로서 풀어나갔다는 점에서 해당 연구가 유의미하였습니다. 일반적으로 gpt-4와 같은 높은 성능의 proprietary model을 사용하여 agent식으로 문제푸는 케이스는 많이 봤지만, 해당 연구는 llama-7b, 13b를 이용하여 agent로서의 학습과 chatgpt보다 좋은 성능을 달성하였습니다. 흥미로운 연구에 대해 소개해주셔서 감사합니다.

이번 세미나는 "Small LLMs Are Weak Tool Learners: A Multi-LLM Agent" 논문을 소개해 주셨습니다. 이 논문에서는 Tool Learning Task를 보다 효과적으로 수행하기 위해 여러 개의 작은 LLM을 활용하는 새로운 접근 방식을 제안했습니다. 핵심은 Planner, Caller, Summarizer라는 세 가지 역할을 각각의 모델로 나누어 최적화하는 것입니다. 이러한 구조는 각 모델이 특정 작업에 집중할 수 있게 하여 전체적인 성능을 향상시키는 것을 목적으로 합니다. 논문에서 제안된 GLPFT(Global-to-Local Progressive Fine-Tuning) 전략은 먼저 전체적인 이해도를 높이고, 이후 각 역할에 특화된 데이터로 세분화하여 다시 튜닝하는 방식으로, 각 모델의 능력을 극대화합니다. 실제 실험 결과, 이 접근 방식은 단일 LLM을 사용하는 기존 방법들보다 뛰어난 성능을 보여주었습니다. 이번 발표는 LLM이 단순히 텍스트 생성에 그치지 않고, 외부 도구를 효과적으로 활용하여 복잡한 작업을 수행할 수 있는 가능성을 보여주었습니다. 좋은 발표 감사합니다.

이번 세미나는 "Small LLMs Are Weak Tool Learners: A Multi-LLM Agent" 을 주제로 진행되었습니다. 본 논문에서는 다양한 Tool Learning Task를 효과적으로 수행하기 위해 Planner, Caller, Summarizer로 역할을 분리한 Multi-LLM 프레임워크를 제안하였습니다. Planner는 문제 해결을 위한 계획을 수립하고, Caller는 적절한 tool을 호출하여 실행하며, Summarizer는 최종 답변을 생성합니다. 이 접근법은 각 역할에 특화된 작은 LLM을 사용하여 더 효율적인 문제 해결을 목표로 합니다. 또한, 논문에서는 GLPFT(Global-to-Local Progressive Fine-Tuning) 전략을 도입하여 Multi-LLM 학습의 성능을 극대화했습니다. 이 방법은 하나의 큰 LLM을 여러 개의 작은 LLM으로 나누어 각 역할에 맞게 세부적으로 학습시키는 방식입니다. 실험 결과, 하나의 큰 LLM을 사용하는 것보다 여러 개의 작은 LLM을 사용하는 것이 더 우수한 성능을 보였습니다. 본 연구는 LLM의 실용적인 활용 가능성을 보여주었으며, 도구 사용을 통한 LLM의 성능 향상에 대한 새로운 가능성을 제시하였습니다. 매우 흥미롭고 유익한 발표였습니다. 감사합니다.

이번 세미나에서는 "Small LLMs Are Weak Tool Learners: A Multi-LLM Agent"라는 논문에 대해 다루었습니다. 이 논문은 단일 대형 언어 모델(LLM) 대신 여러 개의 소형 LLM을 활용하는 새로운 접근 방식을 제안했습니다. Multi-LLM 프레임워크는 Planner, Caller, Summarizer로 구성되어 각각의 모델이 특정 역할에 집중함으로써 효율성과 정확성을 높이는 전략을 사용합니다. Planner는 작업 계획을 세우고, Caller는 적절한 도구를 호출하며, Summarizer는 최종 답변을 생성합니다. 이러한 구조는 각 모델이 자신에게 특화된 작업을 수행하게 함으로써 전체적인 성능을 향상시킵니다. 해당 프레임워크의 핵심은 GLPFT(Global-to-Local Progressive Fine-Tuning) 전략입니다. 이 전략은 먼저 전체적인 이해도를 높인 후, 각 역할에 특화된 데이터로 세분화하여 다시 튜닝하는 과정을 포함합니다. 이러한 2단계 학습 방법은 각 모델이 특정 작업에 필요한 능력을 극대화하도록 설계되어, 실제 실험에서도 기존의 단일 모델 방식보다 뛰어난 결과를 도출했습니다. 특히, 이번 논문에서 제안된 Multi-LLM 프레임워크는 여러 개의 작은 LLM을 활용하여 더 큰 LLM의 성능을 능가할 수 있다는 가능성을 보여주었습니다. 각 역할을 구분함으로써 단계별 성능 파악이 가능하고, 이를 통해 LLM의 활용 범위와 효율성을 향상시킬 수 있는 가능성을 제시했습니다. 흥미로운 주제로 좋은 발표 준비해주셔서 감사합니다.