코로나 상황으로 인해 입학 후 처음으로 맞는 오프라인 학회였습니다. 개인연구에 대해 청중들 앞에서 발표하고 피드백을 들을 수 있어 굉장히 좋은 경험이었습니다. 발표 후기와 함께 몇 가지 관심있었던 발표에 대한 소감을 남깁니다.

[1] 발표 후기

현재 진행하고 있는 연구를 학회장에서 발표하고 싶은 욕심이 컸습니다. 많은 자연어처리 도메인의 downstream task에서 backbone으로 활용되는 BERT는 범용적으로 활용될 수 있는 가치를 인정받았습니다. 그러나 범용성에 집중한 사전학습 방법은 특정 task에 맞추어 발전할 수 있는 여지를 주었습니다. 제가 연구하는 분야는 task 또는 domain에 맞추어 추가 사전학습을 진행했을 때 성능이 증가하는 것을 보이기 위한 adaptive pretraining 연구입니다. 기존 방법론에 추가적으로 task에 적합한 형태로 사전학습을 하는 방법을 제안하였는데, 더 발전시켜야 할 부분도 많지만 기대에 부응하는 성능을 보이는 것이 신기하였고 결과물에 대해 발표할 수 있어 영광이었습니다. 다음 번 발표할 기회가 또 생긴다면 더 완성된 연구를 소개하겠다는 동기부여도 되었습니다.

[2] 참관 후기

[2-1] 의료영상 분할 모델의 예측 불확실성 정량화 기법 비교 연구

개인연구를 진행하면서 모델의 예측값에 대한 robustness를 확보하는 것이 굉장히 중요하다는 것을 체감하였습니다. 이러한 고민은 의료 도메인에서 더욱 중요할 것입니다. 본 발표에서는 인적 자원 등의 현실적인 한계로 인해 진단 모델의 예측에 대한 불확실성을 극복하고자 픽셀 단위, 그리고 이미지 단위 두 단계의 정량화 절차를 제안하였습니다. 의학적인 지식에 대한 보장을 할 수 없는 모델의 예측값에 대해 여러 단계로 정량화를 실시하는 것이 합당하다고 느껴졌으며 불확실성이 높은 결과에 대해서는 판단을 보류하는 방법 역시 현실적인 대안이라 생각했습니다. 제가 의료 도메인에 대한 지식이 많지 않아 궁금한 부분은, 의료 이미지의 경우 정상/비정상으로 구분되는 영역이 굉장히 좁게 나타날 수도 있을 것 같은데 본 연구가 해당 이슈에 대해서도 잘 대처할 수 있을지 궁금했습니다. 추후 class imbalanced situation에서의 효과적인 정량화 기법에 대한 연구도 기대가 되는 발표였습니다.

[2-2] 머신러닝 기법을 활용한 축구 경기 결과 예측 및 베팅 전략 수립

저는 축구를 좋아하는데 마침 축구리그 데이터에 머신러닝 기법을 활용하여 결과를 예측하는 연구가 있어 흥미롭게 참관하였습니다. 이미 스포츠 분야에서는 경기와 관련된 다양한 데이터를 활용하여 전술 보강, 선수 관리 등의 영역에서 큰 효과를 보고 있지만 제안하는 연구에서는 베팅 영역으로 방향을 설정하고 수익 창출 모델까지 제시하여 확장성이 좋겠다고 느꼈습니다. 스포츠 시장 중 축구 시장이 상당히 큰 편이기 때문에 해당 모델을 사업 영역으로 확장할 수 있다면 좋은 틈새가 될 것이라 생각하였습니다. 동시에 현실적인 이슈에 대해 고민하기도 하였습니다. 베팅을 수행할 때 고려하는 변수가 발표자료에서 제안하는 팀 별 정량지표 이외에도 개별 선수의 컨디션, 부상 여부 등의 이슈도 있을 것 같은데, 수익 모델을 구성하려면 이러한 불확실성을 정량적으로 반영하는 방법에 대해서도 고민해보아야 할 것 같습니다.

[2-3] Wav2vec 2.0을 활용한 한국어 음성인식

같은 세션에 제가 참여한 연구가 있었고 마침 연구 이야기를 자주 하던 김정희 석사과정의 발표가 있어 참관하였습니다. 음성 도메인에서도 pretrained model이 좋은 성능을 보이고 있는 가운데, 한국어에 대한 벤치마크가 많이 없다는 한계점 역시 존재했습니다. 제안하는 연구에서는 한국어를 특성에 맞게 전처리한 후 wav2vec 방법론으로 감성분석 task에서 좋은 성능을 보였습니다. 단순 입력 데이터만을 바꾼 것이 아닌, 한국어의 언어체계를 고려하여 음절 및 자소를 학습한 아키텍쳐를 제시하고 한국어-영어 간의 cross lingual knowledge transfer를 실험하여 효율적인 모델 구축이 가능한지 확인하는 작업을 보고 꼼꼼한 연구 설계 방법에 대해 배울 수 있어 유익한 시간이었습니다.