dew's CSE Studying

이 논문은 CreamFL에 관한 논문이다! 진행중인 연구에 관해 진행한 topic관련 세미나에서 질문으로 들어왔던 부분이라 읽어본다 :)Abstract기존 multimodal FL의 문제점single modality 수준에서 모델을 합치는 방법에 의존한다서버와 클라이언트가 각 모달리티에서 동일한 모델 아키텍처를 갖는 것 제한model complexity, data capacity 측면에서 글로벌 모델을 제한다양한 task를 처리하는 것 어려움this paper"Cream FL" : Contrastive Representation Ensemble and Aggregation for Multimodal FL이질적인 모델 아키텍처&데이터 모달리티를 가진 클라이언트들이 public dataset에서만 지식을 공..

AbstractThe Internet of Things(IoT)정보통신기술 기반으로 모든 사물을 연결해 사람과 사물, 사물과 사물간에 정보를 교류하고 상호 소통하는 지능형 인프라 및 서비스 기술 FL로 기존 한계 극복Traditioinally - centralized data collection/processiong → IoT의 규모가 커지고, data privacy 문제가 중요해지면서 어렵Federated Learning(FL) - 데이터를 공유하지 않고도 IoT 디바이스에서 AI 모델을 학습할 수 있도록 지원하는 분산형 협력 AI 접근 방식 Introduction기존 AI 방식의 한계데이터 학습/모델링을 위해 기존 AI에서는 AI functions는 클라우드 서버/데이터 센터에 위치하였다 => IoT..

publication in IEEE Journal on Selected Areas in CommunicationsAbstractbackgroundmetaverse: 역할을 여러 개 가진 유저들이 가상의 서비스들과 상호작용하는 다양한 경험을 제공하는 것메타버스에서 사용자의 다중 플랫폼 및 교차 공간 데이터/행동을 효과적으로 수집하고 모델링하는 것이 중요해졌다suggestionPersonalized Federated Learning with Model-Contrastive Learning(PFL-MCL) framework-human-centric 메타버스 환경에서 커뮤니케이션/상호작용을 증가시킨다-by 큰 스케일+이질적+멀티모달의 메타버스 데이터를 사용함으로써전통적인 FL과의 차이-기존: multi-cent..

AbstractFederated learning is a set-up in which multiple clients collaborate to solve machine learning problems, which is under the coordination of a central aggregator연합학습이란 이렇게 client 여러명이 중앙서버를 가지고 함께 ML problem을 해결하기 위해 협력하는 것이다.이렇게 하면 data privacy 보장할 수 있다. data가 training data가 decentralized되기 때문에! 2가지 main idealocal computingmodel transmission=>traditional centralized ml methods에서 발생했던 pri..

Abstractexplore "prompt tuning," a simple yet effective mechanism for learning "soft prompts" to condition frozen language models to perform speific downstream tasks  prompt tuning:모델에 입력되는 프롬프트(명령이나 요청등의 text)를 조정하여 모델이 원하는 방식으로 응답하도록 하는 것chat gpt에 내가 입력하는 명령을 조정하여 모델의 성능을 높이는 것이다.model parameter의 수정 필요X soft prompts:자연어가 아닌 학습가능한 연속적인 벡터(continuous한 입력값을 말하는 것 같은데 이정도 개념으로 알아두자!)continuous&tun..