dew's CSE Studying

https://arxiv.org/abs/1706.03762 Attention Is All You NeedThe dominant sequence transduction models are based on complex recurrent or convolutional neural networks in an encoder-decoder configuration. The best performing models also connect the encoder and decoder through an attention mechanism. We propose a newarxiv.org정말정말 유명한 논문! 마침 인공지능 수업 시간에 Transformer&Attention 파트를 자세하게 다루게 되어 겸사겸사 읽는다!0..

연구실 인턴으로 만난 친구들과 함께하게 되어 지도교수님의 관심 분야인 #FL #AI #multi-modal 정도를 키워드로 잡고 관련 논문 분석을 했다

aka 졸업을 해보자...

https://openreview.net/forum?id=SI2hI0frk6 Transfusion: Predict the Next Token and Diffuse Images with One...We introduce Transfusion, a recipe for training a multi-modal model over discrete and continuous data. Transfusion combines the language modeling loss function (next token prediction) with...openreview.net학부생이 교수님과 석박사생들 앞에서 진행하는 논문 세미나.. 처음이라 두렵고 떨리는 마음이 한가득이지만,, 멋있게 해내고 싶은 건강한 도파민을 느끼며 ..

[강의영상]https://www.youtube.com/watch?v=vT1JzLTH4G4  [강의자료]https://cs231n.stanford.edu/slides/ Index of /slides cs231n.stanford.edu  공부 완료! CV의 역사에 대해 배웠어요~

이 논문은 CreamFL에 관한 논문이다! 진행중인 연구에 관해 진행한 topic관련 세미나에서 질문으로 들어왔던 부분이라 읽어본다 :)Abstract기존 multimodal FL의 문제점single modality 수준에서 모델을 합치는 방법에 의존한다서버와 클라이언트가 각 모달리티에서 동일한 모델 아키텍처를 갖는 것 제한model complexity, data capacity 측면에서 글로벌 모델을 제한다양한 task를 처리하는 것 어려움this paper"Cream FL" : Contrastive Representation Ensemble and Aggregation for Multimodal FL이질적인 모델 아키텍처&데이터 모달리티를 가진 클라이언트들이 public dataset에서만 지식을 공..

AbstractThe Internet of Things(IoT)정보통신기술 기반으로 모든 사물을 연결해 사람과 사물, 사물과 사물간에 정보를 교류하고 상호 소통하는 지능형 인프라 및 서비스 기술 FL로 기존 한계 극복Traditioinally - centralized data collection/processiong → IoT의 규모가 커지고, data privacy 문제가 중요해지면서 어렵Federated Learning(FL) - 데이터를 공유하지 않고도 IoT 디바이스에서 AI 모델을 학습할 수 있도록 지원하는 분산형 협력 AI 접근 방식 Introduction기존 AI 방식의 한계데이터 학습/모델링을 위해 기존 AI에서는 AI functions는 클라우드 서버/데이터 센터에 위치하였다 => IoT..

publication in IEEE Journal on Selected Areas in CommunicationsAbstractbackgroundmetaverse: 역할을 여러 개 가진 유저들이 가상의 서비스들과 상호작용하는 다양한 경험을 제공하는 것메타버스에서 사용자의 다중 플랫폼 및 교차 공간 데이터/행동을 효과적으로 수집하고 모델링하는 것이 중요해졌다suggestionPersonalized Federated Learning with Model-Contrastive Learning(PFL-MCL) framework-human-centric 메타버스 환경에서 커뮤니케이션/상호작용을 증가시킨다-by 큰 스케일+이질적+멀티모달의 메타버스 데이터를 사용함으로써전통적인 FL과의 차이-기존: multi-cent..

AbstractFederated learning is a set-up in which multiple clients collaborate to solve machine learning problems, which is under the coordination of a central aggregator연합학습이란 이렇게 client 여러명이 중앙서버를 가지고 함께 ML problem을 해결하기 위해 협력하는 것이다.이렇게 하면 data privacy 보장할 수 있다. data가 training data가 decentralized되기 때문에! 2가지 main idealocal computingmodel transmission=>traditional centralized ml methods에서 발생했던 pri..

회귀의 평가는 대부분 실제값과 예측값의 오차평균값에 기반한다. 분류의 평가는 정확도만으로는 판단할 수 없다.분류의 성능 평가 지표(이진/다중 모두 가능)정확도(Accuracy)오차 행렬(Confusion Matrix)정밀도(Precision)재현율(Recall)F1 scoreROC AUC 01 정확도(Accuracy)정확도: 실제 데이터에서 예측 데이터가 얼마나 같은지를 판단하는 지표정확도(Accuracy)=예측 결과가 동일한 데이터 건수 / 전체 예측 데이터 건수  binary classification에서는 정확도 지표가 어떻게 ML 모델의 성능을 왜곡할까?이렇게 단순한 코드로도 수치가 나올 수 있기 때문에 적합한 평가지표가 필요하다. 정확도 평가 지표의 맹점: 무조건 특정한 결과로 찍어도 데이터 분..