본문 바로가기

DL 기본개념

Deep Learning : ANN, DNN, RNN, CNN (SLP, MLP)
DL 기본개념 2024. 3. 7. Deep Learning : ANN, DNN, RNN, CNN (SLP, MLP) ANN인공 신경망 : Artificial Neural Network 🚦인간의 뇌     뉴런 : 세포체와 여러개의 수상돌기, 일반적으로 한 개의 축삭돌기로 이루어져있다      수상돌기는 여러 branch에서 들어오는 자극들을 수용     축삭돌기는 세포체와 수상돌기를 지난 정보를 다른 신경 세포에 전송       이 과정에서 정보를 주는 축삭돌기와 이를 수용하는 수상돌기의 경계가 시냅스이다.       시냅스는 하나의 뉴런과 또 다른 뉴런의 연결지점이라고 할 수 있는 것        뉴런의 전기화학적 신호에 따라 potential의 변화가 발생        rest 상태의 뉴런의 내부 퍼텐셜은 -70mV로 이때는 외부에 더 많은 양이온이 존재한다 = 막전위       일반적 상태의 뉴런은 극성 분자나..
Bayes' theorem & VAE
DL 기본개념 2024. 3. 1. Bayes' theorem & VAE https://tkayyoo.tistory.com/134 [Generative] DDPM : Denoising Diffusion Probabilistic Models (NIPS'20)Paper : https://arxiv.org/abs/2006.11239 Authors Jonathan Ho et al, UC Berkeley, NIPS’20 Main Idea 기존 Diffusion 모델이 High Quality Sample을 Generation할 수 있다는 것을 보임. ε-prediction reverse process parametrization 기법을 제안tkayyoo.tistory.com위 티스토리를 참고하여 쓴 글입니다. 베이즈 정리VAEVAE의 ELBO  베이즈 정리conditional distr..
Wavenet 논문 전체 내용
DL 기본개념 2023. 11. 1. Wavenet 논문 전체 내용 wavenetdilated causal convolution 기반의 오디오 파형을 생성하는 신경망더보기dilated convolution    receptive field : filter가 한 번에 계산하는 영역 //receptive field가 커질 수록 output 계산 시 사용되는 정보의 양이 많음    정보의 양 증가 => 학습량 증가 => 연산량 증가receptive field를 크게 만들어 커버 영역을 크게 만듦 & 연산량 증가dilation 크기 증가 => input 간격 증가 => receptive field 증가     but, 연산량 증가 X필터를 sparse하게 추출하는 경우 물론 손실은 있겠지만 receptive field의 크기가 중요한 경우 작동 goodex) audio 데이터의..
Object Detection 개념 정리 및 학습일지
DL 기본개념 2023. 10. 27. Object Detection 개념 정리 및 학습일지 object detection : 객체 탐지주어진 이미지 내 사용자가 관심 있어하는 객체 탐지ground truth : 이미지 속 객체의 위치에 대한 개발자의 정답 bounding box : 이미지 속 객체 위치 표시 상자"성능이 좋은 객체 탐지 알고리즘" = gound truth와 가장 가까운 Bbox를 표현한 모델IoU : intersection over unionIoU값이 높을 수록 성능 좋음 You Only Look Once - 이미지 전체를 한번만 본다- 실시간 object detection 가능 복잡한 파이프라인 X => fast [알고리즘 작동 방식]1) input 이미지 N*N 그리드로 분할2) 각 그리드마다 이미지 분류 및 지역화 작업 수행        객체 위치 확인 및 식별해야하는 객..
CV Task 보호되어 있는 글입니다.
[RNN, LSTM, GRU]
DL 기본개념 2023. 10. 2. [RNN, LSTM, GRU] RNN : recurrent neural networks순환 신경망으로 입력과 출력을 시퀀스 단위로 처리하는 방법                                             : 순서가 있는 데이터                                             ex) 시계열 데이터, 텍스트 데이터                                             -다대일 모델링 : 입력 데이터가 시퀀스 (ex) 감성분석 : 텍스트데이터 => 감성 클래스 분류)                                                                                 감성분석 : (sentiment analysis : opi..
GAN, WGAN, WGAN-GP
DL 기본개념 2023. 9. 19. GAN, WGAN, WGAN-GP 현실적 상황 속 데이터 => 불균형 데이터 분포가 많음 => 원시 데이터의 증강이 목표DCGAN 등 다양한 GAN이 존재 => 그 중 WGAN, WGAN-GP는 안정적으로 최적화됨1) 기본 GAN의 알고리즘2) WGAN-GP를 사용한 검증 방법3) GAN 효과 test 실험순으로 정리해보겠음 1) Generative Adverserial network훈련 전략 : minimax 게임-generator : 가우스, 균일 분포의 noise 분포에서 샘플을 가져와서 기존 실제 데이터와 동일한 데이터 공간으로 mapping                      => 가능한 현실적인 데이터를 만들어내도록 훈련받음-discriminator : 입력된 가짜(생성된) 데이터와 실제 데이터 구분              ..
Generative Adversarial Network란? 보호되어 있는 글입니다.

티스토리툴바