전체 글 (5) 썸네일형 리스트형 Docker 실습 01 docker 실습을 다시 진행해볼 필요가 있을 것 같아.. 복습 겸 시작! 1. Docker 다운받고 설치하기 공식 사이트에서 Local OS에 맞는 Docker를 다운받고 설치한다. 2. Docker 실행하기 2-1 Docker 이미지 다운받기 mysql 8 버전의 이미지를 pull 해온다. docker pull mysql:8 2-2 다운받은 이미지 확인하기 docker images 다운받은 이미지 목록이 뜬다. mysql 8이 성공적으로 다운받아진 걸 확인할 수 있다. 2-3 컨테이너 만들고 실행하기 docker run --name {container name} -e MYSQL_ROOT_PASSWORD=1234 -d -p 3306:3306 mysql:8 -d : 컨테이너가 detached 모드로 실행.. [week05] cGAN 실습 5주차 첫번째 과제는 cGAN을 구현하고 학습시켜 결과를 출력해보는 것이었다. 데이터셋은 MNIST로 간단한 데이터를 사용한다. 이렇게 간단한 데이터를 사용했는데도 학습이 꽤나 오래 걸렸다^^... cGAN - Conditional GAN 기존 GAN에서는 노이즈로부터 생성한 가짜 결과물인 z와 real data x 만을 가지고 번갈아 가며 학습을 진행했었다. conditional GAN에서는 이름과 같이 condition을 반영할 수 있는 값 c를 추가로 준다. 쉽게 말하면 class 를 줘서 원하는 class에 부합하는 이미지를 생성할 수 있게 한다. (1) Generator 구현 일반 GAN과 달리 cGAN에서는 입력으로 conditional 요소 c가 추가된다고 하였다. z ; random vec.. [week04] ResNet34 실습 1. Pytorch로 ResNet34 직접 구현하기 ResNet을 직접 구현해 보는게 이번주 첫 번째 과제였는데 뭐가 문제인지 성능이 0.3정도에서 올라가지 않았다.. 지금 와서 보니 Resblock에 넣어줬던 인자 init_block이 제 구실을 못하고 있었다(?) 이렇게 한 Layer 묶음에서 맨 처음 resblock에는 init_block을 True로 줘서 차원이 바뀜을 표시하고, residual connection을 identity가 아니라 1x1 projection connection으로 만들려고 했는데 뭔가가 잘 안됐는지 출력 차원은 알맞게 나오나 학습이 잘 안되는 문제가 발생했다. 왜인진 아직도 깨닫지 못했다. ㅎ 그래서 위와 같이 모듈 자체에 init_block 인자를 주지 않고, in_c.. Non-local Neural Network[작성중] sequential data를 처리하려면 과거 정보를 기억해 현재 input과 조합하여 output을 도출해야 한다. vanilla RNN에서는 과거 정보를 요약하는 hidden state를 이용해 sequential data를 처리했다. 짧은 문장의 경우 좋은 성능을 보였지만, 한번에 한 neighbor만 처리하는 RNN 특성상 문장의 길이가 길어져 고려해야할 input들의 거리가 멀어질수록 거쳐야 하는 Layer수가 증가하므로 정보의 손실이 많이 일어났다. 이러한 long range dependency를 잡는 문제는 중요한 problem이다. LSTM은 hidden state외에도 추가로 cell state를 두어 과거 정보의 손실을 방지했다. sequential data 처리의 Long range .. RNN, LSTM, GRU 부스트캠프 AI Tech 5기 최성준 교수님의 강의를 바탕으로 작성하였음. sequential data 문장, 대화, 동영상 등 순서나 시간의 개념이 존재하는 data를 말한다. 이러한 sequential data를 처리하기 위해서는 어떤 모델이 필요할까? 우선 이전에 배웠던 CNN의 경우, 고정적인 input, output size를 필요로 한다. 그러나 대화, 음성 등의 sequential data는 매 입력의 길이가 다를 것이다. 또한 CNN에서는 순서 정보를 고려하지 않기 때문에, CNN으로 이러한 sequential data를 처리하는데에는 한계가 존재한다. sequential model data의 순서 정보를 고려하려면 다음과 같이 timestep t에서의 ouput을 고려하기 위해 이전에 들.. 이전 1 다음
