생각하는 아져씨

지금까지 진행했던 Ensemble 첫번째 연구는 여기서 마무리짓는다. 연구는 석사 1학기 중순부터 시작해서 2학기 말까지 진행했다. 약 10개월 동안 여러 단계의 연구 소주제를 거치고 실험을 진행했는데, 진득하게 한 첫번째 연구라서 그런가 많은 생각이 들었던 것 같다. 내 연구가 한편으로는 자랑스럽고 한편으로는 부끄럽고 그렇다. 하하하 확실히 연구라는 것을 하다보니 나는 복합적으로 성장한 것 같다. 관련연구를 찾다보니 논문 읽는 시간이 줄어들고 이해도가 깊어진다. 또 여러 종류의 실험을 하다보니 많은 데이터셋, 코드, 기술 등을 직접 눈으로 보고 써보게 되었는데, 이 부분이 나의 딥러닝 실력에 큰 도움을 준 것 같다. 역시 코드는 뜯어봐야 최고라는 걸... 새삼 또 느꼈다. 논문을 작성하면서 아쉬운 점이..

개인미팅 기록 [1월 18일 화요일] - 교수님께 논문 보내드리기 - 논문에 RandomForest의 Recursive 버전ㅇ으로 볼 수 있다 정도로 설명했는데, 제목과 본론, 결론에 RR Forest라고 명시를 할지말지? - 그래프랑 그림 수정해서 다시 보내드리겠습다 (교수님 피드백) 논문을 굣님께서 피드백

개인미팅 기록 [1월 11일 화요일] - 논문 수정 중 - 앙상블 번역 실험은 에폭 별 그래프 찍기위해서 다시 실험 중 - 결과 저장한게 날아가서..다시 찍고 그래프 보여드리겠습니담 논문을 피드백 빨리 제출…!!!!!빨리 하기!! [1월 13일 목요일] - 모델 에폭당 성능 측정이 너무 오래걸림 - 모델 10개의 에폭 번역 테스트 : 1에폭당 1시간, 총 10시간 - 모델 1개의 1에폭 결과 TQE 성능 측정 : 2시간, 총 10에폭 20시간 - 단일 모델 10개 총 200시간,,, - 소프트보팅, 서바이벌, 다수결 까지 하면..더 걸림 - 논문 앙상블 구조 그림 수정 중 (피드백) 5에폭짜리로 그래프 그리기

개인미팅 기록 [1월 4일 화요일] (논문 1차 피드백) - ABSTRACT : 앙상블이 딥러닝의 성능을 높이는 이 부분을 원래 의 앙상블 개념으로 설명. (딥러닝 이전에 나왓던 개념 위주로) - rainforest 개념(랜덤포레스트 같음) 디시전트리 하나를 정성들여 잘만든거보다 디시전 트리 여러개 앙상블 -> 성능이 더 좋다는 논문 —> 보통 정답이 단답형 - 그런데 우리는 rnn 에서 어떻게 앙상블 했다~~ (레인포레스트 전제로) 각각의 모델은 동일한 구조임 우리의 기법이 동일 모델을 앙상블 한다는 측면에서 봤을 때 레인포레스트의 recursive 버전 (RR Forest 같은 느낌?) 이런 접근으로 가면 어떨까? - Relative 부분 보완 일반적 앙상블 관련연구도 (지금은 시퀀스 앙상블만 있음)..

개인미팅 기록 [12월 28일 화요일] - 논문 본문 실험이랑 결론 부분 쓰고 있고, 마지막으로 전체 다듬는 거 남았습니다. - 만약 다 완성하면 예상으로는 참고논문 포함 15장 정도밖에 안나올 것 같아서…본문을 더 늘려야 할 것 같은데 실험 결과를 조금 더 추가? - 예를들면, 사칙연산 실험 같은 경우 : 에폭별 성능 그래프가 들어가는데, - 기계번역도 에폭별 성능 그래프나 번역이 잘된 문장 잘되지 않은 문장 같은 실험 결과를 따로 넣어야 할지. (교수님 피드백) - 일단 1차드래프트 작성해서 교수님께 카톡으로 보내기 [12월 31일 금요일] - 논문 1차 피드백 요청 교수님 안녕하세요 :) RNN 앙상블 논문 1차 작성한 것을 보내드립니다. 논문에 들어갈 수식, 그림, 수도코드는 틀을 잡기 위해서 임..

개인미팅 기록 [12월 23일 목요일] - 랜덤 요소 수정 후 그래프 보여드리기 - 논문은 계속 작성 중