초보개발자의 성장블로그

이 글은 Long-term Time Series Forecasting에 관한 내용을 공부하고 정리해놓은 곳입니다.논문 작성하기 전까지 계속 업데이트 예정입니다. 각 내용은 하나의 블로그 포스팅으로 작성될 예정입니다.해야할 일 (2024.07.05)각 Transformer 분야에 대해서 정리 및 분류그에 따른 Survey 논문 Forecasting에 관해 정리기준 Survey 논문1. Transformer 분야 : Transformers in Time Series: A Survey(2023)2. CNN 분야 : -3. RNN, LSTM 분야 : -현재 진행 상황1. Transformer 이전의 CNN, RNN, LSTM을 이용한 LTSF2.  Transformer를 이용한 LTSFLogTrans(2019)..

연구분야를 자신이 잘 아는 것을 시작하면 좋겠지만 보통 실제로는 그렇지 않다. 교수님, 과제 등의 다양한 이유로 비슷하거나 아예 새로운 분야를 시작해야하는데, 적정 수준은 교수님이 내 설명만 듣고 이해하고 혹은 기업이 만족할 만한 그 분야의 전문가가 되라는 것. 물론 이 일은 정말 쉽지 않은 일이다. 물론 이 일을 학부생이 하기란 쉽지는 않다. 교수님에게 잘 설명할 수 있어야하고 내 논리를 펼치는 데 있어서 방어도 잘 해내야 하기 때문이다. 다만 이때 시작하지 않는다면 언제 하겠나! 그래서 내 나름대로의 기준을 세우고 진행해보고자 한다. 혹시나 이 글을 보고 첨언 및 다른 방식을 추천한다면 언제든 환영입니다. 아니 제발 저에게도 그 배움을 알려주세요1. 기본 개념 및 배경 지식 습득기본 개념 학습: 해당..

이번 포스팅에서는 파이썬의 itertools 모듈을 활용하여 순열과 조합 문제를 해결하는 방법을 다룹니다. 특히, 백준의 다양한 문제를 예시로 들어 설명하겠습니다. 대부분 위 모듈을 이용해서 풀 수 있지만 특정 문제는 순열 자체에 대한 문제로 itertools를 이용하지 않는 문제도 포함되어 있습니다. Ex) 10972번1. 순열의 이해와 활용순열(Permutation)은 순서를 고려하여 배열하는 방법입니다. 예를 들어, [1, 2, 3]의 순열은 다음과 같습니다:[1, 2, 3][1, 3, 2][2, 1, 3][2, 3, 1][3, 1, 2][3, 2, 1]백준 문제 10972번 "다음 순열"을 통해 순열의 기본 개념을 살펴보겠습니다. 이 문제는 주어진 순열의 다음 순열을 찾는 것입니다. 다만 이 문제..

1. 백트래킹이란?정의 및 개념: 백트래킹은 재귀적으로 가능한 모든 해를 탐색하는 알고리즘 기법입니다.백트래킹의 기본 원리: 조건을 만족하지 않는 경우 이전 단계로 돌아가 다른 경로를 탐색하는 방식으로 동작합니다. 쉽게 말하면 전부 다~ 해보고 고민하는 것입니다.백트래킹의 활용 예시: 퍼즐 해결, 조합, 순열, 그래프 탐색 등 다양한 문제에 사용됩니다. 재귀는 사용할 수 만 있다면 정말 좋은 풀이법이기에 시간초과만 해당하지 않는다면 우선순위로 둬야할 풀이법입니다.2. 백트래킹의 주요 개념문제 분할 (Problem Division): 문제를 작은 부분 문제로 나누어 해결합니다.조건 검증 (Constraint Verification): 현재 상태가 조건을 만족하는지 확인합니다.해결 및 해 확인 (Soluti..

논문 리뷰 - On the Opportunities and Risks of Foundation Models 이 논문은 지도교수님이 Foundation Model에 관한 대략적인 내용을 다룬다고 추천해준 논문입니다. 그러나 내용은 대략적이지 않고 굉장히 집약적이며(참조논문만 60페이지 가량...) 이 논문에 참여한 인원 수도 굉장히 많습니다.그러나 내용 자체는 깊게 들어가지 않고 분야만 바뀔뿐 비슷한 내용을 다루고 있기에 그런 부분을 축약하고 제목처럼 새로운 시각으로 이해해보고자 합니다. 파운데이션 모델(Foundation Models)과 대형 언어 모델(LLM, Large Language Models)은 개념적으로 겹치는 부분이 많지만, 몇 가지 차이점을 통해 둘의 특징을 명확히 이해할 수 있습니다.파운..

서론소개: 에라토스테네스의 체는 고대 그리스 수학자 에라토스테네스가 제안한 소수를 찾는 효율적인 알고리즘입니다. 이 포스팅에서는 에라토스테네스의 체 알고리즘의 원리와 구현 방법을 설명합니다.중요성: 소수는 암호학, 수론 등 여러 분야에서 중요한 역할을 합니다. 에라토스테네스의 체는 큰 범위에서 소수를 빠르게 찾을 수 있는 강력한 도구입니다. 뒤에서 백준 문제중 시간초과로 풀리지 않는 문제를 해결할 수 있습니다.본론간략 설명정말 말 그대로 체를 생각하시면 됩니다. 전체의 숫제를 소수로 보고 어떤 숫자(2, 3, ... 앞에서 부터 시작하는 소수들)의 배수를 제외한다면 소수만 남게 되는 것이 이 개념의 포인트입니다.에라토스테네스의 체란?정의: 에라토스테네스의 체는 주어진 범위 내에서 소수를 찾기 위한 효율적..

포스팅 개요원래는 이 교수님에 대해서만 알고 있고 책을 읽어본 적은 없었으나 지도교수님의 추천으로 읽어보게 되었습니다. 또한 글 역시도 쉽게 쓰여져 평일날 백수처럼 오전 8시에 일어나 침대에 뒹굴거리다 한 페이지를 보니 그 자리에서 전부 읽어버린 책입니다.1부. 공부의 뿌리: 누구나 꽃피울 잠재력이 있다아이들에게 삶을 돌려주자이 포스팅의 제목이 '예쁜 공부를 하지말자'에 대한 내용이 여기에서 시작합니다. 일반적으로 생각하는 공부하자가 아닌 어떤 것을 배우고 익숙해지는 것이여야 하는데, 실제로는 그러기 쉽지 않을뿐더러 오히려 다른 방식으로 가르치고 있다는 것입니다.이에 대해 굉장히 공감하는 이유가 저는 중고등학교때까지 정말 "예쁜" 공부를 했습니다. 일찍 일어나서 늦게까지 공부하고 오답노트를 성실히 작성하..

연구 논문을 읽는 방법이번 학기 후반부에 연구 논문을 작성하는 방법에 대해 논의할 예정입니다. 우선, 연구 논문을 읽는 방법에 대해 다뤄보겠습니다. 이 논의는 논문을 주의 깊게 읽어야 하는 이유가 있다는 전제하에 진행됩니다. 예를 들어, 과제로 논문이 주어졌다면 이는 읽어야 할 충분한 이유입니다. 또한, 논문을 검토해야 하거나, 자신의 연구와 관련이 있다면 주의 깊게 읽어야 합니다. 나중에는 논문을 대충 훑어보는 방법도 논의할 것입니다.역시 초반에는 왜 논문을 보는 지에 대한 일반적인 설명으로 시작합니다. 이후 총 5가지의 가이드를 설명하면서 내용을 진행합니다.1. 비판적으로 읽기: 연구 논문을 읽는 과정은 비판적인 과정이어야 합니다. 저자들이 항상 옳다고 가정해서는 안 됩니다. 대신 의심을 가지고 읽어..

1. 서론연구자들은 여러 가지 이유로 논문을 읽어야 하는 데, 그 이유는 다양합니다. 하지만 논문을 효율적으로 읽는 기술은 거의 교육하지 않고 개인 랩실에서 시도와 실패를 통해 이 기술을 배우게 되는데 이를 해결하기 위해 Keshav는 3단계 접근법을 소개하고 있습니다.2. 3단계 접근법이 논문에서는 3단계 접근법으로 논문을 처음부터 끝까지 한 번에 읽는 대신, 세 번에 걸쳐 읽는 것을 목표로 합니다.  2.1 첫 번째 단계첫 번째 단계는 논문을 빠르게 스캔하여 전체적인 개요를 파악하는 것입니다. 이 단계는 약 5-10분 정도 소요되며 다음과 같은 단계를 포함합니다:제목, 초록, 도입 부분을 주의 깊게 읽습니다.섹션 및 하위 섹션 제목을 읽습니다.결론 부분을 읽습니다.참고 문헌을 훑어보고 이미 읽은 논문..

[데이터처리와분석] GMM EM Algorithm요약¶unsupervised classification 문제를 풀 때, 각 포인트를 특정 가우시안 분포에 속하도록 만들고 싶다. 이것이 GMM처음에는 특정 가우시안 분포(평균, 분산)을 랜덤으로 잡고 각 포인트에 레이블을 준다 (초기화)레이블 된 포인트으로 다시 가우신안 분포의 평균, 분산을 구해서 다시 레이블링한다. (반복, E step, M step)그러면 결국 레이블을 잘 구분할 수 있는 것이다. -> 수렴 영상은 참고자료에서 볼 수 있다.========이 코드는 기대 최대화(Expectation-Maximization, EM) 알고리즘을 사용하여 가우시안 혼합 모델(Gaussian Mixture Model, GMM)의 매개변수를 추정하는 함수입니다...