50+ days of Machine Learning

 안녕하세요! 오늘은 Day 24입니다! 오늘은 시계열 배운 것을 새로운 데이터에 적용해 봤다 신경망을 사용한 시계열 모델로 원-달러 환율을 예측 오늘 사용했던 데이터는 Day 7에 만든 모델 만들 때도 사용했다 그래도 그때 회귀 모델 만들었는데 오늘은 신경망 모델을 만들어 봤다 데이터는 2000부터 2020까지 ₩-$ 환율 데이터이다 우선, 시계열 예측 하려면, 데이터를 창으로 나누면 좋겠다는 말을 알게 되었다 위에 파라미터를 튜닝에 따라 성능에 큰 영향을 준다. 하루 종일 이 파라미터와 모델 레이어 파라미터 튜닝을 많이 해 봐서 성능이 어떻게 다른지 알게 되는 것이 재미있었다 파이널 모델은 다음과 같다 Mean absolute error 사용했는데 결과는 다음과 같다 그리고 테스트 데이터로 예측하면 성능은 다음과 같다 이제, 오늘 동안 만들어 본 모델 성능의 사진 및 모델 구조 있다 모델 1 MAE: 0.02755 모델 2 window_size = 183 MAE: 0.03141 모델 4 window_size = 60 MAE: 0.02798 모델 5 shuffle_buffer_size = 5000 MAE: 0.02503 모델 6 shuffle_buffer_size = 10000 MAE: 0.01939 모델 7 window_size=45 MAE: 0.03332 모델 8 window_size=60 batch_size=16 MAE: 0.02999 모델 9 batch_size=32 그리고 모델 구조 변경했다 (LSTM 레이어 추가) MAE: 0.01627 모델 10 shuffle_buffer_size = 1000 (original value 원래 그랬다) MAE: 0.02009 모델 11 LSTM 레이어 추가 MAE: 0.01756 모델 12 shuffle_buffer_size = 5000 MAE: 0.04496 모델 13 shuffle_buffer_size=1000, 또한 모델 구조 변경했다 MAE: 0.02415 모델 14 모델 구조 변경 MAE: 0.0...

 안녕하세요! 오늘은 Day 21입니다! 드디어 오늘 TensorFlow developer certificate 준비 course 를 끝냈다 그러나, 실제 시험을 아직 못 볼 것 같다. Practice 좀 더 필요한 것 같기 때문이다. 내일부터 course에서 배운 것을 kaggle에서 보는 데이터로 적용할 것이다. 오늘 배웠던 내용을 요약해 보도록 한다 Sequences, Time series & Prediction  부분을 공부했다 꽤 쓸모있는 function 얻었다 tensorflow로 시계열 예측 할 때 일단 데이터셋이 창으로 나눠야 한다 이런 단순한 모델로 훈련할 수 있는데 이건 너무 단순하다 Huber - 모델 손실 함수에 대해 알게 되었다. "In statistics, the Huber loss is a loss function used in robust regression, that is less sensitive to outliers in data than the squared error loss" 창으로 나눠서 Bidirectional LSTM 레이어에 넣기 전에 lambda 레이어로 데이터를 변경해야 한다. 또, 마지막 레이어에서도 더 이해할 수 있는 형으로 변경하기 위해 x * 100.0를 적용한다 마지막 과제에서 아래 모델을 만들어야 했다 결과는 mse: 5.34, mae: 1.80 for forecast 다른 모델도 구성했는데  이 모델을 제출했으면 실패했을 것이다 ^^ 그리고, 오늘 Andrew Ng 교수님께서 이야기 영상 을 봤다  그 중 재미있는 부분은 위에 사진이다 Full 색은 현재 상태인데 semi-transparent 색은 3년 후에 AI의 상태이라고 하셨다. 지도 학습 생각보다 유행하고 generative AI 아직 많이 발전하지 않은 분야인 것 같다 오늘은 여기까지입니다! 내일 뵐게요!

 안녕하세요! 오늘은 Day 7입니다! 오늘 굉장히 재미있는 것을 도전했다. Kaggle의 시계열 course에서 배운 것을 튜터리얼 데이터 아니라 다른 데이터를 사용하여 적용해 봤다. 한·미화(韓美貨)의 환율 예측 - 선형 회귀 모델 서울 자전거 대여 수요 예츨 - 선형 회귀 모델 및 계절성 피처  자세한 정보는 위 링크 클리크하여 확인해 주시면 감사하겠습니다. 내용을 요약하자면: 한·미화(韓美貨)의 환율 예측 - 선형 회귀 모델 Kaggle의 시계열 course를 따라 한-미화의 환율 예츨 모델을 구성하고자 한다. 데이터는 누락 데이터를 처리하는 데 interpolate() 사용하고 시각화 좀 하기도 했다. 피처 엔지니어링: lag_1 ( 지연값) 하나만 만들었다.  won_dolla와 관계를 살펴보기 위해 위에 있는 시각화 만들었다. 관계는 이렇게 선형을 따라 lag_1 피처가 won_dollar에 영향을 준다는 뜻이다 모델 구성: 간단한 선형 회귀 모델을 구성한다 모델 평가: R-squared, MSE, MAE를 사용했다 결과: R-squared: 0.9940588280410957 Mean Squared Error: 63.36394443791358 Mean Absolute Error: 4.608992127520536 Homoscedasticity check: 모델 결과는 좋으면서도 피처는 lag_1밖에 안 써서 좋은 모델이 아니라는 것을 잘 알고 있는데 그냥 어제 배운 것을 실제로 적용하도록 했다. 서울 자전거 대여 수요 예츨 - 선형 회귀 모델 및 계절성 피처  서울 자전거 수요 데이터를 활용한 시계열 예측을 살펴봤는데 이 데이터에는 서울에서 대여한 자전거의 일별 및 시간별 정보와 날씨 정보가 포함되어 있다. 목표는 계절성 피처과 휴일 정보를 통합한 기본 선형 회귀 모델을 구성하는 것이었다. Categorical 피처 처리 연습했다 또 시각화 만들어 봤다. Trend 있는지 확인했다 (특별 trend 없음)...