본문 바로가기

전체 글143

[통계] 로지스틱 회귀분석 해석하기 ✅ 예시: 로지스틱 회귀 분석 결과예를 들어 "흡연 여부가 폐암 발생에 미치는 영향" 을 로지스틱 회귀로 분석했다고 합시다.📊 결과 표 (가상 예시)변수 계수 (β) 오즈비 (OR) p-value상수항-2.0——흡연자 여부1.2?0.01✅ Step 1: 오즈비(OR) 구하기오즈비는 회귀 계수의 지수 함수로 계산합니다:OR=eβ\text{OR} = e^{\beta}👉 흡연자의 계수 β = 1.2 이므로,OR=e1.2≈3.32\text{OR} = e^{1.2} \approx 3.32🔍 해석: 흡연자는 비흡연자보다 폐암에 걸릴 오즈가 3.32배 더 높다.✅ Step 2: 오즈비를 확률로 변환이제 로지스틱 회귀식으로 확률을 구하는 공식에 대입합니다.📌 로지스틱 회귀 예측 식logit(p)=β0+β1x1\.. 2025. 4. 14.
sklearn.preprocessing pickle, joblib 함수 - Scaler 저장 함수 MinMaxScaler를 상용 코드 환경에서 불러와서 적용하려면 scikit-learn의 joblib 또는 pickle을 사용하여 모델을 저장하고 불러올 수 있습니다.  1. MinMaxScaler를 저장하는 방법from sklearn.preprocessing import MinMaxScalerimport joblib# 예시 데이터data = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]# MinMaxScaler 초기화 및 학습scaler = MinMaxScaler()scaler.fit(data)# scaler 객체 저장joblib.dump(scaler, 'scaler_model.pkl') 2. 저장된 MinMaxScaler를 불러와서 적용하는 방법import joblib# 저장된 scal.. 2025. 4. 14.
Layer Normalization과 MinMax Scaler를 함께 적용하면? Lessons&Learning Layer Normalization과 MinMax Scaler를 동시에 적용했을 때 성능 저하 원인 추정 (Backpropagation 관점) 가설 : 데이터도 정규화하고, 레이어도 정규화하면 안정적으로 학습해서 모델이 더 성능이 좋아지지 않을까? 결과 : DNN 기본 모델보다 loss가 높음 (성능 저하) (1) Gradient 흐름 축소로 인한 학습 저하- MinMaxScaler는 입력값의 범위를 [0, 1]로 고정시키므로, 모델 입력의 분산이 작아지게 됨.- 이러한 입력값은 Layer Normalization을 거친 후에도 변화 폭이 제한되어 있어, 이후 레이어에서 생성되는 gradient의 크기가 작아짐. - 결과적으로 역전파 과정에서 gradient가 충분히 전달되.. 2025. 4. 8.
250408_Batch Normalization과 Layer Normalization의 차이 https://velog.io/@gayean01/Batch-Normalization-Layer-Normalization-RMSNorm%EC%9D%98-%EB%B9%84%EA%B5%90 Batch Normalization, Layer Normalization, RMSNorm의 비교1. Batch Normalization 내부 공변량 변화를 줄이기 위해 사용 1.1 수식 정의 미니배치 평균과 분산 계산 주어진 미니배치에서 평균과 분산을 계산한다. 평균: $\muB = \frac{1}{m} \sum{i=1}^{m} x_i$ 분산: $\sigmaB^velog.io 2025. 4. 8.