Boostcamp AI Tech32 [Week 2 - Day 3] DL Basic - CNN 1. 강의 내용 4. CNN - convolution layer, pooling layer : feature extractino - fully connected layer - decision making (ex, classification) stride - 필터를 순회하는 간격 padding -입력 데이터의 외곽에 특정값(보통 0)으로 채워넣어 convolution 레이어의 출력 데이터의 크기가 줄어드는 것 방지 학습 파라미터 수 : 입력 데이터의 채널 * 필터 크기 * 출력 데이터의 채널 1*1 Convolution - Dimension reduction - reduce the number of paraeters while increasing the depth 5. Modern CNN AlexNet -.. 2021. 8. 11. [Week 2 - Day 2] DL Basic - Optimization 1. 강의 내용 1) DL Basic 3. Optimization Generalization 학습 데이터와 훈련 데이터의 gap 만약 학습 데이터가 안 좋으면 훈련데이터가 좋아도 모델이 좋은 성능이라고 할 수 없다 (학습데이터와 훈련 데이터의 차이이기 떄문에) Under fitting vs. Over fitting Cross validation K-Fold 검증 : 데이터를 k개로 나눠서 k-1개의 훈련데이터, 1개의 test 데이터 Bias Variance tradeoff Bias : target에 얼마나 가까운지 Varience : 얼마나 일관적인지 Bias 와 Varience 가 모두 낮아야 좋은데 하나가 낮으면 하나는 높아짐 Bootstrapping random sampling Bagging an.. 2021. 8. 10. [Week 2 - Day1] Deep Learning Basic 1. 강의 내용 딥러닝 기본 용어 설명 Artificial Intelligence( 사람의 지능 모방) > Machine Learning (데이터를 통한 학습) > Deep Learning The data that the model can learn from The model how to transform the data The loss function that quantifies the badness of the model - 모델을 어떻게 학습할지 - Regression Task : MSE (최소제곱법) - Classification Task : CE(Cross Entropy) - Probabilistic Tast : MLE ( 최대가능도추정법) The algorithm to adjust the pa.. 2021. 8. 9. [Week 1 - Day 5] AI Math 5-10 확률론, 통계학, CNN, RNN 1. 강의 내용 5. 딥러닝 학습방법 이해하기 신경망 ( 비선형모델 ) 소프트맥스 함수 - 모델의 출력을 확률로 해석할 수 있게 변환해주는 연산 - 분류 문제를 풀 때 선형모델과 소프트맥스 함수를 결합하여 예측 신경망은 선형모델과 활성함수를 합성한 함수 활성함수 - 실수값의 입력을 받아서 실수값으로 출력 (비선형 함수) - 시그모이드 - tanh - ReLU : 딥러닝에서 많이 쓰임 MLP ( multi layer perceptron) : 신경망이 여러층 합성된 함수 층이 깊을수록 목적함수를 근사하는데 필요한 뉴런의 숫자가 훨씬 빨리 줄어들어 효율적으로 학습 가능 역전파 알고리즘 - 각 층 파라미터의 그레디언트 벡터는 윗층부터 역순으로 계산 - 역전파 알고리즘은 합성함수 미분법인 연쇄법칙 기반 자동 미분.. 2021. 8. 6. [Week 1 - Day 4] AI Math 1-4 벡터, 행렬, 경사하강법 1. 강의 내용 1강. 벡터 벡터 : 숫자를 원소로 가지는 리스트 또는 배열 공간에서의 한 점, 원점으로부터 상대적 위치 벡터의 노름 : 원점에서부터의 거리 L1- 노름 : 각 성분의 변화량의 절대값의 합 L2 - 노름 : 피타고라스 정리를 이용해 유클리드 거리 계산 노름을 이용하여 두 벡터 사이의 거리 계산 (벡터의 뺄셈) || y - x || = || x- y || 제 2 코사인 법칙 이용하여 두 벡터 사이의 각도 계산 내적 2강. 행렬 행렬 : 벡터를 원소로 가지는 2차원 배열 공간에서 여러점 나타냄 행렬의 행벡터 : i 번째 데이터 같은 모양을 가지면 덧셈, 뺄셈 계산 가능 행렬 곱셈 : i 번째 행벡터와 j 번째 열벡터 사이의 내적을 성분으로 가지는 행렬 np.inner : i번째 행벡터와 j .. 2021. 8. 5. [Week 1 - Day 3] Python 6,7 (Numpy, Pandas) 1. 강의 내용 6. numpy Numerical Python 파이썬의 고성능 과학 계산용 패키지 - 선형대수와 관련된 다양한 기능 제공 Matrix와 Vector와 같은 Array 연산의 표준 일반 리스트에 비해 빠르고 효율적 반복문 없이 배열 처리 ndarray test = np.array([1,4,5,8],float) 함수 활용 배열 생성 하나의 데이터타입만 넣을 수 있음 test.shape : test 배열의 shape 반환 ( 크기, 형태 ) test.dtype : test 배열의 데이터 타입 반환 test.nbytes : ndarray object의 메모리 크기 반환 Handling Shape - reshape : Array의 shape 크기 변경 - flatten : 다차원 array를 1차.. 2021. 8. 5. 이전 1 2 3 4 5 6 다음 반응형
