본문 바로가기

Boostcamp AI Tech/[week 1-5] LEVEL 119

[Week 2 - Day 2] DL Basic - Optimization 1. 강의 내용 1) DL Basic 3. Optimization Generalization 학습 데이터와 훈련 데이터의 gap 만약 학습 데이터가 안 좋으면 훈련데이터가 좋아도 모델이 좋은 성능이라고 할 수 없다 (학습데이터와 훈련 데이터의 차이이기 떄문에) Under fitting vs. Over fitting Cross validation K-Fold 검증 : 데이터를 k개로 나눠서 k-1개의 훈련데이터, 1개의 test 데이터 Bias Variance tradeoff Bias : target에 얼마나 가까운지 Varience : 얼마나 일관적인지 Bias 와 Varience 가 모두 낮아야 좋은데 하나가 낮으면 하나는 높아짐 Bootstrapping random sampling Bagging an.. 2021. 8. 10.
[Week 2 - Day1] Deep Learning Basic 1. 강의 내용 딥러닝 기본 용어 설명 Artificial Intelligence( 사람의 지능 모방) > Machine Learning (데이터를 통한 학습) > Deep Learning The data that the model can learn from The model how to transform the data The loss function that quantifies the badness of the model - 모델을 어떻게 학습할지 - Regression Task : MSE (최소제곱법) - Classification Task : CE(Cross Entropy) - Probabilistic Tast : MLE ( 최대가능도추정법) The algorithm to adjust the pa.. 2021. 8. 9.
[Week 1 - Day 5] AI Math 5-10 확률론, 통계학, CNN, RNN 1. 강의 내용 5. 딥러닝 학습방법 이해하기 신경망 ( 비선형모델 ) 소프트맥스 함수 - 모델의 출력을 확률로 해석할 수 있게 변환해주는 연산 - 분류 문제를 풀 때 선형모델과 소프트맥스 함수를 결합하여 예측 신경망은 선형모델과 활성함수를 합성한 함수 활성함수 - 실수값의 입력을 받아서 실수값으로 출력 (비선형 함수) - 시그모이드 - tanh - ReLU : 딥러닝에서 많이 쓰임 MLP ( multi layer perceptron) : 신경망이 여러층 합성된 함수 층이 깊을수록 목적함수를 근사하는데 필요한 뉴런의 숫자가 훨씬 빨리 줄어들어 효율적으로 학습 가능 역전파 알고리즘 - 각 층 파라미터의 그레디언트 벡터는 윗층부터 역순으로 계산 - 역전파 알고리즘은 합성함수 미분법인 연쇄법칙 기반 자동 미분.. 2021. 8. 6.
[Week 1 - Day 4] AI Math 1-4 벡터, 행렬, 경사하강법 1. 강의 내용 1강. 벡터 벡터 : 숫자를 원소로 가지는 리스트 또는 배열 공간에서의 한 점, 원점으로부터 상대적 위치 벡터의 노름 : 원점에서부터의 거리 L1- 노름 : 각 성분의 변화량의 절대값의 합 L2 - 노름 : 피타고라스 정리를 이용해 유클리드 거리 계산 노름을 이용하여 두 벡터 사이의 거리 계산 (벡터의 뺄셈) || y - x || = || x- y || 제 2 코사인 법칙 이용하여 두 벡터 사이의 각도 계산 내적 2강. 행렬 행렬 : 벡터를 원소로 가지는 2차원 배열 공간에서 여러점 나타냄 행렬의 행벡터 : i 번째 데이터 같은 모양을 가지면 덧셈, 뺄셈 계산 가능 행렬 곱셈 : i 번째 행벡터와 j 번째 열벡터 사이의 내적을 성분으로 가지는 행렬 np.inner : i번째 행벡터와 j .. 2021. 8. 5.
[Week 1 - Day 3] Python 6,7 (Numpy, Pandas) 1. 강의 내용 6. numpy Numerical Python 파이썬의 고성능 과학 계산용 패키지 - 선형대수와 관련된 다양한 기능 제공 Matrix와 Vector와 같은 Array 연산의 표준 일반 리스트에 비해 빠르고 효율적 반복문 없이 배열 처리 ndarray test = np.array([1,4,5,8],float) 함수 활용 배열 생성 하나의 데이터타입만 넣을 수 있음 test.shape : test 배열의 shape 반환 ( 크기, 형태 ) test.dtype : test 배열의 데이터 타입 반환 test.nbytes : ndarray object의 메모리 크기 반환 Handling Shape - reshape : Array의 shape 크기 변경 - flatten : 다차원 array를 1차.. 2021. 8. 5.
[Week 1 - Day 2] Python 3,4,5 1. 강의 내용 3-1. Python Data Structure - 스택과 큐 스택 : 나중에 넣은 데이터를 먼저 반환하도록 설계된 메모리 구조 (LIFO) 리스트, collections.deque() 사용 큐 : 먼저 넣은 데이터를 먼저 반환하도록 설계된 메모리 구조 리스트 - append(),get(), pop(0) - 튜플과 집합 tuple : 값의 변경이 불가능한 리스트 연산,인덱싱, 슬라이싱 가능 프로그램을 작동하는 동안 변경되지 않는 데이터의 저장 (학번, 이름 등) (1) 하나만 넣으면 정수로 인식 집합(set) : 값을 순서없이 저장, 중복 없이 intersection()교집합, difference()차집합 - 사전 (dict): key값(데이터를 구분 지을 수 있는 고유한 값)-value.. 2021. 8. 3.
반응형

티스토리툴바