Basic Statistics/#Statistic 썸네일형 리스트형 [통계] 알고리즘의 복잡도 (2) - 알고리즘의 여러 차수 지난 게시글에 이어 알고리즘의 여러가지 차수를 계산하여 비교해보고자 한다. 또한, 피보나치 수열을 예제로 재귀적, 반복적 프로그램을 구현해보고 각각의 효율성을 비교할 것이다. 지난 게시글 2020/12/27 - [Machine Learning/#Statistic] - [통계] 알고리즘의 복잡도 (1) [통계] 알고리즘의 복잡도 (1) 대용량 데이터를 효율적으로 처리하기 위해서는 효율적인 알고리즘이 필수적이다. 같은 기능을 수행하는 알고리즘이라도 시간 효율, 메모리 효율은 다를 수 있다. 이번 게시글에서는 벡터의 내 jiwon-lee-it.tistory.com 1/ 알고리즘의 여러 가지 차수 Input size가 커지거나 복잡한 문제일수록 차수 비교가 중요해짐 eg) 외판원 문제 (traveling sal.. 더보기 [통계] 알고리즘의 복잡도 (1) 대용량 데이터를 효율적으로 처리하기 위해서는 효율적인 알고리즘이 필수적이다. 같은 기능을 수행하는 알고리즘이라도 시간 효율, 메모리 효율은 다를 수 있다. 이번 게시글에서는 벡터의 내적을 수행하는 두 가지 다른 알고리즘을 예로 들어 시간 복잡도 및 메모리 비용을 측정해보고자 한다. 또한, 알고리즘의 복잡도를 측정하기 위하여 Big-O라는 차수에 대해 다룰 것이다. 1/ 프로그램의 복잡도: 내적 # 내적 01 innerproduct = function(v, w) { 02sumvalue = 0 03 04 for (i in 1:length(v)){ 05 sumvalue = sumvalue + v[i] * w[i] 06 } 07 return (sumvalue) 08} a/ 시간 복잡도 b/ 메모리 비용 # 향상.. 더보기 [통계] 부동소수점과 오차 컴퓨터에서 실수는 부동소수점(Floating Point)으로 표현된다. 이에 따라 마무리 오차, 오버/언더 플로우, 유효숫자의 상실이 발생한다. 이번 게시글에서는 부동소수점수의 진법 변환과 각각의 오차에 대해 다루고자 한다. 1/ 부동소수점수와 정밀도 * 2배 정밀도: 지수부 11비트, 가수부 52비트 (64비트)로 [2^-1024, 2^1023] 16자리의 정밀도를 갖음 * 단일 정밀도: 지수부 8비트, 가수부 23비트 (32비트)로 [2^-128, 2^127] 6자리의 정밀도를 갖음 2/ 기저의 변환 3/ 오차 (error) * 절대오차: |X_t - X_A| * 상대오차: |X_t-X_A| / |X_t| (Scale로 표준화) 4/ 유효숫자의 개수 (significant digit) 참값과 비교 시.. 더보기 [통계] 선형회귀와 알고리즘 (출처) edwith 모두를 위한 딥러닝, Sung, Kim H(x) = W * x (b = 0) ▣ 비용함수의 정의에 따라, W = 1, cost(W) = 1/3 *{(1*1-1)^2 + (2*1-2)^2 + (3*1-3)^2} = 0 W = 0, cost(W) = 1/3 *{(0*1-1)^2 + (0*2-2)^2 + (0*3-3)^2} = 14/3 =4.67 W = 2, cost(W) = 1/3 *{(2*1-1)^2 + (2*2-2)^2 + (2*3-3)^2} = 14/3 =4.67 Gradient descent algorithm : 경사를 따라 내려가는 알고리즘 비용함수, 머신러닝 최소화 문제에 사용 W,b의 함수에 적용시켜 최소값을 산출 다수의 값을 포함하는 Cost function도 최소화 가능.. 더보기 [통계] 선형회귀 가설과 비용 함수 (출처) inflearn 모두를 위한 딥러닝 - 기본적인 머신러닝과 딥러닝 강좌, Sung Kim Predicting exam score: regression → 학생의 공부시간 대비 성적을 supervised learning하는 경우 Score 범위 : 0~100점 회귀분석을 통해 학습(training)시킴 Regression으로 모델 생성 ☞ 회귀분석 모델을 적용해 학습된 X값 (공부한 시간)을 바탕으로 Y값 (예상 점수)를 예측함 Regression (data) ▤ Linear Hypothesis : 많은 현상들이 linear 형태로 설명됨 공부를 많이 할 수록 시험 점수가 높아짐 집의 크기가 클 수록 가격이 올라감 ▤ 학습 : 그래프 상에서 Training 데이터에 잘 맞는 선을 찾는 것 2차원 .. 더보기 이전 1 다음