전체 글4 [Activation Function] 1. Sigmoid 1. Sigmoid $$ logit(P) = ln\frac{p}{1-p}=f(x)$$ $$\frac{p}{1-p}=e^{f(x)},\\p=e^{f(x)}(1-p),\\p=e^{f(x)}-pe^{f(x)},\\p(1+e^{f(x)})=e^{f(x)}$$ $$ p=\frac{e^{f(x)}}{1+e^{f(x)}}=\frac{1}{1+e^{-{f(x)}}} $$ 위 함수를 로지스틱 시그모이드(Logistic sigmoid function)이라고 하며, 줄여서 시그모이드 함수(sgimoid function)이라고 한다. 여기서 $f(x)$에 회귀 분석과 같은 함수 식을 넣으면, 로지스틱 회귀 모델(Logistic Regression Function)이 된다. $$ f(x) = w^Tx = w_0x_0 + w_1.. 2023. 2. 20. 선형대수학 처음 선형대수학에 대해서 접한 것은 대학교에서 공학수학을 수강했을 때이다. 당시에는 문제를 풀어내기 급급했는데, 지금은 커리어에 필요한 필수지식으로 자리잡을지 누가 알았을까.. 아무튼, 지식이란 누군가에게 설명할 수 있을 때 완벽하게 이해했다고 생각하기 때문에, 공부한 내용들을 정리해서 나눠보려고 한다. 참고한 사이트, 서적, 유용한 영상들은 각 포스트별로 업데이트하도록 하겠다. 방문하신 모든 분들이 좋은 정보들을 얻어가길 바라면서 - 펭귄 2022. 4. 19. 신호처리를 위한 기초 수학 #1 Series(mathmatics) 신호처리는 복잡한 신호들을 분석하여 원하는 신호를 잘 수집하는 것에 그 목적이 있다. 신호를 단순화 하기 위해서는 식을 단순화 시키는 과정이 필요한데, 그 기반이 되는 것이 급수(Series)이다. 본 wiki에서는 신호처리에 기본적으로 쓰이는 수학 이론들을 정리하고 할 수 있는 한 증명까지 진행해보았다. Latex으로 공식을 정리해놨기 떄문에, 언제가는 긁어서 쓸 날이 올거라고 믿어보자. (github에서는 latex을 인식하지 못하는 사고가 발생했다..전부 잘 인시가고서 latex만 인식안하는 넌 정말 편식하는 나쁜아이로구나...!) Taylor series 테일러 시리즈는 미지의 함수를 무한한 다항식의 합으로 나타내 식을 근사하는 기법이다. 복잡한 함수를 다항식으로.. 2022. 4. 18. 개발일지 코딩을 배우기 시작하면서, 제일 많이 들었던 이야기가 두가지 있다. 1. Github를 활발하게 활용해라 2. 배운 것들을 정리한 blog를 운영해라 우선 Github에 코드와 함께 Readme를 작성했지만, 시간이 지날수록 날 위한 정리들이 대부분이었고, 정작 코딩을 하면서 '이런부분은 다른 사람들도 고민할텐데' 하는 부분들은 잘 공유가 되지 않는 것 같았다. 그러면서 문득, 깨달았다. 나도 모르는게 있으면 우선 구글 창에 검색부터 해본다는 걸... 개발자가 되는 커리어 첫 시작에서 내가 배우고 알게 된 지식들을 나누면서 성장하는 일지를 블로그에 써보려고 한다. 정보를 찾아 온 모든 사람들이 좋은 팁들을 얻어가면 좋겠다. -펭귄- 2022. 4. 15. 이전 1 다음
