고양이 두 잔

목차 들어가며 감마 함수는 정수 팩토리얼($n!$) 개념을 실수(혹은 복소수) 영역으로 일반화한 함수이다.  확률 분포 이론에서 자주 등장하며, 특히 베타 분포(Beta distribution), 감마 분포(Gamma distribution),  디리클레 분포(Dirichlet distribution) 등에서 중심적인 역할을 한다. 좀 더 구체적으로는 머신러닝을 비롯한 확률론 기반 모델에서는 감마함수를 양의 실수영역까지만 확장해서 사용한다. 당연하다면 당연하게도 음수나 복소수의 경우엔 확률 분포가 성립하지 않거나 정규화 상수가 무의미해지기 때문이다. 정의 양의 실수 $z > 0$에 대해 감마 함수는 다음과 같이 정의된다: $$\Gamma(z)=\int^\infty_0t^{z-1}e^{-t}dt$$ 이는 ..

목차 들어가며 비전 인공지능에 대한 책을 공부하던 중 이런 문장을 만났다:"모델을 데이터에 피팅할 때, 그 피팅의 불확실성을 확률 분포로 표현한다." "파라미터 위에 또 하나의 확률 분포가 존재한다. 이를 하이퍼파라미터로 제어한다."  이건 또 무슨 말인가. 모델을 만들었으면 끝이지 왜 또 확률 분포가 등장하는 것인가. 이 글에서는 위 문장의 뜻을 내가 알아들을 수 있는 수준으로 파헤쳐본다. 비전 인공지능 모델 = 확률 모델 시각 인공지능, 즉 컴퓨터 비전 모델은 결국 이런 형태로 표현된다: $$Pr(y∣x;θ)$$ $x$: 입력 이미지 (예: 강아지 사진)$y$: 예측 결과 (예: "강아지" vs "고양이")$\theta$: 모델 파라미터 (예: 신경망 weight)즉, 확률 모델이란 "입력 $x$가 ..

목차 생각해 보면 대학원을 다닐 때도 pdf의 의미에 대해선 크게 관심이 없었다. 그냥 이런저런 성질을 가지고 있고 이렇게 쓴다.. 쓰면 되지 뭐.. 하고 썼는데 10년이나 넘게 지나 다시 마주친 건 운명이라는 생각이 들어서 베이즈 정리와 함께 제대로 공부하고 넘어가기로 했다. 10년 후의 나에게 도움이 되기를! 확률 밀도 함수(Probability Density Function, pdf) 확률 밀도 함수는 연속 확률 변수의 확률 분포를 수학적으로 표현하는 가장 핵심적인 도구이다. 확률 밀도 함수 $Pr(x)$는 확률 변수 $x$가 특정 값을 중심으로 얼마나 "밀집되어" 있는지를 나타내는 함수이다. 즉, $x$가 특정 값 근처에서 관측될 가능성의 상대적 크기를 나타낸다.하지만 중요한 점은 다음과 같다: ..

목차 이 챕터에서는 확률론의 핵심 개념을 간략히 정리한다. 개념의 수는 많지 않으며, 각각을 개별적으로 보면 비교적 단순하다. 그러나 이 개념들이 결합되면 불확실성을 기술하는 강력한 언어가 된다. 2.1 확률 변수 확률 변수 $x$는 불확실한 양을 나타낸다. 이는 동전을 던지는 실험의 결과처럼 특정 실험의 결과일 수도 있고, 온도 측정과 같이 변동하는 물리적 속성을 측정한 값일 수도 있다. 동일한 실험을 여러 번 반복하여 $\{x_i\}^{I}_{i=1}$와 같은 관측값을 얻으면, 각 시행에서 서로 다른 값이 나올 수 있다.  그러나 특정 값이 더 자주 나타날 수도 있다. 이러한 정보를 확률 분포 $Pr(x)$가 표현한다. 확률 변수는 이산형(discrete) 또는 연속형(continuous) 일 수 있..

목차 베이즈 정리? 베이즈 정리란, 나무위키에 따르면 다음과 같은 정의를 가지고 있다. 어떤 사건이 서로 배반하는 원인 둘에 의해 일어난다고 할 때, 실제 사건이 일어난 후 그것이 두 원인 중 하나일 확률을 구하는 정리. 이를 좀 더 일반화하면 다음과 같은 정의가 가능하다: 어떤 사건 $x$가 발생했을 때, 이 사건을 설명할 수 있는 여러 가능한 원인들 $y_1, y_2, ..., y_n$중에서어느 원인이 실제로 발생했을 가능성이 가장 높은가? 에 대한 확률적 답변을 제공하는 정리 즉, 베이즈 정리는 관측 결과(result)를 통해 가능한 원인(cause)의 확률을 계산하는 도구이다.  이는 사건이 일어난 이후, 그 사건이 어떤 원인에 의해 발생했는지를 추론하는 과정이다. 수학적 표현 베이즈 정리는 아래..

목차 Part I: 확률 이 책의 첫 번째 부분(2~5장)은 확률과 확률 분포에 대한 간략한 개요를 다룬다. 대부분의 컴퓨터 비전 모델은 확률적 관점에서 해석될 수 있으며, 본 책에서는 모든 내용을 이러한 시각에서 제시한다. 확률적 해석은 처음에는 다소 생소할 수 있지만, 이는 큰 장점을 가진다. 공통된 표기법을 제공하여 책 전체에서 일관되게 사용할 수 있도록 하며, 서로 다른 모델 간의 관계를 보다 명확하게 드러낼 수 있게 한다. 왜 컴퓨터 비전 문제를 확률로 설명하는가? 카메라는 3차원 세계를 2차원 영상으로 투영한다.  즉, 우리가 가진 것은 세계로부터 생성된 측정값이며, 이로부터 원래 세계의 속성을 추론하는 것이 목표이다.  그러나 다음과 같은 두 가지 문제가 존재한다. 측정 과정에는 노이즈가 포..

목차 서론 컴퓨터 비전의 목표는 이미지에서 유용한 정보를 추출하는 것이다.  그러나 이는 예상보다 훨씬 어려운 문제로 밝혀졌으며,  지난 40년 동안 수많은 창의적이고 지적인 연구자들이 이 문제를 해결하려고 노력해 왔지만,  여전히 범용적인 "시각 기계(seeing machine)"를 구축하는 데에는 크게 미치지 못하고 있다. 이러한 어려움의 근본적인 원인 중 하나는 시각 데이터의 복잡성이다.  예를 들어 그림 1.1을 살펴보면, 장면에는 수백 개의 객체가 존재하며,  이들 대부분은 "전형적인" 자세를 취하고 있지 않다.  또한 거의 모든 객체가 부분적으로 가려져 있다.  컴퓨터 비전 알고리즘의 관점에서 보면, 개별 객체의 경계를 명확하게 식별하는 것조차 쉽지 않다.  예를 들어, 하늘과 배경의 흰색 건..

차라리 말하지 그랬어바짓가랑이라도 붙들고 늘어지지 그랬어​추위가 가고 있다 대책 없이 가고 있다​허공을 찌를 듯 서 있는 나무 밑에흰 뼈를 묻으며 너는 중얼거렸다​함께 묻히고 싶다고가까스로 살아남은 날을 경멸한다고​네 입에서 흘러나오는 말들이 지독하고 지독해파란 새, 파란 새 날아가고 있다​너와 헤어진 후그 말은 바스러지며 떨어져 나갔다 내 것이 아니었다​투명하게 고드름이 달리고너는 매일매일 그 속으로 자신을 밀어 넣는다​혓바닥이 쩍쩍 갈라진다​우리가 간신히 견디어낸 무서움의 시작이 아름다움이 아니라면*​한결 가벼워진 날씨는​녹아내리며 누군가의 고통으로 빛났지만 도무지 끝나지 않는 겨울이 있었다 *릴케의 시 『두이노의 비가』에서 빌려옴.

목차  서론 딥러닝(Deep Learning)은 데이터에서 패턴을 학습하는 신경망 모델이며, 특히 이미지, 영상, 음성과 같은 복잡한 데이터를 분석하는 데 강력한 성능을 발휘한다.이 중에서도 CNN(Convolutional Neural Network, 합성곱 신경망)은 이미지 분석에 특화된 딥러닝 모델로,이미지 인식(Image Classification), 객체 탐지(Object Detection), 영상 분할(Segmentation) 등  다양한 컴퓨터 비전(Computer Vision) 문제를 해결하는 데 필수적인 기술이다.CNN이 등장하기 전, 기본적인 신경망 모델인 다층 퍼셉트론(MLP, Multi-Layer Perceptron)도 이미지 데이터를 처리하는 데 사용되었다.하지만 MLP는 입력 이미..

목차차근차근 배운 것이 아니라 빠르게 결론에 도달하려다 깨달은 것은 지식에 구멍이 너무도 많다는 것이다. 오늘은 CNN에 대해 공부 중 그런 생각이 들었다. 왜 ReLU는 중간층에서 사용되고 Softmax는 출력층에서만 사용되는가. 애초에 Softmax 함수가 활성화 함수는 맞는가. 이 글은 위 질문에 대한 짧은 방황의 결과이다. 너무 쉬운 질문이라고 생각하면 안 읽어도 된다! 어쨌거나 글을 시작한 김에 활성화 함수와 ReLU, Softmax 함수 등에 대해 짧게 다루며 Softmax 함수 자체에 대해 짧게 생각해 보겠다. 활성화 함수(Activation Function) 활성화 함수란 무엇인가? 그 일반적인 정의와 역할은 다음과 같다. 활성화 함수는 뉴런이 입력받은 값(로짓, logits)을 조정하여 ..