기본 콘텐츠로 건너뛰기

글

Bayes theorem

베이즈 이론은 조건부확률에 대한 수학적 정리이다. 곱씹으면 곱씹을수록 재미있고 신기하게 느껴진다. 이게 깨달음의 즐거움일까? 베이즈가 목사였다는 것, 그리고 수학속에서 그의 철학도 유추해 볼 수 있다는 것 도 참 흥미롭다. 대학교에 다시 가고 싶은 마음이 든다.(?) A가 일어났을 때, B가 일어날 조건부 확률을 알고 싶다. 그러나 우리가 가진 정보는 A가 일어날 확률, B가 일어날 확률, 그리고 B가 일어났을 때, A가 일어날 조건부 확률 뿐 이다. 이 때 아래 그림과 같은 방법으로 A가 일어났을 때, B가 일어날 조건부 확률을 계산 할 수 있다. 위 그림을 참고해서 보면, Prior probability(사전확률): 관찰자가 이미 알고있는 사건의 확률 Likelihood(우도): 이미 알고 있는 사건이 발생한 조건으로 다른 사건이 발생할 조건부 확률 Posterior probability(사후확률): 다른 사건이 발생한 조건으로 이미 알고 있는 사건이 발생한 조건부 확률로서, 사전확률과 사후 확률로 부터 알 수 있는 알고자 하는 확률 Marginal probability(주변확률): 다른 사건이 발생할 확률 흥미로운 실제 사례 병원에서의 질병 A에 대한 진단장비의 정확도 90%, 그리고 질병 A에 걸릴 확률 1%... 진단장비 사용결과 A질병 양성반응일 때의 진짜 질병A에 걸렸을 확률은?  8.3% SLAM Course - WS13/14 (Cyrill Stachniss @Freiburg) 위 강의는 내가 대학생때 많은 도움이 되었던 강의로 강의 주제 중 3강에서 Recursive bayes filter를 사용해서 로봇의 현재위치를 예측하는 방법을 다루고 있다. (Observation 'z' 와 Control 'u', 현시점 위치 x t ) 

Gaussian distribution(Normal distribution)

PDF & CDF를 훑으면서 정규분포(가우스 분포)에 대해서 간략히 보았다.  정규분포(normal distribution) 많은 통계적 분석에서는 오차가 정규분포를 따름을 가정하고 있다. 그리고 다양한 자연법칙 및 측정할 수 있는 대상들 (몸무게, 혈압, 키 등...)도 정규분포를 따른다고 한다. 정규분포의 모양은 평균을 중심(line of symmetry)으로 좌우가 대칭이다. 데칼코마니를 생각나게 하는 모양으로 접힌 선을 중심으로 좌우에 50%씩 분포하고 있는 모양이다.  중간으로 부터 양쪽 1시그마(표준편차)의 경우 68%, 2시그마는 95%...  이걸 68-95-99.7 Rule이라고 부르기도 한다고 한다네 Francis Galton : ball machine 같은 분포를 가진 여러 확률변수들의 평균의 분포는 가우시안 분포는로 근사할 수 있으며(중심극한값 정리, Central limit theorem), 다양한 경우의 모집단의 샘플이 많으면 가우스 분포로 근사할 수 있다.  ( 정규분포 on 네이버 지식백과 , Normal distribution on Wiki ) 정의는 네이버 지식백과나 위키피디아를 참고하면 전공서를 보는 듯이 자세하게 잘 설명되어있다. 가우시안 분포의 확률변수는 아래와 같다. 연관된 툴들을 조사해보면 먼저 가우시안 필터가 떠오른다. 필터의 중심에 가중치를 두고 사방으로 가우시안 분포로 가중치를 둔 필터이다.  행렬 값을 보면 유추할 수 있듯이 중심을 도드라지게 하고 나머지를 블러시켜주는 효과를 주게 된다. 아래와 같은 예시가 있겠다.  추가적으로, SLAM 공부를 할때 베이즈 추론에서 정규분포의 어떤 특성이 부각되었던 기억이 있는데 희미하게 남아있다. 

Probability density function(PDF)와 Cumulative distribution function(CDF)

1. PDF '확률밀도함수(PDF)란 정규화(Normalize)된 연속변수에 대한 히스토그램이다.' 확률 밀도란 연속 확률 변수가 일정 구간에 포함될 확률을 확률밀도라고 한다. 이를 함수로 나타내는 PDF는 위의 성질을 만족해야한다. Histogram란, 도수 분포의 상태를 기둥 모양의 그래프로 나타낸 것. 즉 각 데이터들의 갯수를 세어 본 것이다. 여러 예시가 있겠지만, 나는 사진을 좋아해서 위 사진을 참고하면, 포토샵에서 볼 수 있는 히스토그램이다. 이미지의 각 색상, 또는 밝기의 데이터의 범위는 0부터 255까지라고 하면 값이 0인 것, 1인 것, ... , 254인 것, 255인 것의 갯수를 세어서 막대 바 모양으로 그래프를 그린다.(정수만 생각해보자) Normalize란, 다 더했을때 1이 되게 맞춰주는 것 이다. 사진의 해상도가 256x256이라면 각 바의 값을 픽셀 수만큼 나누어 주면 되겠다. 값이 200인 Red의 개수가 100개였다면, 100/65536가 될 것이고 각각의 바를 다 더하면 1이 된다. 이 PDF를 f(value)라고 명명하고, 픽셀의 값이 이산적인 경우(1,2,3, ... ,254,255)에는 이 사진의 어떤 픽셀의 Red값이 200일 확률은? 이라는 질문에  f(200)가 답이라고 할 수 있을 것이다(bar의 가로 길이가 1임). 이렇게 셀수 있고 유한한 변수의 경우에는 확률 질량 함수(probability mass function) 이라고 부르며 아래를 만족해야한다.. ①  f(x) ≥0, ② ∑ f ( x )=1, ③  하지만, 데이터가 연속적이거나 레졸루션( δ ) 을 고려해야한다면 질문자체가 Red값이 200  + δ 일 확률은? 이라고 물어야하고 그 의미를 포함하는 바의 면적을 확률로 답해야 할 것이다.   2. CDF 'PDF를 누적하면 CDF(누적 분포함수)' CDF는 PDF를 누적한 것이다....

중심 경향(Central Tendency)그리고 중간 값의 종류

통계학에서의 중심경향이란 확률분포에서의 중심을 의미하는데 평균, 중심, 중간, 최대빈도 값 등등 어떤 것으로 규정할지 헷갈린다. 가장 익숙한 것이 Mean(평균), Median(가운데), Mode(최빈값)이다. 유추할 수 있겠지만, 아래 예시로 다시 한번 확인해보자. data:      1-1-2-3-4-5-6-6-6-10-10 counter: 1-2-3-4-5-6-7-8-9-10-11 Counter는 어디가 가운데인지 측정하기 위한 '자'라고 생각하면 된다. 각각을 계산해보면,                                   Mean: (1+1+2+3+4+5+6+6+6+10+10) / 11 = 4.9                                    Median: date_6 = 5                                    Mode: 6 참고로 정규분포(normal distribution)의 경우에는 아래와 같은 모양일 것이다.

2015.08: 3D Printed Rototic Hand and Its Remote Control - (리눅스/윈도우즈 소켓 프로그래밍)

립모션을 사용한 로봇손 제어 프로젝트에서 활용하기 위해 소켓 프로그래밍을 구현하게 되었다. 사용자 손 값을 받는 쪽은 윈도우즈 상에 구현되어있고, 로봇 손 하드웨어 제어 부분은 리눅스에 구현되어 있다. 소켓프로그래밍도 기억이 잘 안나고 윈도우즈와 리눅스 사이 통신이 어떻게 되는지 막막했지만, 여러 샘플들이 많이 나와있어서 정리해봤다. 리눅스 서버 #include <stdio.h> #include <sys/types.h> #include <sys/socket.h> #include <netinet/in.h> #include <netdb.h> #include <string.h> #include <stdlib.h> #include <unistd.h> #include <errno.h> void error( char *msg ) {   perror(  msg );   exit(1); } int main(int argc, char *argv[]) {      int sockfd, newsockfd, portno = 27015, clilen;        ///socket      char buffer[512];      struct sockaddr_in serv_addr, cli_addr;           int n;      int iter=0;      int data;      int rBuffer[512];      in...

2015.08: 3D Printed Robotic Hand and Its Remote Control - (립모션, 벡터의 내적과 외적)

Processing.org 3년전, 핀란드에서 연구교환 프로그램을 할때, 3D 휴머노이드 로본 손 개발 프로젝트에 참여했다. 즐거운 여름이였다. 나는 비전 기반의 제스쳐 인식 및 액츄에이터 제어부로 값을 전달해주는 기능을 구현했다. 먼저 프로세싱으로 테스트를 해보았다. LeapMotion SDK와 onformative에서 배포하는 LeapmotionP5 라이브러리를 사용했다. 3D 좌표 그리고 내 손 웹캠 -> 키넥트 -> 립모션으로 신기하게 나의 분야가 연결되어가는 맛이 아주 재밌다. 2년만에 다시 해봐서 더 재미있는 것 같다. 립모션 라이브러리는 당시 크게 LeapmotionP5와 LeapmotionforProcessing이 오픈되어 있었던 것으로 아는데, 기본적으로 제공하는, 접근할 수 있는 가능성을 후자가 더 많이 주는 것 같다. 나는 LeapmotionP5로 시작했다. 손목과 팔 사이의 각도를 구하는 도중, 벡터의 내적만 사용하면 부호 없는 각도값만 얻는다.  이때 벡터의 외적과 다른 벡터의 y-basis를 내적하면 부호를 알 수 있다. 외적에는 순서(오른손 법칙)가 있어서, 각도가 양에서 음으로 또는 음에서 양으로 바뀌는 순간 외적벡터의 방향이 바뀌기 때문이다. 그림을 그려보면서 해보면 이해가 쉽다. Leap::Vector xBasisArm = basis.xBasis;           const Vector armV = arm.direction();         const Vector handV = hand.direction();         float wristAngle2 = handV.angleTo(armV) * RAD_TO_DEG;     ...

Korean Traditional Board Game 'Yut'

  <Korean Yut Pan> Yut (a.k.a Yut Nori) is played in Korean traditional holiday, especially in Luna New Year(Korean New Year).

공부: OpenGL + VS2010 setting

OpenGL (3.2ver) + VS2010 + windows7 (x64 or x86) ///openGL setting for x64. by oh jahwan ///www.scribbleonit.blogspot.com Lib : 각각 x86과 x64에 해당하는 폴더에 넣는다. C:\Program Files (x86)\Microsoft SDKs\Windows\v7.0A\Lib C:\Program Files (x86)\Microsoft SDKs\Windows\v7.0A\Lib\IA64 C:\Program Files (x86)\Microsoft SDKs\Windows\v7.0A\Lib\x64 header : 64비트헤더로 넣음 C:\Program Files (x86)\Microsoft SDKs\Windows\v7.0A\Include\glㅇ dll : x86버전으로 둘다 넣음. C:\Windows\System32 C:\Windows\SysWOW64 you can download the organized zip file. download : OpenGL+VS2010 setting

공부: What is a Game?

What is a Game?  Rule :  Win BOARD GAMES :  The player’s primary concern in these games is the analysis of geometrical relationships between the pieces. CARD GAMES : The player’s primary concern in these games is the analysis of combinations. ATHLETIC GAMES : Skillful use of the body is the player’s primary concern in these games. CHILDREN’S GAMES : The player’s primary concern in these games is the use of social skills illuminating the fundamental role of the group in human life. COMPUTER GAMES : The computer acts as opponent and referee in most of these games.  - A closed formal system, subjectively represented subset of reality. - subjective and deliberately  simplified  representation of emotional reality. - Interaction :   Conflict    Degree of interaction  <-> Gaminess - Safety <DIAPP: 13.05.01>

The Medium is the Massge(Message).

The Medium is the Massage: An Inventory of Effects The cover of the first UK edition, published by Penguin Books (1967)  " The medium is the message ." ?                        " The medium is the massage ."   McLuhan adopted the term "massage" to denote the effect each medium has on the human sensorium, taking inventory of the "effects" of numerous media in terms of how they "massage" the sensorium. "Why is the title of the book The Medium is the Massage and not The Medium is the Message ? Actually, the title was a mistake. When the book came back from the typesetter's, it had on the cover 'Massage' as it still does. The title was supposed to have read The Medium is the Message but the typesetter had made an error. When McLuhan saw the typo he exclaimed, 'Leave it alone! It's great, and right on target!' Thus, there are now four possible re...

DIAPP04_ThreadSynchronize Programming

< Critical section> CRITICAL_SECTION cs ;  //글로벌로 선언 InitializeCriticalSection ( & cs ); //메인에서 EnterCriticalSection (& cs );    // 다른 스레드들이 못 들어옴   // common or shared variable handling   ! 리브 하기전에 다른 데로 가면 엉킴. LeaveCriticalSection (& cs );   ---------------------------------------- example -------------------------------------------- #include <Windows.h> #include <stdio.h> CRITICAL_SECTION cs; DWORD __stdcall ThreadRunner( LPVOID parameter ) { ::EnterCriticalSection( &cs ); int* argument; int count; //  루프를 3번 실행한다. count = 3; //  인자를 받아온다. argument = ( int* )parameter; while( count-- > 0 ) printf( "I'm %d Thread !!\n", *argument); ::LeaveCriticalSection( &cs ); //  이 함수와 함께 쓰레드는 종료된다. return 0; } void main() { ::InitializeCriticalSection( &cs ); HANDLE handleThread[5]; int array[5] = { 0, }; int i; for( i = 0 ;...

Google 3D maps seminar (13.02.20)

speaker : 배수현 박사님 (Google maps, mountain view, CA) 실제 기술이 상품에 응용되려면 실시간 처리가 가능해야한다. 성능이 최고가 나오지 않더라도 근접하다면 속도가 빠른 알고리듬을 적용한다. impainting ; prioritized graph-cut sony 카메라에 곧 탑제되어 출시될 예정 Google 3D maps 비행기에서 5 view, 자동차, 자전거, 직접 걸어서  촬영.   국제적문제, 사생활문제 시간, 계절, 시점으로 부터 발생하는 그림자를 어떻게 처리할 것인가 방대한양의 데이터를 처리; Bic data  계절에 따른 색깔 계획 : 손해보는 장사지만 모든 사용자에게 모든 정보를 제공할 것.; code의 open source화 사람이 갈 수 있는 곳은 다 modeling ; 아마존, 우주, 바다 속, 실내, 박물관(Google art project)

공부: Noise and Edge

이전 프레임과의 차영상으로 영상내의 픽셀 값 변화(모션)를 보던중에 잡음이 그림자로 생인 edge부분에 심하게 보였다. 자연광이나 형광등은 항상 일정한 빛을 비추지 않는다. 거기에 더해서 센서가 원인이 되는 노이즈 까지 존재한다. 에지에서 노이스가 심한 이유는 면에서는 픽셀값의 연관성이 크지만 에지 부분에서는 다른 면과 접촉하므로 픽셀값의 연관성이 없기 때문이다. 즉 전프레임과의 차가 크게 나타날 확률이 크기 때문이다.  그렇다면, 노이즈를 사용하여 에지를 검출할 수 있을까? 계산값을 조정하면 노이즈를 안보이는 듯하게 처리할 수 있지만 노이즈는 여전히 있으므로 모폴로지와 같은 다른 처리를 해주어야한다. 아래 영상에도 노이즈는 여전히 존재하는 상태이다.  그러나 영상을 보면, 위영상과 아래영상의 존재하는 노이즈는 다른형태임을 유추할 수 있을 것이다. + 대부분 CCD소자에서 에너지를 증폭하면서 발생하는 노이즈임. -> 같은 영상을 계속적으로 입력받아서 같은 위치에 영상에 가중평균시키면 노이즈가 없는 깨끗한 영상이 만들어짐 -> 노이즈가 zero-mean gaussian형태이기 때문임

공부: What are Eigen Values?

공업수학에서 접했던 eigenvector 와 eigenvalue에 대해 이해하기 쉽게 설명한 자료를 발견했다. 동전을 회전시킬 때, 식빵위에 잼을 펴바를 때, 고무 밴드를 잡아당겨 늘릴 때의 eigenvector와 eigenvalue는 무엇일까? 변환에서 잡아당긴(펴바른) 방향이 유지될 때, 이것을 변환의 EIGENVECTOR라고 하고 그 양을 EIGENVALUE라고 한다. Eigenvalues는 어느 비율로 변했는가, 즉 multipliers이다. 고무밴드가 2배로 늘어났다면 eigenvalue는 2이다. Eigenvalue는 변환(operation)이 있어야하고, 또한 이때 방향(the eigenvector, 고무 밴드가 왼쪽에서 오른쪽으로 늘어남)을 갖는다. 동전이 360도 돌았을 때 :  모든방향으로 돌기 때문에 각 방향으로의 고유벡터, 고유값 1 잼을 펴바를 때 : 나이프의 이동방향으로의 고유벡터, 펴바른 길이가 2배라면 고유값 2 고무 밴드를 늘릴 때 : 고무 밴드를 늘린 방향으로의 고유벡터, 늘어난 길이가 2배라면 고유값 2 PhysLink : What are Eigen Values?

공부: Multiple View Geometry (3)Cont.

Multiple View Geometry Study Note 2. Projective Geometry and Transformations of 2D (Cont.3) 지난번 MVG(3)에서는 2D geometry에서 affine properties의 복원에 대해서 공부했습니다. 이번에는 metric properties의 복원에 대해 공부할 것 입니다. 지난 공부에서 배웠듯이 metric properties에는 angle, length ratio가 있습니다. 이 성분들을 복원하기 위해 우리는 conic dual to circular points라는 개념을 사용합니다. 그럼 circular points부터 시작하겠습니다. WIKI : circular points at infinity? absolute points라고도 불리는 circular points는 similarity transform에 불변하는 점입니다. I,J로 표시하는데 복소수를 사용하는 저런 좌표를 canonical coordinates라고 하고 I와J는 서로 켤레 복소수 임을 알 수 있습니다. 이 두 점이 similarity transform에 불변하는 것은 왼쪽 슬라이드 두번째 식을 보면 알 수 있습니다. 변환 결과 homogeneous 좌표 모든부분에 같은 실수가 곱해지므로, 결과적으로 similarity transform에 불변함을 증명할 수 있습니다. 'circular points at infinity lie on the complexification of every real circle.' 코닉이 원이 되려면 코닉 기본식에서 a=c, b=0을 만족해합니다. complexification(infinity와 관련?)이기 때문에 x3=0인 것 같습니다. 그럼 결국 오른쪽의 코닉 식에서 만족하는 점은 circular points at infinity인 I와 J 입니다. 또한 I와 J를 외적하면 (0,0...