Introduction

뇌 기능 연구 측면에서 뉴런 모델링의 의의?

Computational neuro - science라는 분야는 어떻게 보면 너무 뜬 구름 잡는 이야기가 될 가능성이 많은 것 같다. 기존의 많은 접근 방법들이 통일된 시작점이 있지도 않고 서로 다른...중구 난방이다. 이런 류의 연구는 보통 case study가 전부이고 학문적인 가치는 별로 없게 되는 경우가 많다.

나 또한 머리 속이 깔끔하게 정리되어 있지 못하다.그 핵심은 이것이다.

뇌 기능이라고는 하지만 구체적으로 무엇을 말하는 것인가 ? 뇌 기능이라고 함은 ....

물론 여러 가지이다. 기억, 연상, 유추, 사고, 추론..... 이들 각각을 서로 다른 방식의 모델링으로 보인다고 하자. 그럼 어쨌단 말인가?

뇌에서 중요한 현상은 이것이 아니다. 별루 관심이 가지 않는다. 논문 편수를 위한 작업은 할 수야 있겠지만 그 이 외의 만족은 되질 않는다.

그럼, 무엇을 원하는가?

혼자서 생각하는 기계....

이것이다. 최종적으로 원하는 것은...

메모리 기능이고 뭐고 이런 거야 기존의 메모리 기능을 사용하면 되지... 문제는 목적지향적인 행동을 하는 정신이 깃들게 하는 것이 무엇인가 이다.

그래 정신이다. 기계에 혼을 불어넣는 작업.

최소한 하등동물이 하는 정도만이라도 흉내낼 수 있는 기계. 목표는 이것이다.

자신의 의지 이것이 무엇에 의해서 생기는 것일까? 매우 단순하게 생각해보면, 자기 유지의 방법을 스스로 만들고 행동하는 것이다. 환경이 바뀌면 곧 그것에 적응하여 그에 준하는 행동을 스스로 하는 ....

현실적인 꿈은 이것이다.

예를 들어 어떤 기계가 있다. 최소한 나는 이것과 대화하고 싶다. 내가 질문하면 기계는 적절한 대답을 한다. 내가 그림을 보여주면 기계는 그림을 인식한다. 기계가 나에게 그림을 보여 주기도 해야한다.

그러하다면 이 과정에 필요한 사람의 사고 과정을 알아야 하고 그 중에는 많이 연구가 되어온 부분도 있지만, 아직 요원한 부분도 있을 것이다. 예를들면, 음성인식이니, 문자인식이니 하는 것들이야 많이 연구되고 있다. 그러나, 인식하고 난 뒤에 적절한 반응을 하는 "규칙"은 무엇인가? 규칙을 모른다면 기계를 어떻게 만들어야 그렇게 되는가.

그 규칙을 밝힐 수 없을 가능성이 더 많다.

그러나... 우리는 모든 방법을 알아야만 뭔가를 만들 수 있나 ?

왜 모든 과정에 사람이 개입되어야만 하나?

그냥 만들어 놓고서 지 혼자 변화하게 두면 안돼?

예전의 생각에 따르면...

뉴럴 넷으로 구현하는 경우 모든 결합을 연결한 상태로 만들자. (가장 기본적인 입력 연결과 출력 연결은 주고 .. 사람도 그러니까.)외부 입력장치와 출력장치를 달자. 그리고 입력을 주는 거다. 계속... 갓난 아기와 같이 생각하고, 그러면 망이 자기가 알아서 변화 하는 거다. 연결을 강화 할 건 강화하고, 약화 시킬 것은 약화시키고, 끊을 건 끊고...

그러다 보면 뭔가가 형성되겠지 .... 즉, 자기조직화

그런데 이 때 중요하게 생각해야 할 것이 뭔가가 있어야 하지 않나 하는 생각이다. 무엇이 망을 변하게 하나, 그 들의 기본 상호작용 규칙이다. 즉, 상호작용 규칙을 정확하게 주어야만 한다. 모든 것이 기본 상호작용 규칙에 의해 무엇인가 발현되는 것이니까.

즉, 이렇다.

기본 뉴런에서 상호작용을 어떻게 시키느냐? 이것은 반드시 사람이 만들어서 주입해야 하는 것이다.

모든 부위의 상호작용 규칙을 같게 할 것인가? 또는 다르게 할 것인가?

억제성과 흥분성 결합의 변화를 어떤 규칙에 의해 지배되게 할 것인가?

확실한 건 입력신호 형태에 가장 민감하게 변할 수 있는 기능 이어야 한다.

왜?

사람의 청각을 예로 생각해보자. 왜 우리는 소리 인식이 가능한가? 그것은 원래 뉴런의 물리적 구성이나 타고난 내부적 기능이기 보다는 입력에 의해 후천적으로 형성된 것이다.

기계가 주인의 질문에 반응을 해올지는 의문이다. 사람이야 방향성을 지니는 행동을 하게 된 것에는 보상과 체벌의 효과가 있다. 고통스러운 일은 피하려고 한다. 기분 좋은 일은 하려고 한다. 그래서 감성적인 요소는 사람이든 동물이든 매우 중요한 역할을 한다.

기계의 경우 목적 지향적인 행동이 뉴런망 속에서 자생적으로 생길 수 있는 현상인지 아니면 제2의 요인이 있어야 하는 것인지(즉, 사람이 인위적으로 주어야 하는 것인지.)....??????

어려운 문제다.

(이제 조금 더 구체적으로 생각해보자.)

From Synapse to Self Organizing.

신경계 모사의 부족함.

대부분의 신경계 모사에서 느껴지는 것은 가장 중요한 부분을 간과하고 있는 것으로 보인다.

먼저 , 뉴런 하나를 흉내내는 neuronal modeling의 경우 개개의 특성에 대해서는 거의 완벽한 수준이다. 즉, 외부에서 인위적으로 전류를 주입한 경우 세포의 수동적, 능동적 반응을 모두 계산 할 수 있다. 또한 특정 synapse에 의한 억제성 또는 흥분성 반응도 정확히 모사할 수 있다.

시냅스 모델과 뉴런들 연결방식?

그러나, 신경계에서 가장 중요한 점은 뉴런 개개의 특성 보다는 이들의 연결 방식이며 그리고 이들 연결이 영구적으로 고정적인 것이 아니라 시시각각으로 상황에 따라서 변할 수 있다는 점이 중요한 것이다. 결론적으로 synapse에 대한 훨씬 엄밀한 모사가 필요하다. 현재의 synapse model의 경우 다음과 같은 것을 생각할 수 있을 것이다.

1) synapse가 활성화 되었을 때 세포의 반응은 정확히 알 수 있다.

2) 헤비안 학습규칙에 의하여 신호의 출입 빈도에 따라서 가중치의 변화를 줄 수 있다.

(보강과 둔화 모두 포함.)

더 이상은 없는 듯 하다. 그러나 깊이 생각하지 않더래도 하나의 세포 모사의 정밀함에 비교하면 너무 거친 방식이다.

그리고, 위1)은 사실 synapse 를 흉내낸 것 이라기 보다는 오히려 세포에 대한 흉내이다.

따라서, synapse 특성이라고는 유일하게 2) 헤비안 학습 규칙 뿐인 것이다.

그럼, 헤비안 학습규칙은 왜 마음에 들지 않는가? 무엇이 필요한가?

나중에 대답하고 ...

뉴런의 연결 방식에 대한 것도 골치다. 이미 알려져 있는 해부학적인 연결 방식만 모사한다는 것은 문제다. 이는 우리가 원하는 특정 프로세싱이 있을 때 할 일이 별로 없게 만들어 버린다.

그리고, 반드시 그 연결 방식을 사람이 미리 알고서 그 후에 적용하는 방법론도 싫다.

실제 뇌의 상황을 보면 전혀 그렇지 않다는 점에서 이 방식은 별루이다. 만약 이렇게 해서라도 생물학적 뇌보다 뛰어난 프로세싱이 가능하다면 모르겠지만 아닌 것 같다.

그렇다면, 뇌는 어떠한가? 뇌를 뇌답게 하는 요소는 무엇인가?

그것은 바로 "자기조직화"이다. 주위환경을 입력 신호로 받으면서 어떠한 방향성을 향해 또는 개체의 생존을 위해 목적에 맞는 연결 방식을 자기 자신이 형성한다. 쉬운 예로 걸음을 배우는 과정을 보자.

처음에는 신경망의 가중치는 random 이다. 초기에 걸음을 시도하면 당연히 실패하여 넘어지고, 바닥에 부딪혀 "고통"을 받게 된다. 동물의 경우 이러한 고통이란 생존과 뇌 조직의 발달을 위해서는 필수적 이다. 넓은 의미에서는 "emotion"이라고 할 수 있다.

어떤 고통이라는 것은 최소한 개체로 하여금 그 고통을 야기하지 않게끔 신경망의 가중치를 조절해야만 한다. 이것이 지속적으로 반복되면서 거의 고착화 된다. 이러한 방향성을 지닌 고착화란, 고상한 용어로 표현하면 "목적성 자기조직화"가 된다. 즉, 어떤 목적을 가진 자기조직화 만이 뇌에서는 중요하다.

물론 인공적인 신경망에서 고통과 같은 감정을 실어넣을 수는 없을 것이고, 반드시 사람과 같은 감정일 필요도 없는 것이다. 사실 사람의 경우도 고통이란 것이 발생했다고 해도 감성이 말 그대로의 추상적인 형태로 신경망의 가중치를 조절하는 것은 아닐 것이다. 어떠한 형태로든 뉴런들에게 물리,화학적인 영향을 줄 수 있게끔 변환될 것이다.

우리는 이것의 기작을 알기만 하면, 즉, 방향성을 갖는 신경망의 가중치 재조정, 인공적으로도 구현 할 수 있는 것이다.

결국 교사 학습도 이뤄져야 할 것 같다. 고등 동물의 경우 가장 기본적인 교사는 자신의 감성이 된다. (하루살이 같은 것은 무엇인지?) 사람의 경우도 마찬가지로 감성이 크게 작용하고, 추가적으로 후천적으로 획득된 "이성" 내지는 "의지"같은 것도 신경망의 방향을 잡아주고 있다.

만약 이런 방향성이 없다면 도대체 신경망은 어디로 갈 것인가?

예로 인위적으로 강화와 억제 학습이 가능한 신경망을 만들고 입력으로 어떤 모양을 계속 주었다고 했을 때, 그 신경망의 가중치가 어떤 수렴성을 가질 것인가?

아니면 입력에 따라 이리저리 물과 같이 흘러만 다닐까?

"자기조직화의 좀더 엄밀한 기술" 1997년 6월 11일

자기 조직화의 기능적 특성이란, 입력되는 정보구조(information structure)에서 그 정보 요소를 추출하는 능력이라고 할 수 있다. 시각계인 경우 모양이라는 다양한 입력 중에서 방향 검출 세포, 모서리 검출세포등을 인식하는 세포 군을 스스로 형성한다. 이것은 교사 없이 이뤄지는 것 같고, 가장 독특한 특성이다.

자기조직화 신경망을 만들려고 시도하였던 코호넨 신경망의 경우에는 상호작용방식에 의하여 자기 조직이 나타나고 있다. 즉, 경합 학습이라고 하는 특별한 뉴런간의 상호작용 방식을 설정하고 있다. 외측 억제와 같은 형식이다. 나의 생각으로는 이러한 상호작용 형태도 자기조직화에 의해서 획득된 성질로 보인다.

원하는 결과는 뉴런에서 시냅스 변화 규칙을 정확히 사용한다면 이러한 형태의 상호작용은 자동으로 형성된다는 것이다. 이것은 입력의 정보 구조(Information Structure)에 의존한다. 시각계라면 시각 정보 구조에 적합한 뉴런간 상호작용 방식이 설정되고, 청각계이면 소리 정보 구조에 적절한 상호작용 방식이 형성될 것이다.

의문점 :

뉴런 하나 수준에서 추가된 규칙만으로도 아무렇게나 연결된 신경망이 입력 의존하여 자기조직화 할 것인지?

또는 상호작용 방식에서 추가적인 연결간의 어떤 제한성(constraint) 내지는 룰을 줘야 할지?

최종 수정일 1997년 8월 3일
배병훈 Brain Lab.뇌 과학 연구실
E-Mail : bhbae@mul5.kaist.ac.kr