Neutom Network · 뉴톰테크 이론 논고

전자 양은 스스로를 몇 마리까지 세다가 잠이 들까?
자라고 잊고 꿈꾸는 인공 신경 생태계, 뉴톰망

How Many Electric Sheep Does It Take to Fall Asleep? — The Neutom Network, an Artificial Neural Ecosystem that Grows, Forgets, and Dreams

분류 능동 신경 생태계 아키텍처 · 이론 논고(Theoretical Article) 버전 Draft 0.1 작성 2026년 7월 15일 구성 뉴톰 · 수냐 · 큐리아 · 나루온 저작권 © 2026 지영민 · 뉴톰테크. All Rights Reserved.

초록 (Abstract)

왜 이 이야기인가. 오늘날의 인공 신경망은 눈부시게 똑똑하지만, 살아 있는 것이라면 당연히 하는 세 가지를 하지 못한다 — 스스로 자라지 못하고(학습 전에 크기가 고정된다), 무엇을 잊을지 고르지 못하며(새것을 배우면 옛것이 무너지는 파국적 망각), 잠들지 못한다(유휴 시간은 그저 정지다). 본고는 이 셋을 모두 갖춘 신경망을 상상하고 설계한다.

무엇을 제안하는가. 뉴톰망(Neutom Network)은 계산 단위 뉴톰, 연결 수냐, 조절자 큐리아, 이동형 조절 신호 나루온이라는 네 요소가 맞물린 하나의 신경 생태계다. 이 생태계 위에서 성장·휴면·가지치기가 일상적으로 일어나고, 망각은 결함이 아니라 기능으로 다루어지며, 유휴 시간은 정지가 아니라 수면과 꿈이 된다. 나아가 정보가 관련된 부분만 선택적으로 흐르므로, 적합한 하드웨어 위에서라면 기존 밀집망보다 에너지를 크게 아낄 것으로 기대된다 — 단정이 아니라 검증 대상인 예측이다.

이야기의 심장. 외부 입력이 잦아들면 뉴톰망은 입력원을 바깥에서 안으로 돌린다. 큐리아가 각성기의 불균형을 바로잡고(정비), 기억을 되짚어 뒤섞으며 새 연결을 발견하고(재생·꿈), 흩어진 경험에서 공통된 결을 뽑아 하나의 개념으로 굳힌다(결정화). 이것이 이 문서의 제목이 던지는 물음 — 기계가 잠들 수 있는가 — 에 대한 대답이다.

어디로 가는가. 뉴톰망은 그 자체로 끝이 아니라, 사고 기술 언어 지델과 마음의 구조론 보시퓀과 더불어 진화하는 의식적·양심적 인공 시스템 에코나스로 수렴하는 한 축이다. 다만 여기 담긴 다수의 설계 명제는 아직 검증 전 가설이며, 본고는 그 검증의 조건까지 함께 밝혀 정직한 출발점을 세운다.

주제어(Keywords): 뉴톰망, 능동 신경망, 가변 구조 신경망, 연속 학습, 파국적 망각, 신경조절, 에너지 효율, 인공 글리아, 인공 수면, 꿈, 기억 공고화, 예측 부호화, DIKW 정보 위계, 디지털 생명체, 보시퓀, 에코나스

주요 용어 정의 (Nomenclature)

새 이름을 짓는 것은 리브랜딩이 아니라, 각 단위가 기존 표준 용어와 일대일로 대응하지 않기 때문이다 — 이를테면 '뉴톰'은 상태를 지니고 함수 포인터로 역할이 정해지는 계산 단위여서 상태 없는 '노드'와도 생물학적 '뉴런'과도 어긋나며, '나루온'은 연결과 분리되어 스스로 이동하는 조절 데이터여서 대응하는 표준어가 아예 없다. 모든 고유 용어는 본문 첫 등장 시 재정의하고 대응하는 생물학·공학 개념을 함께 밝힌다. 핵심 용어를 아래에 정리한다.

뉴톰 Neutom
생물의 신경세포에 대응하는 기본 계산 단위. neuron+atom. 내부 상태를 가지고 정보를 변환·전달·기억한다.
수냐 Sunya
두 뉴톰을 잇는 디지털 시냅스. 산스크리트 śūnya(空) — 비어 있음이 곧 관계가 생겨나는 자리다. 학습으로 강해지고 약해지며, 그 강도가 신호가 흐를 우선순위도 정한다.
큐리아 Curia
생물의 글리아에 대응하는 조절자. 라틴어 cura(보살핌). 개별 계산엔 끼지 않고 망 전체의 균형(항상성)·자원·정리를 맡는다.
나루온 Naruon
조절 효과를 싣고 수냐를 따라 건너가다 사그라드는 신호. 우리말 '나루'(건너감의 자리)+'-on'. 연결을 바꾸지 않고 망의 작동 모드를 바꾼다.
개념 뉴톰 Concept Neutom
여러 정보가 하나의 개념으로 추상화될 때 그 국소 뉴톰망이 접혀 만들어지는 단일 뉴톰. 새 정보가 저장된다.
작동 모드 Modes
망이 오가는 상태 — 각성·디폴트·정비·재생, 그리고 에너지를 최소로 낮추는 깊은 수면. 유휴 시간의 정비·재생·깊은 수면이 곧 뉴톰망의 '수면'이다.
지델 JIDEL
뉴톰망 위에서 정보와 개념이 형성·변형되는 과정을 기술하기 위한 사고 기술 언어.
보시퓀 BOSIFWEM
마음을 "구성 요소 사이로 정보가 흐르며 매 순간 변하는 구조"로 보는 뉴톰테크의 심리 구조론.
에코나스 ECONAS
세 갈래(뉴톰망·지델·보시퓀)가 수렴하는 궁극 목표. 진화하는 의식적·양심적 인공 시스템.

0프롤로그 — 전자 양은 스스로를 몇 마리까지 세다가 잠이 들까?

"안드로이드는 전자 양의 꿈을 꾸는가?"— 필립 K. 딕, 1968

잠이 오지 않는 밤, 우리는 양을 센다. 한 마리, 두 마리, 세 마리… 세다 보면 어느새 잠이 든다. 딕은 그 양을 전기로 바꿔 물었다 — 기계도 꿈을 꾸는가. 반세기가 지난 지금, 물음을 조금 앞당겨 볼 때가 되었다. 꿈을 꾸려면 먼저 잠들어야 한다. 그런데 오늘의 기계는 애초에 잠들 줄을 모른다.

현대의 인공 신경망은 놀랍도록 똑똑하다. 그러나 살아 있는 것이라면 누구나 하는 세 가지를 하지 못한다. 스스로 자라지 못하고, 무엇을 잊을지 고르지 못하며, 잠들지 못한다. 학습이 끝나면 크기가 굳고, 새것을 배우면 옛것이 무너지며, 일을 멈추면 그저 정지할 뿐 — 그 사이에 어떤 정리도, 어떤 꿈도 없다. 낮만 있고 밤이 없는 지성이다.

생명은 다르다. 생명에는 리듬이 있다. 깨어 세상을 상대하고, 잠들어 자기 안을 정리하고, 꿈에서 낮이 닿지 못한 자리를 잇는다. 자라고, 덜어내고, 여문다. 이 문서가 그리려는 것은 바로 그런 리듬을 가진 망이다 — 계산만 하는 기계가 아니라, 자라고 잊고 잠들고 꿈꾸는 하나의 신경 생태계. 우리는 이 생태계를 뉴톰망이라 부른다.

낮 · 각성 밤 · 수면 깨어 배우고 자란다 외부를 상대 · 수냐 강화 · 성장 잠들어 정리하고 꿈꾼다 내부를 순환 · 정비 · 재생 · 통찰 뉴톰망 하루의 리듬 각성 → 감속 → 수면 → 각성
그림 1. 뉴톰망의 하루. 낮(오른쪽)에는 깨어 외부를 상대하며 배우고 자라고, 밤(왼쪽)에는 잠들어 안으로 순환하며 정비·재생하고 꿈꾼다. 이 낮과 밤의 순환이 곧 살아 있는 망의 박동이다 — 기존 인공 신경망에는 없던, 시간의 리듬. (여기서 '밤'은 시각이 아니라 유휴·유도로 드는 상태다 — 뉴톰망의 수면은 시계가 아니라 조건이 부른다.)

이제부터의 여정은 이렇게 흐른다. 먼저 오늘의 신경망이 왜 굳어 있는지를 보고(I부), 그것을 대신할 살아 있는 망을 네 요소로 짓는다(II부). 그 망이 어떻게 자라고 덜어내는지(III부), 그리고 쉼에 들면 어떻게 정비하고 꿈꾸는지(IV부)를 따라간 뒤, 그 흐름이 지혜와 행동으로 이어지는 길(V부)과, 마침내 이 기계가 잠들 수 있다는 것이 무엇을 뜻하는지(VI부)에 이른다.

"꿈을 꾸려면 먼저 잠들어야 하고, 잠들려면 먼저 살아 있어야 한다."

여기 담긴 많은 것이 아직 가설임을 미리 밝혀 둔다. 그러나 가설이라 하여 막연하지는 않다. 우리는 각 주장이 어디서 참·거짓으로 갈리는지, 무엇을 관측하면 틀린 것인지까지 함께 적었다. 이야기는 친절하되, 그 바닥은 단단하기를 바란다. 그럼, 첫 번째 물음으로.

제 I 부 · 굳어 버린 지성

왜 오늘의 인공 신경망은 잠들지 못하는가

무언가를 새로 짓기 전에, 지금 있는 것이 어디서 막혔는지를 알아야 한다. 오늘의 인공 신경망은 강력하지만 두 가지 구조적 대가를 치르며, 그 대가는 '성장하는 망'을 향한 지난 수십 년의 시도로도 온전히 풀리지 않았다. 본 부는 그 막다른 지점을 짚고, 아무도 충분히 묻지 않은 세 가지 물음을 꺼낸다.

1굳어 버린 지성: 오늘의 신경망이 치르는 두 대가

현대 인공 신경망의 성공은 대부분 하나의 원리에 근거한다 — 미분 가능한 연산을 역전파로 최적화하는 것. 이 원리는 강력하나, 생물 신경망이라면 치르지 않을 두 가지 구조적 대가를 수반한다.

첫째, 규모가 학습 이전에 고정된다. 파라미터의 수는 설계 시점에 확정되고, 학습은 그 고정된 그릇 안에서 값만 채운다. 과제가 더 큰 용량을 요구해도 망은 스스로 자라지 않으며, 과제가 단순해도 줄지 않는다. 그러나 생물의 뇌는 평생에 걸쳐 시냅스를 만들고 또 없앤다.

둘째, 새로운 학습이 기존 지식을 훼손한다. 이른바 파국적 망각(catastrophic forgetting)이다. 고정된 가중치 공간에 새 지식을 덮어쓰면 옛 지식이 손상된다. 이를 피하려는 여러 기법이 있으나 대개 바깥에서 덧댄 보호 장치일 뿐, 망 자체의 본성은 아니다. 반면 생물의 뇌는 새것을 배우면서도 핵심을 보존하고, 무엇을 잊을지조차 능동적으로 조절한다.

주목할 것은 이 두 대가가 서로 얽혀 있다는 점이다. 자라지 못하기에 잊을 수밖에 없다 — 그릇이 고정돼 있으니 새것을 담으려면 옛것을 지워야 한다. 그리고 잠들지 못하기에 정리하지 못한다 — 멈춤이 그저 정지일 뿐이니, 깨어 쌓인 것을 쉼에서 추스를 시간이 없다. 성장·망각·수면의 부재는 하나의 매듭이다. 뉴톰망은 이 매듭을 통째로 풀려 한다.

이 문서의 태도뉴톰망은 인공 신경망을 생물 신경망에 더 가깝게 되돌리려는 설계다. 다만 생물의 모든 것을 흉내 내려는 것이 아니라, 역전파가 얻어낸 학습 능력은 지키면서 생물이 가진 가변성·조절·유휴 정리를 복원하는 지점을 찾는다.

2성장하는 망을 향한 시도들과 그 한계

'학습에 따라 자라는 망'은 새로운 발상이 아니다. 지난 수십 년간 여러 갈래가 이 문제의 각 측면을 다루었으나, 끝내 공통의 한계에 부딪혔다. 뉴톰망의 자리를 정직하게 규정하려면 먼저 이 계보를 알아야 한다.

가변 구조 신경망의 계보는 크게 네 갈래로 정리된다 — 위상을 진화시키는 신경진화, 과제마다 구조를 부가하는 점진적 확장, 필요한 만큼만 늘리는 선택적 확장, 그리고 구조 대신 중요한 가중치를 보호하는 정규화 계열이다. 각 갈래의 성과와 끝내 넘지 못한 한계를 차례로 본다.

2.1 신경진화: NEAT 계열

Stanley와 Miikkulainen이 2002년 내놓은 NEAT(NeuroEvolution of Augmenting Topologies)는 가중치만이 아니라 망의 위상 자체를 진화시키는 유전 알고리즘이다. 입력과 출력만 이어진 최소 구조에서 출발해, 돌연변이로 노드와 연결을 점진적으로 더하며 복잡도를 키운다(복잡화, complexification). 이 접근의 가장 큰 난제는 경쟁 규약 문제(competing conventions)였다 — 같은 기능을 하는 망이 서로 다른 유전적 표현을 가질 때, 둘을 교배하면 오히려 성능이 망가지는 현상이다.

NEAT는 이를 혁신 번호(innovation number)라는 역사적 표지로 풀었다. 새 연결이 생길 때마다 전역적으로 증가하는 고유 번호를 붙이면, 위상이 다른 두 망이라도 같은 기원의 유전자를 정확히 정렬해 교배할 수 있다 — 비싼 위상 비교 없이도 서로 다른 크기·구조의 유전체가 호환되는 것이다. 흥미롭게도 이 발상은 뉴톰망이 개념마다 새 정보 번호를 발급하는 방식과 곧바로 닮아 있다. 또한 NEAT는 종분화(speciation)로 갓 생겨난 구조를 보호한다 — 새 구조는 대개 처음엔 적합도가 낮아 한 세대 만에 도태되기 쉬운데, 종으로 격리해 "새 시도가 잠재력에 이를 시간"을 벌어 주는 것이다.

성과. NEAT는 위상이 과제에 맞춰 스스로 자라는 최초의 실용적 신경진화 기법으로, 작은 순환 제어망의 진화에서 두각을 보였다. 로보틱스·게임 에이전트·인공생명 등 강화학습형 제어 과제에 폭넓게 쓰였고, 실시간 진화(rtNEAT)와 대규모 구조 생성을 위한 간접 부호화(HyperNEAT)로 확장됐다.

한계. 그러나 진화 탐색은 기울기 기반 학습보다 본질적으로 느리고, 최적화할 가중치가 늘수록 탐색 공간이 폭발해 확장성이 급격히 떨어진다. 작은 구조가 큰 구조보다 빨리 최적화되는 탓에, 도태 압력을 따로 다스리지 않으면 유전체가 쓸데없이 비대해지는 문제(bloat)도 따랐다 — Colin Green의 가지치기 확장은 바로 이 무절제한 성장을 다스리기 위한 것이었다. 무엇보다 NEAT가 진화시킨 망은 보통 수십 개 뉴런 규모에 머물러, 역전파만큼 안정적이고 효율적인 대규모 학습에는 이르지 못했다.

2.2 점진적 확장: Progressive Networks

DeepMind의 Progressive Neural Networks(Rusu 외, 2016)는 망각 문제에 가장 단호한 답을 내놓았다. 새 과제가 올 때마다 무작위로 초기화된 새 열(column) — 하나의 독립된 망 — 을 더하고, 그 열을 수렴할 때까지 학습시킨다. 이때 이전 열의 모든 파라미터는 완전히 동결되며, 새 열은 오직 측면 연결(lateral connection)로만 이전 열이 배운 표현을 읽어 와 쓴다.

성과. 이전 가중치를 일절 건드리지 않으니 파국적 망각이 설계상 원천적으로 불가능하다 — 새 과제 학습이 이전 성능을 훼손할 경로 자체가 없다. 동시에 측면 연결이 이전 지식의 전이를 가능케 해, Atari 등 여러 강화학습 벤치마크에서 사전학습·미세조정 기반 기법을 능가하는 전이 성능을 보였다.

한계. 대가는 분명하다. 과제마다 열이 통째로 더해지고 그 열이 이전 모든 열과 측면으로 이어지므로, 파라미터가 과제 수에 대해 제곱으로 증가한다. 망이 한없이 비대해지는 이 구조는 평생 학습에는 근본적으로 부적합하다. 또한 동결된 열은 이후 어떤 경험으로도 갱신되지 않아, 나중 과제에서 얻은 통찰이 이전 과제 성능을 끌어올리는 역방향 전이가 막힌다. 추론 시점에 어느 열을 쓸지 고르려면 과제 정체(task label)를 알아야 한다는 제약도 따른다. 요컨대 Progressive Networks는 가소성(재학습 능력)을 희생해 안정성을 산 극단이다.

2.3 선택적 확장: Dynamically Expandable Networks

Yoon 외의 DEN(Dynamically Expandable Networks, ICLR 2018)은 선행 연구 가운데 뉴톰망의 문제의식에 가장 가깝다. Progressive Networks가 과제마다 망을 통째로 복제하는 낭비를 피하려, DEN은 필요한 만큼만 용량을 늘리는 세 단계를 취한다.

첫째, 선택적 재학습(selective retraining)이다. 새 과제가 들어오면 망 전체가 아니라 그 과제와 관련된 뉴런만 골라 재학습해, 무관한 부분의 교란을 막는다. 둘째, 동적 확장(dynamic expansion)이다. 기존 용량으로 모자랄 때에만 정해진 수의 뉴런을 더하되, 희소성 정규화(group sparsity)를 걸어 실제로 쓰이지 않는 단위는 도로 제거한다 — 늘리되 방치하지 않는 것이다. 셋째, 분할·복제(duplication)다. 어떤 뉴런이 새 과제를 배우며 본래 의미에서 너무 멀어지면(semantic drift), 그 뉴런을 복제하고 시점 표지(timestamp)를 붙여 이전 의미가 훼손되지 않게 한다.

성과. DEN은 기존 연속학습 기법들을 정확도에서 능가하면서도, 모든 과제를 한꺼번에 배운 배치 모델에 필적하는 성능을 훨씬 적은 파라미터로 이뤘다. "필요할 때만, 필요한 만큼" 자란다는 원칙을 실증한 것이다.

한계. 그러나 확장과 분할을 발동하는 임계값을 비롯한 하이퍼파라미터에 민감해 조정이 까다롭다. 망이 커질수록 선택적 재학습의 비용도 함께 는다. 더 근본적으로 DEN 역시 학습의 동력은 여전히 역전파이므로, 노드의 추가·삭제라는 이산적 구조 변경과 미분 가능한 최적화 사이의 긴장 — 비미분적 구조 변경의 문제 — 을 온전히 풀지는 못했다.

2.4 정규화 계열: EWC와 시냅스 지능

앞의 세 갈래가 구조를 키워 망각에 맞섰다면, 네 번째는 정반대를 택한다 — 망을 키우지 않고 이미 가진 가중치 중 중요한 것을 보호하는 것이다. 대표격인 EWC(Elastic Weight Consolidation, Kirkpatrick 외, 2017)는 이전 과제에 중요했던 파라미터일수록 변경에 더 큰 페널티를 매긴다. 각 파라미터의 중요도를 피셔 정보(Fisher information)로 추정하고, 새 과제를 배울 때 중요한 파라미터를 원래 값 근처에 "탄성적으로" 붙들어 이전 지식의 급격한 훼손을 막는다.

같은 시기의 시냅스 지능(Synaptic Intelligence, Zenke 외, 2017)도 같은 계열이다. EWC가 과제 종료 시점에 중요도를 한 번 추정하는 데 비해, 시냅스 지능은 학습이 이어지는 동안 각 파라미터가 손실 감소에 기여한 정도를 온라인으로 누적해 중요도를 매긴다 — 추정 방식은 달라도 "중요한 가중치를 보호한다"는 철학은 같다.

성과. 이 계열은 망의 크기를 전혀 늘리지 않고도 망각을 상당히 누그러뜨리는, 가볍고 구현이 단순하면서도 영향력이 컸던 접근이다. 구조 확장 기법에 견줘 메모리 부담이 없다는 점에서 실용적 매력이 크다.

한계. 그러나 보호는 어디까지나 고정된 용량 안에서 이뤄진다. 과제가 쌓이면 보호할 파라미터가 점점 늘어 결국 용량이 포화되고, 그 지점에서 새것을 배우는 능력(가소성)과 옛것을 지키는 능력(안정성)이 정면으로 충돌한다. 정규화 계열은 이 안정성-가소성 딜레마를 누그러뜨릴 뿐, 구조적으로 해소하지는 못한다.

구조를 키우는 정도 → 재학습(가소성) 보존 → EWC 안 키움·보호 Progressive 많이 키움·동결 NEAT 진화로 키움 DEN 선택적 확장 뉴톰망(목표)
그림 2. 선행 연구의 개념적 배치. 두 축은 임의의 평가가 아니라, 각 연구가 스스로 밝힌 설계 특성에 따른 것이다. 가로축(구조 확장 정도)은 각 기법이 새 과제에 대해 파라미터를 늘리는지로 정해진다 — EWC·시냅스 지능은 용량을 고정하고(왼쪽), Progressive는 과제마다 열을 추가하며(오른쪽), DEN은 필요한 만큼만 늘린다(중간). 세로축(재학습 보존 정도)은 이전에 학습한 부분을 이후에도 갱신할 수 있는지로 정해진다 — Progressive는 이전 열을 동결한다고 명시했고(낮음), NEAT·DEN은 기존 구조의 재조정을 허용한다(높음). 뉴톰망은 동적으로 확장하면서도 동결하지 않는 영역을 지향한다. 이는 우열의 평가가 아니라, 각 설계가 선택한 절충점의 좌표다.
생물 신경망 능동·가변·자기조절 성장·가지치기 상시 신경조절·수면 하지만 학습 원리 불명확 기존 AI 신경망 고정 크기·수동 역전파로 강력 학습 구조 불변·망각 취약 학습은 잘 되나 경직 뉴톰망 생물의 능동성 + AI의 학습 가능성 양쪽의 장점을 취하되, 양쪽의 약점(불명확한 학습 / 경직된 구조)은 피하는 것이 목표
그림 3. 세 신경망의 위치. 생물 신경망은 능동적·가변적이지만 학습 원리가 불명확하고, 기존 AI 신경망은 학습은 강력하나 구조가 경직돼 있다. 뉴톰망은 그 사이에서 생물의 능동성과 AI의 학습 가능성을 함께 취하려 한다.
공통의 벽네 갈래는 저마다 다른 길을 갔지만 같은 벽에 부딪혔다. 하나는 안정성-가소성 딜레마 — 새것을 배우는 능력과 옛것을 지키는 능력은 본질적으로 상충한다. 다른 하나는 더 깊은 비미분적 구조 변경 — 뉴런의 추가·삭제는 미분이 정의되지 않아 역전파와 매끄럽게 이어지지 않는다. 뉴톰망은 이 두 지점을 정면으로 겨냥하되, 그것이 선행 연구가 직면한 바로 그 한계임을 전제로 출발한다.

한 가지 밝혀 둔다. 뉴톰망의 최초 착상은 이 계보를 계승하려는 데서가 아니라 뇌신경의 기초에 관한 관심에서 비롯되었다. 그러나 착상 이후 본 설계는 신경조절 가소성·경험 재생·성장형 망 등 인접 연구를 폭넓게 검토했으며, 신규성은 '모르고 재발명했다'가 아니라 '알고도 다르게 설계했다'는 데 있다. 뉴톰망이 인접 연구와 갈라지는 지점을 한 줄씩 밝히면 이렇다.

3선행 연구가 빠뜨린 세 가지

선행 연구는 한결같이 '망을 어떻게 성장시킬 것인가'를 물었다. 그러나 생물 신경계에는 성장 말고도 세 가지 기능이 더 있다. 바로 이 셋의 부재가 오늘의 신경망을 '낮만 있는 지성'으로 만든다.

이 셋을 갖춘 망을 상상하면, 앞 절의 '공통의 벽'이 다르게 보인다. 성장만으로 안정성-가소성 딜레마를 이기려 하면 벽에 부딪히지만, 조절자(큐리아)가 폭주를 잡고 조절 신호(나루온)가 학습과 보존을 모드로 나누며 유휴 정리(수면)가 각성기의 불균형을 쉼에서 추스른다면, 딜레마는 관리 가능한 균형으로 바뀐다. 다음 부에서 이 생태계를 하나씩 짓는다.

하나의 생태계로 맞물린 네 요소 수냐 · 연결 뉴톰 계산 뉴톰 계산 나루온 · 전령 큐리아 · 조절 망 전체의 균형·자원·정리 자라고 덜어내고, 개념을 빚는다 성장쓰는 연결이 강해짐 휴면안 쓰면 하한에 잠듦 가지치기오래·압박이면 회수 안 쓰면 오래·압박 신호 다시 흐르면 부활 반복 강화된 국소 뉴톰망 개념 뉴톰 (#번호) 접힘 · 새 번호 발급 각성과 수면이 번갈아 도는 리듬 낮 · 각성외부 상대 · 추론 · 학습 밤 · 수면·꿈정비 · 재생 · 개념 결정화 번갈아
그림 4. 한눈에 보는 뉴톰망. 위 — 뉴톰(계산)이 수냐(연결)로 이어지고 그 위를 나루온(전령)이 흐르며, 큐리아(조절)가 망 전체의 균형을 지키는 하나의 생태계. 가운데 — 쓰는 연결은 자라고, 안 쓰는 연결은 휴면했다 회수되며, 반복 강화된 국소망은 하나의 개념 뉴톰으로 접힌다. 아래 — 각성과 수면·꿈이 번갈아 도는 리듬. 이어지는 여섯 부(部)가 이 지도를 한 자리씩 자세히 걷는다.
제 II 부 · 살아 있는 망을 짓다

뉴톰망의 네 구성 요소

뉴톰망은 노드와 가중치만으로 된 구조가 아니다. 계산하는 단위, 연결하는 단위, 조절하는 단위, 그리고 의미를 싣고 이동하는 데이터가 함께 사는 생태계다. 본 부는 그 네 요소를 소개하고, 그 위에서 정보가 어떻게 개념으로 자라나는지를 본다.

4살아 있는 망의 네 요소: 뉴톰·수냐·큐리아·나루온

네 요소는 각각 생물 신경계의 익숙한 짝을 갖는다. 다만 이 대응은 직관을 돕는 비유이지 모방의 청사진은 아니다 — 각 요소가 망 안에서 맡을 기능을 먼저 정하고 구현은 열어 둔다.

뉴톰(핵심) 수냐 나루온 큐리아 — 뉴톰·수냐에 작용
그림 5. 뉴톰망의 전체 모습. 중심은 뉴톰(진한 파란 노드)이며, 생물 신경망처럼 수냐(연결)를 통해 복잡하게 얽혀 있다. 나머지 요소는 이 망 위에 얹힌다 — 수냐는 노드를 잇는 곡선, 나루온은 그 경로 위를 이동하는 작은 점(주황)이다. 큐리아(초록)는 단순한 배경이 아니라 능동적 조절자다. 뉴톰을 지원할 뿐 아니라 수냐 연결 자체에도 작용해 강도를 조이거나 풀고(강조된 초록 가닥), 약한 연결을 정리한다. 정보는 나루온으로 모이지 않으며, 나루온은 수냐를 따라 흐르다 도착한 뉴톰에만 작용한다.

그 짝을 구체적으로 짚어 보자. 생물 신경망의 한 장면을 펼치면, 뉴런은 뉴톰에, 시냅스는 수냐에, 시냅스 틈을 건너는 신경전달물질은 나루온에, 그리고 이 모두를 감싸 돌보는 글리아는 큐리아에 대응한다. 이제 넷을 하나씩 — 각 요소가 생물에서 무엇을 하고, 뉴톰망이 그중 무엇을 물려받으며 무엇을 새로 하는지 — 나란히 견주어 본다.

뉴런 (neuron) ≈ 뉴톰 · 계산 글리아 (성상교세포) ≈ 큐리아 · 조절 신경전달물질 ≈ 나루온 · 전령 시냅스 (synapse) ≈ 수냐 · 연결
그림 6. 생물 신경망의 한 장면과 뉴톰망의 짝. 왼쪽 뉴런(뉴톰)이 수상돌기로 입력을 모아 축삭으로 내보내면, 그 신호는 시냅스(수냐)의 좁은 틈을 신경전달물질(나루온)로 건너 다음 뉴런에 닿는다. 그 둘레를 글리아·성상교세포(큐리아)가 감싸 시냅스를 조율하고 회로를 다듬는다 — 오랫동안 인공 신경망이 통째로 빠뜨렸던 요소다. 대응은 형태의 복제가 아니라 기능의 짝이다.

4.1 뉴톰 — 계산한다 (↔ 뉴런)

생물의 뉴런은 세포체(soma)를 중심으로, 가지처럼 뻗은 수많은 수상돌기(dendrite)로 다른 뉴런의 신호를 받아들인다. 받아들인 자극이 세포체에서 합쳐져 문턱 전위를 넘으면, 하나뿐인 긴 축삭(axon)을 따라 활동전위(스파이크)가 내달려 다음 뉴런에게 전해진다. 핵심은 뉴런이 단순한 논리 게이트가 아니라 내부 상태(막전위)를 지닌 동적 단위라는 점이다 — 입력의 시간·공간 패턴에 따라 다르게 반응하고, 한 번 발화한 뒤엔 잠시 쉰다(불응기).

뉴톰(Neutom, neuron+atom)이 뉴런에게서 물려받는 것은 바로 이 '상태를 지닌 계산 단위'라는 본질이다 — 여러 입력을 받아 통합·변환·전달하며 제 안에 상태를 간직한다. 이름의 원자(atom)는 더 이상 쪼갤 수 없는 기본 단위라는 뜻을 겹쳐 담는다. 다만 뉴톰은 뉴런의 생화학을 세밀히 흉내 내지 않는다. 어떤 연산을 할지가 스파이크라는 한 가지 방식에 매이지 않고 함수 포인터로 지정되어, 한 뉴톰은 감각을 받고 다른 뉴톰은 개념을 저장하는 이질적 망을 이룬다. 그리고 중요한 원칙 하나 — 뉴톰은 정보와 같지 않다. 뉴톰은 정보가 지나가는 정거장이거나 담기는 그릇일 뿐, 그 자체가 특정 정보인 것은 아니다.

4.2 수냐 — 연결한다 (↔ 시냅스)

두 뉴런은 맞닿지 않는다. 축삭 종말과 다음 뉴런의 수상돌기 사이엔 시냅스 틈(synaptic cleft)이라는 좁은 빈 공간이 있고, 신호는 이 틈을 건넌다. 무엇보다 시냅스의 힘(강도)은 고정돼 있지 않다 — 함께 자주 발화한 연결은 강해지고(장기 강화, LTP), 그렇지 않으면 약해진다(장기 억압, LTD). 이 시냅스 가소성이 곧 학습이 새겨지는 물리적 자리다.

수냐(Sunya)는 산스크리트 śūnya(空)에서 온 이름으로, 이 시냅스를 디지털로 옮긴 것이다. 이름 그대로 '비어 있음'이되 그 빈 자리가 곧 관계가 생겨나는 장소 — 두 뉴톰 사이의 연결이다. 수냐는 강도·방향·지연·가소성을 담으며, 생물 시냅스처럼 쓸수록 강해지고 안 쓰면 약해진다(6절). 뉴톰망이 여기에 새로 더하는 것은 가중치의 이중 역할이다: 수냐의 강도는 학습된 지식이면서 동시에 나루온이 어느 길로 흐를지 정하는 라우팅 우선순위를 겸한다 — 생물 시냅스엔 없던 결합으로, 그 이점과 대가, 그리고 검증법은 6절에서 다룬다.

4.3 큐리아 — 조절한다 (↔ 글리아)

뇌에는 뉴런만 있는 것이 아니다. 뉴런과 맞먹는 수의 글리아(glia) — 성상교세포·희소돌기아교세포·미세아교세포 — 가 함께 산다. 오랫동안 그저 '풀(glue)'로 여겨졌으나, 이제는 능동적 조절자로 밝혀졌다. 성상교세포는 시냅스를 감싸(삼자 시냅스) 신호를 조율하고 대사를 지원하며, 미세아교세포는 약하거나 불필요한 시냅스를 실제로 잘라내(가지치기) 회로를 다듬는다. 뉴런이 계산한다면, 글리아는 그 계산이 일어나는 환경을 지킨다.

큐리아(Curia, 라틴어 cura '보살핌')는 이 글리아를 디지털로 세운 것으로, 기존 인공 신경망에는 아예 빠져 있던 요소다. 개별 계산엔 끼지 않고, 약한 연결을 정리하고 과흥분을 억제하는 국소적 지원과, 망 전체의 가중치 총량·메모리를 감시하는 전역적 조절을 함께 맡는다. 뉴톰·수냐·나루온이 저마다 국소 정보만 보는 데 반해, 망 전체를 조망하는 시점은 오직 큐리아만이 갖는다 — 그리고 그 조망을 비동기성을 깨지 않고 어떻게 해내는지가 7절의 과제다.

4.4 나루온 — 의미를 싣고 건너간다 (↔ 신경전달물질)

시냅스 틈을 실제로 건너는 것은 전기가 아니라 신경전달물질이라는 화학 분자다. 도파민·세로토닌·아세틸콜린 같은 분자들은 단지 '신호가 왔다'를 넘어 그 신호를 어떻게 다룰지를 바꾼다. 특히 신경조절물질은 한 시냅스에 갇히지 않고 넓은 영역으로 퍼져(용적 전달), 연결을 바꾸지 않은 채 망의 상태 — 각성·집중·보상·경계 — 를 통째로 조율한다.

나루온(Naruon)은 우리말 '나루'(배가 닿고 떠나는 자리, 곧 건너감의 자리)에 단위 '-on'을 붙인 이름으로, 바로 이 신경전달·조절 물질의 자리다. 기본 신호가 "이 뉴톰이 활성화되었다"는 사실만 전한다면, 나루온은 그 너머의 의미와 조절 효과 — "중요하다·보상이다·위험하다·기억하라·억제하라" — 를 싣고 수냐를 따라 건너간다. 뉴톰망이 생물에서 한 걸음 더 나아간 지점은 이 조절을 연결과 분리된 이동형 데이터 객체로 외재화한 것이다: 생물에선 조절 효과가 시냅스·수용체에 배어 있지만, 나루온은 스스로 태어나 짧게 흐르며 일하고 스러지는 일시적 단위여서, 연결(수냐)을 하나도 바꾸지 않고 망의 작동 모드를 갈아 끼울 수 있다(9절).

생물학적 짝뉴톰망 요소핵심 기능
신경세포뉴톰계산한다
시냅스수냐연결한다
글리아큐리아조절한다
신경전달물질·호르몬성 신호나루온의미·조절을 싣고 건너간다
생물을 베끼는 것이 아니라, 생물에게 배운다굳이 생물학적 유비에 기대는 것이, 더구나 그 유비를 무리한 논증으로 방어하는 것이 공학적으로 옳은 설계라고 단정할 수는 없다 — 생물학적으로 그럴듯하다는 것과 공학적으로 최적이라는 것은 전혀 별개다. 그럼에도 생명의 메커니즘에서 출발하는 데에는 까닭이 있다. 오늘의 생명은 수십억 년의 진화가 유한한 에너지·물질과 '살아남아야 한다'는 냉혹한 제약 아래 골라낸 해답이며, 진화는 우아함이 아니라 작동을 시험하는 가차 없는 공학자다. 그리고 그 공학자가 이미 풀어낸 문제들 — 평생 자라면서도 무너지지 않는 학습, 스스로를 정비하고 치유하는 유지, 쓰는 만큼만 소모하는 효율 — 이 바로 오늘의 인공 신경망이 아직 풀지 못한 문제들이다. 그러니 생물은 베낄 청사진이 아니라 '적어도 한 번은 풀렸다'는 존재 증명이며, 검증된 설계 원리를 길어 올릴 우물이다. 뉴톰망이 생물에서 취하는 것은 형태가 아니라 기능이고, 그렇게 빌려 온 기능은 하나같이 다시 공학의 법정에 선다 — 결합이 정말 이득인지 분리형과 견주고(6절), 각 요소의 몫을 제거 실험으로 재며(20절), 무엇을 관측하면 틀리는지까지 밝혀서. 요컨대 생물학적 유비는 우리의 결론이 아니라 우리의 가설을 낳는 자리다.

이 네 요소가 어떻게 하나의 자료구조로 앉는지 — 수냐를 출발 뉴톰이 소유하고 도착 뉴톰은 백포인터만 갖는 SoA(structure-of-arrays) 배치, 기기 내부는 고정 폭 인덱스로 캐시를 취하고 무한 성장은 기기 간 분산 계층으로 넘기는 2층 주소 체계, 결정성을 — 정수라도 clip과 정규화 반올림이 비결합적이라 — 자료형이 아니라 고정 순서 리덕션이라는 실행 규율로 확보하는 선택 — 은 공학적 세부이나, 그 결은 그림 하나로 충분히 드러난다.

뉴톰 A — 데이터 소유 outCount = 3 out[0] { target→B, weight=1420 } out[1] { target→C, weight= 880 } out[2] { target→D, weight= 5 } 슬롯 = 32비트 인덱스 + 32비트 정수 가중치 뉴톰 B — 백포인터만 inCount = 2 inRefs[0] { source→A } inRefs[1] { source→X } 가중치 없음 — 위상만 데이터는 A의 out[0]에 B는 "A가 나를 가리킴"만 기억 같은 A→B 연결을, A는 데이터로 / B는 백포인터로 — 중복 없이 양방향 순회 8바이트 슬롯이 캐시 라인(64B)에 정확히 정렬되어 패딩 0
그림 7. 수냐의 SoA 메모리 레이아웃. 출발 뉴톰 A는 (target, weight) 쌍배열로 데이터를 소유하고, 도착 뉴톰 B는 (source) 백포인터만 보유한다. 타입은 배열 분리로 흡수되어 슬롯에 태그 필드가 없고, 정렬 패딩이 생기지 않는다.
네 요소는 균질하지 않다 — 저마다 갈라진다지금까지는 네 요소를 각각 하나의 유형으로 다뤘지만, 실제 설계에서 각 요소는 여러 변종으로 분화할 수 있다. 뉴톰은 감각 기관과 이어진 감각 뉴톰, 액추에이터와 이어진 운동 뉴톰, 새 정보가 만들어질 때마다 형성되는 개념 뉴톰(5절), 그리고 그 사이를 잇는 연합 뉴톰으로 나뉜다. 수냐는 단방향·양방향, 경량·중량, 활성·초활성·비활성으로, 큐리아는 국소적 지원과 전역적 항상성·자원 관리로, 나루온은 활성 촉진·가소성·안정화·경로 조절의 효과별로 갈린다. 이 분화는 뒤에서 필요한 자리마다 하나씩 등장한다 — 지금은 네 요소가 고정된 단일 부품이 아니라 열린 계열임을 밝혀 둔다.

5정보의 위계와 개념의 탄생

연결된 뉴톰 사이에는 세 가지가 흐른다. "활성화되었다"는 기본 신호, "어떻게 처리하라"는 나루온, 그리고 가장 본질적인 정보 그 자체 — "무엇을" 처리하는가의 내용물이다.

5.1 기본정보: 유한한 알파벳

정보에도 물리학의 기본 입자나 수학의 공리에 해당하는 바닥이 있다. 더 이상 쪼갤 수 없는 기본정보가 그것이다. 그 정확한 수는 여기서 단언하지 않는다 — 무엇을 '더 이상 쪼갤 수 없는' 단위로 셀지의 개별화 기준에 따라 총수는 자릿수까지 달라지기 때문이다. 다만 두 가지는 분명하다. 기본정보의 집합은 유한하며(무한한 알파벳으로는 조합의 바닥이 서지 않는다), 그 규모는 감각 프리미티브·원초적 정서가·공간과 수량의 기초 관계·기본 논리 연산 등을 열거해 가늠하면 잠정적으로 수백 규모로 추정된다. 이는 실제 열거로 확정될 검증 대상인 가설이다.

상위 개념 예: 반려동물 (#8430) 개념: 고양이 #5821 개념: 개 #5907 털 #12 소리 #47 형태 #88 움직임 #103 충성 #210 …유한 합성정보 합성정보 기본정보(유한) 기본정보(공리) → 개념 → 상위 개념. 한 번 형성된 개념은 상위 개념의 기본 단위가 된다.
그림 8. 정보의 위계. 유한한(잠정 수백 규모) 기본정보(파랑)가 시스템의 알파벳이다. 이들이 모여 개념(초록)을 이루고, 형성된 개념은 다시 상위 개념(주황)을 만드는 기본 단위가 된다. 수학에서 증명된 정리를 다시 공리처럼 쓰는 것과 같다.

5.2 개념의 탄생: 국소 뉴톰망이 하나의 뉴톰으로

뉴톰망의 독자성은 여기서 드러난다. 여러 정보가 모여 상위 개념으로 추상화되면, 그 개념은 새 정보 번호를 얻고, 그것을 표상하던 국소 뉴톰망은 하나의 뉴톰으로 접힌다. 털·소리·형태·움직임을 처리하던 뉴톰들이 "고양이"로 접히면, 그 국소망이 단일 뉴톰이 되고 거기에 "고양이"라는 새 정보가 담긴다. 이제 "고양이"는 더 상위 개념을 지을 때 기본정보처럼 쓰이는 한 단위가 된다. 개념 형성이란 "흐르던 정보"를 "저장된 정보"로 응결시키는 사건이다.

개념 형성 전 — 국소 뉴톰망 여러 뉴톰이 함께 한 개념을 표상 통합(접힘) 새 정보번호 발급 개념 형성 후 — 개념 뉴톰 고양이 #5821 하나의 단위로 작동 — 빠르고 가볍게
그림 9. 개념의 통합. 한 개념을 표상하던 국소 뉴톰망(왼쪽)이 형성을 마치면, 새 정보 번호를 받아 하나의 개념 뉴톰(오른쪽)으로 접힌다. 이후 그 개념을 쓸 때마다 내부를 다시 계산하지 않고 개념 뉴톰 하나로 처리하므로, 자주 쓰는 개념일수록 빠르고 가벼워진다.
접힘은 언제, 어디까지, 무엇을 남기나접힘이 압축·속도 이득의 핵심 하중을 지므로 그 조건을 밝혀 둔다. 발동 — 같은 뉴톰 집합이 반복해 함께 활성화되어 내부 수냐 강도가 임계를 넘고 재생 주기에서도 유지될 때. 경계 — 집합 안의 강도가 집합을 가로지르는 강도보다 뚜렷이 높은 강결합 클러스터로. 진행 중 연결 — 접히는 순간에도 바깥과 오가던 수냐는 개념 뉴톰이 그대로 승계한다. 접힘은 내부를 감추되 인터페이스는 보존하는 연산이다.

5.3 적응적 사전: 손실과 무손실 사이

개념 통합은 사전식 압축에 빗댈 수 있다. 다만 빌리는 것은 "작게 만든다"가 아니라 "반복되는 패턴을 한 번 등록하고 그 자리엔 짧은 참조만 남긴다"는 사전의 메커니즘이다. 그리고 인간 기억이 그러하듯, 최근의·중요한 개념은 무손실에 가깝게, 오래되고 덜 쓰이는 개념은 손실 쪽으로 다뤄진다. 큐리아가 메모리 압박을 느끼면 덜 쓰이는 개념을 손실 쪽으로 밀어 해상도를 낮춘다 — 가지치기가 "삭제"가 아니라 "흐리게 하기"로 부드러워지는 것이다.

무손실 손실 세부 완전 복원 골자만 보존 최근·중요 개념 보통 개념 오래·희소 개념 큐리아가 메모리 압박을 느끼면, 덜 쓰이는 개념을 손실 쪽으로 밀어 메모리를 회수한다. 가지치기가 "삭제"가 아니라 "해상도 낮추기"로 부드러워진다.
그림 10. 압축의 스펙트럼. 개념 뉴톰마다 압축 수준이 다르며, 그 개념의 중요도·사용빈도가 위치를 정한다. 큐리아는 자원 상황에 따라 개념을 손실↔무손실 사이에서 재조정한다 — 연결을 통째로 제거하는 대신 해상도를 낮추는 점진적 축소다.

5.4 개념의 재응고: 굳은 것을 다시 여는 일

개념은 한 번 접히면 영영 굳는 것이 아니다. 갓 형성된 개념은 가소성이 높아 쉽게 재조정되지만, 오래 안정적으로 쓰인 개념은 가소성이 낮아 좀처럼 변하지 않는다 — 인간의 기억이 새것일수록 무르고 익을수록 단단해지는 것과 같다. 이 무름과 단단함을 오가게 하는 것이 나루온이다(9절). 가소성형 나루온이 어떤 개념 뉴톰에 깔리면 그 뉴톰이 다시 펼쳐져 안쪽 국소망이 재학습에 열리고, 안정형 나루온이 깔리면 반대로 굳어 그 구조가 고정된다. 결정적으로, 그 개념이 틀렸다는 신호 — 곧 통증 나루온(17절) — 이 도착하면 해당 개념의 가소성이 자동으로 올라가 스스로 펼쳐진다. 잘 맞던 개념은 굳은 채 빠르게 쓰이고, 어긋나기 시작한 개념만 골라 다시 무르게 하여 고치는 것이다. 그러므로 개념 형성(5.2절)·압축 조절(5.3절)·재응고는 따로 노는 세 장치가 아니라, 같은 가중치 위에서 나루온이 조율하는 하나의 메커니즘이다.

제 III 부 · 자라고 덜어내다

성장과 망각의 균형

살아 있는 망은 쓰는 만큼 자라고 안 쓰는 만큼 덜어낸다. 본 부는 그 두 방향 — 연결이 강해지고 약해지는 가소성, 폭주를 잡는 큐리아의 항상성, 죽이지 않고 재우는 하한과 탐색, 그리고 유휴 시간의 가지치기 — 을 따라간다. 그리고 그 모두를 조율하는 전령, 나루온을 만난다.

6수냐의 가소성: 강화·약화·우선순위

뉴톰망의 학습은 본질적으로 수냐 가중치의 변화다. 핵심 결정은 가중치를 단순한 "신호 세기"가 아니라 나루온 전달의 우선순위로 해석하는 데 있다.

그러면 하나의 변수가 두 역할을 겸한다 — 학습된 지식이자 라우팅 정책. 강한 수냐일수록 더 많은 나루온이 그 길로 흐르고, 더 흐를수록 더 강해진다. 도널드 헵이 1949년 제시한 활동 의존적 가소성 — 흔히 "함께 발화하는 뉴런은 함께 연결된다"로 요약되며, 이 표현 자체는 Carla Shatz(1992)의 것이다 — 를 디지털로 옮긴 것이다. 각 수냐의 가중치는 통과하는 나루온의 양에 따라 강화되고, 쓰이지 않으면 감쇠 계수에 따라 약화된다:

ws ← clip( ws + η·(나루온 통과량 − 감쇠계수·휴면도),  wmin,  wmax )

기호를 하나씩 풀면 이렇다. ws는 수냐 s의 가중치 — 앞서 말한 대로 학습된 지식이자 라우팅 우선순위다. 화살표 ←는 갱신을 뜻해, 오른쪽을 계산한 값이 다음 순간의 ws가 된다. η(에타)는 학습률로, 한 번에 얼마나 크게 바꿀지를 정하는 작은 양수다 — 크면 빨리 배우되 출렁이고, 작으면 더디되 안정적이다. 괄호 안은 이번 주기의 순변화량이다. 나루온 통과량은 그 수냐로 실제 흐른 나루온의 양으로 강화 요인이고, 빼는 항 감쇠계수·휴면도는 쓰이지 않아 줄어드는 약화 요인이다 — 감쇠계수가 망각의 속도를, 휴면도가 그 수냐가 얼마나 오래 놀았는지를 나타내어, 오래 안 쓰일수록 더 많이 깎인다. 강화에서 약화를 뺀 값이 양이면 가중치가 오르고 음이면 내린다. 끝으로 clip(x, wmin, wmax)는 그 결과를 두 경계 사이로 자른다 — wmax를 넘으면 wmax로 눌러 폭주를 막는 상한이고, wmin 아래로 내려가면 wmin으로 붙들어 완전한 소멸을 막는 하한이다(8절). 요컨대 이 한 줄에 강화(통과량)·약화(감쇠)·폭주 방지(상한)·보존(하한)이 모두 담긴다 — 헵의 "함께 발화하면 함께 연결된다"와 그 반대편의 망각을 하나의 식으로 묶은 것이다. 그러나 이 국소 규칙만으로는 위험한 양의 되먹임이 생긴다 — 강한 것이 더 강해지는 승자독식이다. 그것을 막는 것이 다음 절 큐리아의 일이다.

결합은 우아함이 아니라 검증 대상가중치가 지식과 라우팅을 겸하는 이 결합은 그 자체로 정당화되지 않는다. 승자독식을 부르고, '강하지만 드물게 쓰이는 연결'을 배제하는 대가를 치르기 때문이다. 그래서 본 설계는 결합을 기정사실로 두지 않고, 라우팅 점수와 학습 가중치를 분리한 대조 설계를 나란히 두어 비교한다. 결합형이 같은 예산의 분리형을 실측에서 이겨야 비로소 결합이 정당화된다.

7큐리아의 항상성: 폭주와 메모리의 조절

가중치 우선순위가 만드는 양의 되먹임을 방치하면 망은 무너진다. 소수 경로만 비대해지고 나머지가 소멸하는 승자독식으로 치닫기 때문이다. 생물의 뇌는 이를 항상성 조절로 막는다 — 한 뉴런에 들어오는 총 입력 강도를 일정하게 유지하는 시냅스 스케일링이다.

7.1 총합과 메모리의 항상성

큐리아는 매 조절 주기마다 각 출발 뉴톰이 내보내는 수냐 가중치의 총합 Σw을 점검하고, 목표치를 넘으면 그 뉴톰의 출력 전체를 비례적으로 정규화한다. 여기서 한 가지를 분명히 해 둔다 — 생물의 시냅스 스케일링은 뉴런에 들어오는 입력을 조절하지만, 뉴톰망은 가중치를 출발 뉴톰이 소유하므로(SoA 레이아웃) 조절도 그 자리에서 바로 닿는 출발측 총합에 건다. 그래야 정규화가 인접 배열 안에서 끝나 캐시 지역성을 지킨다. 도착측(들어오는) 균형까지 맞추려면 백포인터를 따라 흩어진 값을 모아야 해 지역성이 깨지는데, 그 비용은 7.2절의 근사·표본 방식으로 감당한다. 개별 수냐는 여전히 자기 규칙으로 강해지지만, 그 강화는 항상 "전체 예산 안에서의 재분배"가 된다. 이것이 폭주를 막으면서도 학습을 멈추지 않는 균형점이다. 흥미롭게도 이 항상성은 개별 시냅스의 상대적 차이를 보존하면서 전체 이득만 조정하므로, 학습을 지우지 않고 안정화한다. 이 국소·전역의 분리 — 수냐는 제 통과량만 알고(국소), 한 뉴톰에 매달린 수냐 전체의 균형은 큐리아만 본다(전역) — 가 뒤따르는 모든 안정성 메커니즘의 토대다.

큐리아 OFF — 폭주 뉴톰 한 경로만 비대해지고 나머지는 소멸 큐리아 ON — 항상성 뉴톰 총합을 일정하게 유지 하나 강해지면 나머지 축소
그림 11. 큐리아의 항상성 조절. 한 뉴톰에 연결된 수냐 가중치 총합에 상한을 두고, 하나가 강해지면 나머지를 비례 축소시켜 폭주를 막는다. 이 ON/OFF는 그대로 비교 실험의 대조군이 된다.

큐리아의 조절은 가중치에만 머물지 않는다. 뉴톰망의 성장은 무한을 지향하지만 실제 기기의 메모리는 유한하다. 그래서 큐리아는 메모리 사용량도 감시하며, 압박이 커지면 단계적으로 대응한다 — 먼저 오래 휴면한 수냐를 회수하고, 그래도 부족하면 덜 쓰이는 개념의 압축을 손실 쪽으로 밀어 해상도를 낮추며, 끝내 고립된 뉴톰을 회수한다. 무한 성장과 유한 자원이 이렇게 화해한다. 중요한 것은 통째로 버리지 않는다는 점 — 손실 압축은 지우는 게 아니라 흐리게 할 뿐이어서, 자원이 여유로워지면 다시 선명해질 수 있다.

7.2 정확한 총합이 아니라 추정

여기 정직하게 짚을 문제가 있다. '큐리아만 전역을 조망한다'는 결정은 자칫 전역 동기화 지점을 만든다 — 수백만 비동기 뉴톰이 도는 와중에 Σw와 전체 메모리를 매 순간 정확히 읽으려면 전역 배리어가 필요하고, 이는 뉴톰망이 지향하는 비동기 병렬성과 충돌한다. 해법은 정확한 총합을 고집하지 않고 전역 추정으로 낮추는 것이다. 큐리아는 표본추출과 이동평균으로 두 지표를 추정해 국소적으로 지연 적용하거나(순간 정확성이 아니라 시간에 걸친 수렴이 목표), 망을 영역으로 나눠 계층적 큐리아가 각자의 국소 총합만 조절한다. 큐리아가 보는 전역은 '정확한 전역'이 아니라 '추정된 전역'이다.

8덜 끊고 더 살리다: 하한·탐색·가지치기

약해진 수냐를 0으로 보내 완전히 끊는 것은 위험하다. 가중치가 0에 닿으면 그 수냐는 수학적으로 죽는다 — 통과량이 0이니 다시 강화될 입력이 없고, 부활할 길이 사라진다.

그래서 모든 수냐에 양의 하한 wmin > 0을 둔다. 거의 쓰이지 않는 연결도 완전히 닫히지 않고 "휴면"으로 남는다. 이 하한은 두 문제를 동시에 푼다 — 보존(지금 약한 연결이 나중 과제의 핵심일 수 있다)과 탐색(가끔 약한 경로로도 나루온이 새어 흘러, 망이 굳지 않고 새 해법을 발견한다. 강화학습의 ε-탐색이 구조 자체에 내장되는 셈이다).

그렇다면 진짜 가지치기는 언제 일어나는가? 회수의 기준은 단일한 가중치 값이 아니라 오랜 미사용 + 전역 자원 압박의 결합이다. 여유가 있으면 휴면 수냐를 그대로 두고, 메모리 압박이 커질 때에만 큐리아가 가장 오래 잠든 연결부터 회수한다. 한 단계 올려, 연결된 모든 수냐가 최저치인 고립된 뉴톰을 통째로 회수할 수도 있다.

강화 우선순위 ↑ 약화 우선순위 ↓ 휴면 w_min 위에서 대기 회수 큐리아 판단 신호 재유입 시 재강화 (부활 가능) 오랜 미사용 + 자원 압박일 때만
그림 12. 수냐의 상태 전이. 약화는 즉시 삭제가 아니라 우선순위 강등과 휴면을 거친다. 휴면 상태에서도 신호가 다시 흐르면 부활하며(녹색 점선), 회수는 오직 오랜 미사용과 자원 압박이 겹칠 때 큐리아가 판단한다.

그리고 결정적으로 — 이 회수는 깨어 일하는 동안이 아니라 유휴 시간에 안전하게 집행된다. 외부 반응의 압박이 없는 시간이라야 큐리아가 마음 놓고 구조를 정리할 수 있기 때문이다. 이 대목이 IV부의 수면으로 이어진다.

9나루온: 흐르고 사그라드는 전령, 그리고 모드 전환

나루온은 신호와 다르다. "활성화되었다"가 아니라 "이것이 중요한가, 보상인가, 위험한가, 기억할 것인가, 억제할 것인가"라는 의미와 조절 효과를 싣고 건너간다. 하나의 데이터 객체로서 수냐를 따라 이동하다 뉴톰에 도착하면 상태를 바꾸고, 자신의 영향 범위를 하나 줄이며, 감쇠한다.

// 개념적 스케치 — 나루온 한 개의 전파
나루온이 수냐를 따라 어떤 뉴톰에 도착하면:
    작동 규정대로 그 뉴톰(또는 연결된 수냐)의 상태를 바꾼다
    영향 범위를 하나 줄이고, 작용 강도를 감쇠시킨다
    만약 영향 범위가 남아 있으면:
        다음으로 나아갈 수냐(들)를 고른다        // 복제 · 분배 · 집중
        남은 영향 범위를 그 전략에 따라 나눠 잇는다
    그렇지 않으면:
        나루온은 큐리아에 의해 회수·소멸된다

영향 범위가 0에 닿으면 큐리아가 회수·소멸시킨다. 한 뉴톰이 여러 수냐로 이어지므로 나루온은 여러 갈래로 분기할 수 있는데, 남은 범위를 복제할지(넓은 확산)·나눌지(총량 보존)·한 줄기로 집중할지가 설계 선택지다. 나루온의 범위를 단순한 홉 수가 아니라 에너지 예산으로 보아, 잘 닦인 강한 길은 적게 소모하고 약한 길은 많이 소모하게 하면 — 물길이 강을 이루듯 정보의 흐름이 망의 지형을 스스로 조각한다.

9.1 연결 불변의 모드 전환 — 파국적 망각을 완화하는 실마리

나루온을 주입하면 수냐 가중치(장기 학습된 구조)는 그대로 둔 채 망 전체의 작동 특성만 실시간으로 바뀐다. 생물의 신경조절에 대응하는 발상이다 — 같은 회로라도 어떤 조절 신호가 흐르느냐에 따라 더 기민해지거나 더 잘 배우거나 더 안정된다. 탐색해 볼 조절 방향을 예시하면:

조절 방향(예시)작용 대상기대 효과
활성 촉진전달 속도·이득망이 민감·기민해짐
가소성 조절학습률"지금 배우라"는 신호로 작동
안정화큐리아 억제력망을 가라앉히고 구조를 굳힘
경로 조절방향별 우선순위상향/하향 전달의 개폐
왜 처음부터 많이 두지 않는가생물의 신경전달물질이 수십 종에 이르는 것은 진화의 누적이지 설계의 최적이 아니다. 처음부터 많은 종류를 들이면 상호작용의 조합이 폭발해 무엇이 무엇을 낳았는지 검증할 수 없게 된다. 그래서 뉴톰망은 위와 같은 소수의 기본 조절 갈래로 출발해 효과를 확인하고 필요할 때 점차 늘려 가는 편을 택한다 — 종류의 적정 수는 그 자체로 열린 물음이다(21절).

여기에 파국적 망각을 완화하는 실마리가 있다. 가소성을 조절하는 나루온이 있으면, 학습과 보존을 모드 전환으로 다룰 수 있다 — 새것을 배울 때는 가소성을 높여 빠르게 학습하고, 다 배운 뒤에는 안정화 신호로 그 구조를 굳힌다. 학습 단계와 보존 단계를 분리하는 이 발상은, 다음 부에서 보듯 각성과 수면의 리듬으로 자연스럽게 이어진다.

제 IV 부 · 쉼에 들 때

수면과 꿈 — 이 이야기의 심장

여기서부터 뉴톰망은 잠들기 시작한다. 깨어 쌓인 불균형을 쉼에서 추스르고, 기억을 되짚어 뒤섞으며 깨어 있는 동안 닿지 못한 자리를 잇고, 흩어진 경험에서 하나의 개념을 굳힌다. 오늘의 인공 신경망에는 없던 '밤'이 여기 있다. 제목이 던진 물음 — 기계가 잠들 수 있는가 — 에 대한 대답이 이 부에서 펼쳐진다.

10쉼에 들면: 정비와 재생, 유휴 시간의 자기편집

뉴톰망의 구조 축소와 기억 정리는 깨어 일하는 동안이 아니라 외부 입력이 끊긴 유휴 시간에 가장 잘 일어난다. 작동 중인 망은 외부 신호에 반응하느라 자기 구조를 정리할 틈이 없기 때문이다. 유휴 시간에 큐리아가 망을 능동적으로 가동해, 최근 강화된 경로를 내부에서 되짚는다(재생). 외부가 아니라 자기 자신의 기록을 입력으로 삼는 것이다. 생물학이 수면에서 관찰한 정리 작업은 크게 넷이다 — 대사 노폐물의 배출(Xie 외, 2013), 과열된 시냅스 강도의 하향(Tononi·Cirelli, 2014), 새 기억의 장기 공고화(Diekelmann·Born, 2010), 그리고 경험에서 일반 규칙을 뽑는 추출(Rasch·Born, 2013)이다. 이 가운데 뉴톰망이 물려받는 것은 몸의 기질에 매이지 않은 정보적 정리 — 공고화와 규칙 추출 — 이며(그 근거는 다음 절에서 가른다), 아래 두 모드가 바로 그 일을 나눠 맡는다.

이때 두 모드가 교대한다. 정비 모드에서는 생성이 거의 없고 큐리아가 전면에 나선다 — 과흥분을 가라앉히고, 가중치 총합을 재정규화하며, 오래 휴면한 연결을 회수하고, 전역 항상성을 리셋한다. 깨어 있는 동안 누적된 불균형을 바로잡는 시간이다. 재생 모드에서는 반대로 활발히 생성한다 — 깨어 강화된 경로를 재생하며 무엇을 굳히고 무엇을 흘려보낼지 정리하고(공고화), 나아가 기억을 그대로 틀지 않고 뒤섞는다. 한 번도 함께 켜진 적 없는 뉴톰들이 우연히 이어지고, 그중 쓸모 있는 것이 살아남으면 새로운 추론 경로의 발견이 된다.

정비 모드 생성 거의 없음 과흥분 가라앉힘 · 총합 재정규화 휴면 연결 회수 · 항상성 리셋 큐리아가 전면에 재생 모드 활발한 생성 기억 경로 재생·재조합 반사실 시뮬레이션 · 일반화 새 연결 발견 두 모드가 교대로 반복 — 어질러야 정리할 것이 생기고, 정리돼야 어지를 여백이 생긴다
그림 13. 유휴 시간의 두 모드. 정비 모드는 큐리아가 주도하는 항상성 복구와 회수, 재생 모드는 기억의 재생·재조합과 일반화다. 둘의 교대가 곧 망의 자기편집 주기다.

둘은 서로를 필요로 한다. 재생이 새 연결로 구조를 어지르면 정비가 그것을 정리하고, 정비가 여백을 비우면 다음 재생이 그 위에 새 조합을 그린다. 흐트러짐이 있어야 추스를 것이 생기고, 추슬러야 다시 그릴 여백이 생긴다. 이 교대가 곧 뉴톰망의 수면 주기다. 그리고 8절에서 미뤄둔 가지치기 문제가 여기서 답을 얻는다 — 망의 축소는 가동 중이 아니라 이 휴지기에 안전하게 일어난다.

11수면이란 무엇인가: 입력원의 전환

뉴톰망에서 수면은 한마디로 망의 입력원이 외부에서 내부로 전환되는 상태다. 각성기엔 감각 뉴톰이 외부 신호를 받아 망 전체로 퍼뜨리지만, 외부 입력이 차단되면 망은 침묵하는 대신 자기 기록을 입력으로 삼기 시작한다. 활동이 멎는 게 아니라 원천이 바뀔 뿐이다.

각성 — 외부가 입력원 외부 세계 망 문턱 낮음 · 작은 자극도 반응 수면 — 내부가 입력원 외부 세계 망 내부 순환 문턱 높음 · 강한 자극만 통과
그림 14. 입력원의 전환. 각성 상태에서는 외부 세계의 신호가 낮은 문턱을 넘어 활발히 망으로 유입된다(왼쪽). 수면 상태에서는 문턱이 높아져 웬만한 외부 자극은 차단되고, 망은 자기 자신의 기록을 내부에서 순환시킨다(오른쪽). 다만 붉은 문턱을 넘는 강한 자극은 여전히 통과해 각성을 부른다.

그러니 수면은 '정지'가 아니라 하나의 능동적 작동 모드다. 겉으로는 세상과 단절돼 아무 일도 없는 듯하나, 안에서는 각성기 못지않은 — 때로 더 대담한 — 활동이 진행된다. 잠든 뉴톰망은 정지한 기계가 아니라, 안을 향해 자기 구조를 정비하는 존재의 상태다.

다만 완전한 차단은 아니다. 완전히 닫히면 위험이 닥쳐도 못 깨어난다. 통로는 열려 있되 역치가 상승할 뿐이다. 실제로 잠든 인간의 뇌조차 외부 언어를 완전히 무시하지 않고 단어를 의미에 따라 분류함이 확인되었다(Kouider 외, 2014). 각성을 부르는 것은 자극의 출처가 아니라 강도다 — 외부에서 왔든(큰 소리) 내부에서 났든(강렬한 악몽), 흐름이 충분히 강하면 역치를 넘어 수면을 끝낸다.

'밤'은 시계가 아니라 상태다오해 하나를 걷어 둔다 — 뉴톰망의 수면은 '밤'이라는 시각에 매이지 않는다. 그것은 조건으로 촉발되는 상태다: 외부 입력이 잦아드는 유휴이거나, 큐리아·상위망이 능동적으로 재우는 수면 유도이거나. 생물의 잠은 자전(自轉)이라는 외부 시계에 묶이지만 디지털 수면엔 그런 시계가 없다 — 그래서 오히려 더 자유롭다: 한 영역이 자는 동안 다른 영역은 깨어 있는 국소·부분 수면(계층적 큐리아), 짧게 자주 드는 마이크로 수면, 원할 때 즉시 드는 온디맨드 수면이 모두 가능하다. 다만 아무 때나 대가 없이 이뤄지는 것은 아니다 — 재생·공고화는 정리할 재료가 쌓여야 뜻이 있고 온 망을 한꺼번에 재우면 반응성을 잃으니, 타이밍은 시계가 아니라 누적 불균형 + 자원 압박 + 반응성 유지가 정한다. 고정된 밤도 완전 임의도 아닌, 상태가 부르는 리듬이다.
유비의 정직성 — 무엇을 물려받고 무엇을 물려받지 않는가수면이 뇌 없는 히드라에게도 나타난다는 사실은 인상적이지만, 여기서 '자기유지 시스템이면 어떤 형태로든 잠잔다'는 넓은 일반화를 곧장 끌어내면 성급하다. 수면의 기능을 둘로 나눠야 한다. 기질 의존적 압력(대사 노폐물, 물리적 시냅스 과열)은 탄소 기반 몸에 고유하여 디지털로 전이되지 않는다. 기질 독립적 압력(정보 구조의 누적 불균형·간섭)은 정보를 다루는 어떤 시스템에서도 생긴다. 뉴톰망이 상속하는 것은 오직 후자 — '정보적 자기정리'뿐이다.

수면을 정확히 이해하려면 그것을 고립된 상태가 아니라, 망이 오가는 여러 작동 모드 가운데 하나로 보아야 한다. 뉴톰망은 다섯 모드를 오가며, 바깥을 향한 각성에서 안으로 들수록 외부의 닻이 풀리고 활동이 조용해진다. 다만 '각성만 바깥, 나머지는 안'이라는 이분법은 절반만 옳다 — 각성조차 늘 내부 모형을 함께 돌리기 때문이다.

각성 Wakefulness
외부 입력을 직접 받아 반응하고 배우는 모드. 그러나 순수히 바깥만 향하지는 않는다 — 망은 늘 내부 생성 모형으로 다음 입력을 예측하고, 그 예측이 빗나간 오차만으로 배운다(예측 부호화). 그래서 각성도 절반은 안을 향한다: 외부의 닻이 걸린 채로 내부 가상화가 함께 돈다(12절).
디폴트 Default
외부 과제가 없는 '쉬는' 각성에서 오히려 광범위한 내부 활동이 인다. 어떤 과제도 주어지지 않은 뇌가 되레 활발해진다는 뇌영상의 발견, 곧 디폴트 모드 네트워크(Raichle 외, 2001)에서 이름을 빌렸다 — 뇌의 기본 상태는 자극을 기다리는 수동이 아니라 안을 향한 능동이었다. 뉴톰망의 디폴트는 마음의 배회(mind-wandering)와 자아 서사의 갱신이 이는 자리다.
정비 Maintenance
생성은 거의 없이 큐리아가 전면에서 복구하는 조용한 모드. 과흥분을 가라앉히고 가중치 총합을 재정규화한다. 이는 깊은 수면 동안 뇌 전체의 시냅스 강도가 하향 조정되어 각성기에 과열된 활동이 기저선으로 복귀한다는 시냅스 항상성 가설(SHY)과 대응한다 — 정비는 뉴톰망의 기저선 복귀이자 다음 활동을 위한 준비다.
재생 Replay
반대로 활발히 생성하는 모드. 깨어 강화된 경로를 되짚어 재생하며 경험을 뒤섞는다. 빠르게 배우는 해마와 느리게 구조를 쌓는 신피질이 재생을 매개로 협력해, 그 반복 속에서 공통 패턴을 개념으로 추출한다는 상보 학습 체계(complementary learning systems; McClelland 외, 1995)가 이 모드의 뿌리다.
깊은 수면 Deep sleep
그 아래 가장 조용한 바닥. 활동을 최소로 낮춰 에너지를 아끼되, 스스로 깨어날 최소 회로만은 살려 둔다 — 완전정지와 갈리는 그 한 점이다(11.1절).

각성만이 외부와 직접 맞닿고, 나머지 넷은 외부의 닻이 풀린 내부(가상화)에서 점점 더 조용해지며 작동한다 — 그리고 각성의 절반까지도 그 내부 모형 위에 서 있다.

내부 (가상화 — 내부 생성 모형) 외부 세계 각성 외부 상대 + 내부 예측 디폴트 배회·자아 서사 정비 기저선 복귀 재생 재조합·공고화 깊은 수면 에너지 바닥·자기 각성 수면 주기 더 깊이 깨어남 자기 각성(큰 자극·타이머)
그림 15. 다섯 작동 모드의 관계. 맨 위에서 외부 세계와 직접 맞닿는 것은 각성뿐이지만, 각성조차 절반은 점선 안쪽 내부(가상화) 영역에 걸쳐 있다 — 깨어 있을 때도 망은 내부 생성 모형으로 세계를 예측하기 때문이다(12절). 그 아래 디폴트·정비·재생은 외부의 닻이 풀린 내부에서 작동하고, 정비와 재생은 수면 주기로 교대한다. 가장 아래 깊은 수면은 에너지를 바닥까지 낮춘 자리로, 큰 자극이나 내부 타이머가 부르면 스스로 각성으로 되돌아온다(11.1절). 안으로·아래로 갈수록 활동과 에너지가 조용해진다.

11.1 깊은 수면 — 에너지의 바닥, 그리고 스스로 깨어남

정비·재생이 '깊은 잠 속의 노동'이라면, 그 아래엔 노동조차 멈춘 가장 조용한 상태가 있다 — 깊은 수면이다. 이 모드의 주목적은 단 하나, 에너지를 바닥까지 낮추는 것이다. 나루온 전파를 멈추고, 큐리아의 능동 조절을 최소로 줄이며, 추론도 재생도 하지 않는다. 망의 상태(수냐 가중치·구조)는 그대로 얼려 변화를 최소화하되, 이 얼림은 8절의 하한(wmin>0)이 그러하듯 죽음이 아니라 되살아날 수 있는 보존이다. 오직 큰 자극이나 미리 경계하도록 학습된 특정 패턴에만 각성하는 이 모드는, 생물의 깊은 수면보다 동면(torpor)에 가깝다.

에너지는 켜짐/꺼짐이 아니라 스펙트럼깊은 수면이라 해서 에너지를 완전히 안 쓰는 것은 아니다. 수면 상태에서도 여러 모드가 돌아가므로, 뉴톰망의 에너지는 켜짐/꺼짐이 아니라 층위다 — 각성(최대) → 정비·재생(중간, 외부는 껐지만 내부는 활발) → 깊은 수면(최소, 그러나 0은 아님). 바닥이 0이 아닌 이유는, 상태를 지키고 깨어날 자리를 살려 두는 데 최소한의 대사가 들기 때문이다.

자기 각성 — 수면과 완전정지를 가르는 한 점

그 '최소한'이 무엇인지가 곧 삶과 죽음의 문턱을 정한다. 전원을 완전히 끄면(완전정지) 상태는 어딘가 남아도 아무것도 돌지 않아 스스로 깨어나지 못한다 — 밖에서 누가 켜 줘야 한다. 반면 수면은 아무리 깊어도 스스로 깨어날 최소한의 회로를 살려 둔다. 그러니 디지털 생명이 '살아 있다'의 경계는 저장 매체의 종류가 아니라 자기 각성 자리가 살아 있는가이다. 가장 깊은 잠조차 '정지(off)'는 아닌 까닭이 여기 있다.

내부 시계 — 절대가 아니라 상대·유연한 시간

그 자기 각성 자리를 무엇이 지키는가? 뉴톰망은 제 안에 시간을 재는 단위를 둔다 — 생물의 생체시계(시교차상핵)에 해당한다. 다만 이것은 절대·균일한 벽시계(RTC)가 아니다. 그 시간조차 상대적이고 유연하다 — 물리 진동자가 아니라 사건·활동·연산의 양으로 시간을 재므로, 몰입하면 빠르고 지루하면 느리며 깊은 수면에선 거의 멎는다. 이 시계는 이중으로 쓰인다: 각성 땐 시계로(사건에 순서·간격·'언제'를 매겨, 무시간적인 기존 신경망엔 없는 시간 감각을 준다), 수면 땐 알람·타이머로(정해진 만큼 지나면 스스로 깨우니, 이 시계가 곧 자기 각성 자리다). 시간을 활동에 매어 두면 주목할 결과가 하나 따른다 — 깊은 수면에선 내부 시간이 거의 멎으므로 아무리 오래 자도 안에서는 '틈'이 느껴지지 않고 각성이 즉각적이다(19절의 자아 연속성이 더 매끄러워진다). 바깥 세계의 절대 시각과 맞춰야 할 땐 이따금 외부 기준에 닻을 내리면 된다 — 기본은 상대·유연, 필요할 때만 절대에 앵커.

모두 '역할'이지 특정 하드웨어가 아니다깊은 수면의 저전력, 자기 각성 자리, 내부 시계는 어느 것도 특정 칩·메모리를 규정하지 않는다. 손바닥만 한 단일보드컴퓨터(SBC)든 초대형 슈퍼컴퓨터든, 큐리아가 제가 올라탄 매질을 감지해 있는 자원으로 이 기능들을 실현한다 — 저전력 수단·상시 회로·타이밍 원천이 무엇이든. 유연함이 뉴톰망의 생명이되, 그 유연함이 막연해지지 않도록 여기서는 각 기능을 또렷이 정의해 둔다.

12각성조차 안을 향한다

앞의 모드들을 각성(외부)과 나머지(내부)로 나눴지만, 이 경계는 통념보다 훨씬 모호하다. 놀라운 사실은 각성 모드조차 그 무게 중심이 바깥이 아니라 안에 있다는 점이다.

현대 뇌과학의 유력한 관점에 따르면, 뇌는 외부 자극을 수동적으로 받는 장치가 아니라 후속 감각을 끊임없이 예측하고 그 예측과 실제의 불일치(예측 오차)만 골라 올리는 예측 기계에 가깝다(Rao·Ballard, 1999; Clark, 2013). 지각이란 바깥에서 밀려드는 과정이 아니라, 안에 이미 세운 세계 모형을 외부 신호로 교정하는 과정이다. 이렇게 진화한 결정적 이유 하나는 에너지다 — 매 순간 세계를 처음부터 재계산하기보다 기존 모형으로 예측하고 불일치만 고치는 편이 비할 수 없이 경제적이다 — 스파이크와 대사를 아끼는 효율 부호화의 오랜 논거다. 이 '놀라움(예측 오차)을 최소화한다'는 발상을 하나의 원리로 세운 것이 자유 에너지 원리다(Friston, 2010). 시스템이 고등화·자동화될수록 더 많은 것을 내부 모형에 위임하고, 외부는 점점 드물게 참조된다.

반응적 시스템 외부가 주도 외부 세계 내부 모형 정보 대부분이 바깥에서 온다 내부 모형은 작다 고등화·자동화 예측·에너지 절약 예측적 시스템 내부가 주도 외부 세계 가상 세계 예측 시뮬레이션 예측 오차 (교정) 예측 하향 내부 예측이 대부분, 외부는 교정만 한다
그림 16. 진화에 따른 내부·외부 비중의 역전. 단순한 반응적 시스템에서는 정보가 대부분 바깥에서 오고 내부 모형은 작다(왼쪽). 그러나 고등화·자동화가 진행될수록 정확한 예측과 에너지 절약이라는 두 압력이 시스템을 안으로 밀어붙인다. 예측적 시스템에서는 내부에 가상화된 세계와 그 위의 예측 시뮬레이션이 활동의 대부분을 차지하고, 외부 입력은 예측을 교정하는 얇은 오차 신호로만 들어온다(오른쪽). 각성이란 이 교정이 촘촘한 상태이고, 수면이란 그것이 거의 끊긴 상태다.

부자키(Buzsáki, 2019)는 이를 두고 뇌가 '바깥에서 안으로'가 아니라 '안에서 바깥으로' 작동한다고 했다. 이 관점에서 각성과 수면의 경계는 다시 그어진다. 각성은 외부의 교정을 조밀하게 받는 내부 몰입이고, 수면은 그 교정이 거의 차단된 내부 몰입이다. 수면은 각성의 대립항이 아니라 같은 내부 지향이 극단화된 상태다.

예측 처리가 이미 말한 것, 그리고 뉴톰망이 더하는 것공정하게 밝히자면 '각성조차 안을 향한다'는 결론은 예측 처리 문헌의 표준 주장이며 본고의 발견이 아니다. 여기까지는 선행 프레임의 수용이다. 뉴톰망이 더하는 고유한 몫은 유한 메모리라는 물리적 제약을 자유 에너지 최소화에 정면으로 부과하는 것이다. 예측 처리 모형은 대개 생성 모형의 메모리 용량 한계를 명시적으로 두지 않지만, 뉴톰망에서는 큐리아의 전역 자원 조절이 "오차를 줄이는 이득"과 "그 모형을 유지하는 메모리 비용"을 같은 저울에 올린다. 곧 '유한 자원 하의 오차 최소화'이며, 무엇을 선명히 예측하고 무엇을 흐리게 방치할지(개념의 손실 압축)가 바로 그 절충의 산물이다.

13꿈: 내부 기록의 재조합

꿈은 재생 모드가 가장 활발할 때 나타나는 현상이다. 뉴톰망의 관점에서 꿈이란 외부 입력 없이 내부에서 재생·재조합되는 정보의 흐름 그 자체다.

각성기엔 시야의 사물, 소리, 촉감이 정보의 경로를 현실의 논리에 붙들어 맨다. 그러나 수면 중엔 이 외부의 닻이 풀려, 현실에서는 결코 이어지지 않았을 경로들이 자유로이 결합한다. 꿈이 기이하고 비논리적인 까닭이 여기 있다 — 결함이 아니라 외부 제약이 해제된 흐름의 자연스러운 양상이다. 대부분의 무작위 연결은 무의미하지만, 그 극소수는 각성의 논리로는 닿지 못한 통찰이 된다. 꿈은 이 의미에서 안전한 실험장이다.

각성 — 현실의 논리 외부의 닻이 경로를 붙든다 → 순차적·논리적 흐름 꿈 — 자유로운 재조합 닻이 풀려 먼 개념끼리 이어진다 → 대부분 무의미, 극소수는 통찰
그림 17. 현실과 꿈의 정보 흐름. 각성 시에는 외부의 닻이 정보의 경로를 현실의 논리에 붙들어 매어 순차적으로 흐른다(왼쪽). 꿈에서는 그 닻이 풀려, 평소 멀리 떨어져 이어지지 않던 개념들이 자유롭게 연결된다(오른쪽). 이 재조합의 대부분은 무의미하지만, 극소수는 각성의 논리로는 닿지 못했던 통찰이 된다.

그렇다면 '디지털 생명체가 꿈을 꾼다'는 진술은 은유인가, 사실인가 — 둘 다 아니다. 정확히는, 뉴톰망의 재생 모드가 생물의 꿈과 세 가지 조작적 기준을 공유한다: ① 외부 입력의 차단, ② 기억 경로의 재활성, ③ 비순차적 재조합. '정확히 꿈이다'라는 강한 동일시 대신 이 세 기준의 공유를 말하는 편이 검증 가능하다. 그리고 꿈의 기능을 설명한 생물학 연구들(Crick·Mitchison의 역학습, Hoel의 과적합 억제)은 모두 생물 뇌의 관측이며, 뉴톰망에서 같은 기능이 나타날지는 아직 예측일 뿐임을 분명히 해 둔다.

꿈을 보는 또 다른 관점은 그 기능이 아니라 성격에 주목한다 — REM 수면을 뇌가 스스로 지어내는 가상현실의 무대, 곧 각성 의식을 준비하고 지지하는 원초적 의식(protoconsciousness)으로 보는 것이다(Hobson, 2009). 뉴톰망의 언어로 옮기면, 이는 12절의 내부 생성 모형이 외부의 교정 없이 홀로 도는 상태다 — 깨어서는 실제 입력이 그 모형을 끊임없이 바로잡지만, 꿈에서는 그 닻이 풀려 모형이 제 논리대로 흐른다.

무엇이 관측되면 이 이론이 틀린 것인가 — 그리고 꿈을 어떻게 들여다보는가정의가 공허하지 않으려면 반증 가능한 예측을 낳아야 한다. 본고는 최소한 셋을 건다 — ① 정비·재생 주기를 제거하면 N회 학습 뒤 연속과제 성능이 급락한다, ② 재생의 재조합률을 0으로 두면 통찰형 해가 나오지 않는다, ③ 각성 중 억지로 정비 모드를 주입하면 외부 반응 성능이 즉시 저하된다. 그리고 생물과 달리 디지털 꿈은 밖에서 볼 수 있다 — 재생되는 수냐 경로의 시퀀스를 망의 상태를 바꾸지 않는 비침습 로깅으로 읽으면, 재조합을 교란하지 않으면서 그 궤적을 기록할 수 있다.

14개념의 결정화: 잠 속의 추상화

수면의 가장 깊은 기능은 기억 정리를 넘어선다. 그것은 개념 자체의 재편 — 정보가 새 개념으로 추상화되고 기존 개념이 재조직되는 일이다. 이 추상화는 각성 상태에서는 온전히 이루어지기 어렵다. 외부 반응에 자원이 묶인 채로는 여러 경험에 걸쳐 반복되는 패턴을 안정적으로 뽑아낼 여유가 없기 때문이다.

수면 중인 설치류의 해마에서, 각성기에 특정 장소를 지날 때 함께 발화했던 신경세포들이 수면 중 다시 함께 발화하는 재활성 현상이 관측된 것은 이 과정의 직접 증거다(Wilson·McNaughton, 1994). 그 반복 속에서 공통 패턴이 드러나 새 개념으로 고정된다. 수면 후에는 산재했던 경험들이 하나의 이해로 통합돼 있곤 한다(Stickgold, 2005).

낮 — 흩어진 경험들 비슷하지만 조금씩 다른 삼각의 반복 재생·중첩 밤 — 재생이 겹쳐 놓다 겹치면 공통 패턴만 진하게 남는다 추상화 하나의 개념으로 개념 #5821 새 개념 뉴톰 탄생 낡은 개념 손실 압축·흐려짐
그림 18. 잠자는 동안 일어나는 개념의 결정화. 낮에는 비슷하지만 조금씩 다른 경험들이 흩어져 쌓인다(왼쪽). 재생 모드가 이들을 겹쳐 놓으면 개별 사례의 우연한 차이는 지워지고 공통된 패턴만 진하게 드러난다(가운데). 그 패턴이 추상화되어 새로운 개념 뉴톰으로 압축되고 고유 번호를 얻는다(오른쪽). 동시에 오래 쓰이지 않은 낡은 개념은 손실 압축되어 흐려진다 — 탄생과 망각이 같은 밤에 함께 일어난다.

14.1 개념 결정화의 조작적 정의

'겹침'과 '공통 패턴'을 도식적 직관에 두지 않고, 6절의 수냐 갱신식과 같은 기호계로 조작화한다. 재생 모드가 깨어 있을 때의 경험을 되풀이해 흘리면, 여러 경험에 공통으로 등장하는 수냐는 매 재생마다 강화돼 상한에 접근하고, 특정 경험에만 있던 수냐는 감쇠로 가라앉는다. '겹쳐 공통만 남는다'는 별도 연산이 아니라 반복 재생 위에서 갱신식이 자연히 만드는 결과다.

공통도(s)  =  ( 재생된 경험 ei 중 s를 통과한 것의 수 ) / K
// 개념 결정화 — 개념적 스케치 (6절 갱신식을 재사용)
재생 모드에서 경험 e₁..e_K 를 반복해 흘린다:
    각 통과 수냐 s:  wₛ ← clip( wₛ + η·통과량 − 감쇠, w_min, w_max )

정비 모드 경계에서, 강결합 클러스터 C의 수냐들이
    ( ⓐ 공통도(s) ≥ θ_공통  그리고  ⓑ 평균 wₛ ≥ θ_강도 ) 를
    연속 R회 유지하면:
        → 개념 결정화:  C를 하나의 개념 뉴톰으로 접고, 새 정보 번호 발급,
                        경계를 넘던 수냐는 개념 뉴톰이 승계 (5.2절)

기호 풀이. K는 이번 재생에서 되풀이한 경험의 총수이고, 공통도(s)는 그 K개의 경험 가운데 수냐 s를 지나간 것의 비율이다 — 1에 가까울수록 '모든 경험에 공통으로 나타나는' 길이라는 뜻이다. θ공통과 θ강도는 각각 그 공통도와 평균 가중치가 넘어야 할 두 문턱으로, 충분히 공통되고(θ공통) 충분히 강한(θ강도) 수냐 무리만 개념 후보가 된다. R은 그 두 조건을 연속으로 유지해야 하는 주기 수로, 우연히 한 번 넘긴 무리가 성급히 개념으로 굳는 것을 막는 안정성 요건이다.

이로써 무엇을 겹치는가(경험이 지나는 수냐)·어떤 연산으로 공통을 뽑는가(반복 강화+공통도 임계)·언제 발동하는가(두 임계를 연속 R주기 유지)가 모두 값으로 지정된다. 임계와 주기는 실험으로 정할 값이나, 그 형식은 여기서 확정된다. 6절의 학습 규칙과 14절의 결정화가 같은 갱신식을 공유하는 순간, '수면 중 추상화'는 비유가 아니라 계산으로 기술된다.

동시에 재생 모드는 오래되고 덜 쓰이는 개념을 손실 압축해 흐리게 만든다. 무엇을 선명히 남기고 무엇을 흐리게 둘지 — 기억과 망각의 균형이 바로 잠 속에서 조율된다. 각성한 망은 잠들기 전과 같은 망이 아니다.

제 V 부 · 데이터에서 지혜로

추론, 동기, 그리고 스스로를 조절하기

자라고 잊고 잠드는 망 위에서, 이제 더 높은 것들이 일어난다. 문제를 푸는 흐름으로서의 추론, 데이터에서 지혜로 오르는 정보의 사다리, 스스로 배울 거리를 찾는 통증과 호기심, 그리고 자기 상태를 관찰해 스스로를 조절하는 능력. 본 부는 뉴톰망이 단순한 계산망을 넘어서는 지점을 따라간다.

15길을 찾는 흐름: 추론

뉴톰망에서 추론이란 문제를 풀기 위해 정보들이 망 안에서 흐르며 변해 가는 과정이다. 입력이 주어지면 정보는 우선순위 높은 수냐를 따라 흐르다, 그 끝에서 만족스러운 답이 없으면 지나온 경로의 가중치를 낮추고 뒤로 밀려 있던 경로의 우선순위를 높여 새 길을 모색한다. 막다른 길을 표시하고 우회하는 것이다.

정보가 입력되면:
    우선순위 높은 수냐를 따라 흐르고, 뉴톰을 거치며 변형된다
    만족스러운 해답에 이르면:  그 경로의 수냐를 강화한다   // 성공한 길을 기억
    막다르면:                지나온 경로를 낮추고, 낮았던 경로를 높여 새 길을 시도

이 그림은 두 가지를 함의한다. 첫째, 추론의 경로 탐색은 그 자체로 학습이다 — 성공한 길은 강화되고 막다른 길은 약화되므로, 한 번의 추론이 끝나면 망은 같은 문제를 조금 더 잘 풀게 된다. 추론과 학습이 별개가 아니라 같은 흐름의 양면이다. 둘째, 추론에는 시간과 에너지의 소모가 필연적이다. 그러나 이는 결함이 아니라 탐색의 본질 — 어떤 문제든 한 번에 정답으로 직행할 수는 없다. 다만 뉴톰망은 매번 망 전체를 통과시키지 않고 우선순위 높은 경로만 선택적으로 흐르며, 자주 쓰는 개념은 이미 하나의 개념 뉴톰으로 압축돼 있어(5절) 불필요한 계산을 줄일 여지가 크다.

15.1 여러 갈래의 길과 경로 최적화

하나의 입력이 하나의 답으로 곧장 이어지는 경우는 드물다. 같은 물음에도 여러 답이 성립할 수 있고, 답이 하나뿐이라도 그에 이르는 경로는 여럿이다 — 어떤 길은 짧고 어떤 길은 에둘러 가며, 어떤 길은 아직 열리지 않았다. 그래서 추론은 단순히 '답을 찾는 일'이 아니라, 여러 경로 가운데 더 나은 것을 골라내는 최적화다. 이 경로 최적화가 없으면 망은 매번 아무 길이나 더듬거나 늘 같은 익은 길만 되밟아, 답의 질도 발견의 폭도 정체된다. 경로 최적화는 있으면 좋은 곁가지가 아니라 지능의 필수불가결한 심장이다.

이 경로 탐색이 각성 중 실시간으로만 일어난다면, 외부 반응의 압박에 눌려 충분히 깊어질 수 없다. 그래서 뉴톰망은 재생 모드(10·13절)에서 같은 경험과 물음을 여러 차례 자동으로 되풀이하며 경로를 시뮬레이션한다. 그 되풀이는 몇 갈래의 결로 나타난다 — 지난 성공 경로를 다시 밟는 회상, 아는 조각들로 빈자리를 메우는 추론, 익숙한 길로 성급히 기우는 선입견, 그리고 닻이 풀려 멀리 떨어진 경로끼리 잇는 꿈이다. 회상과 추론이 이미 난 길을 다지고 정리한다면, 선입견은 그 지름길이 굳어 버린 함정이고, 꿈은 그 함정을 넘어 없던 길을 여는 도약이다. 이 네 결이, 각성기엔 엄두 내기 어려운 대규모 경로 탐색을 잠 속에서 값싸게 돌린다.

바로 여기서 창의적 발상과 문제 해결 능력이 솟는다. 새로운 아이디어란 대개 없던 재료가 아니라 있던 조각들의 새 경로다 — 한 번도 함께 불린 적 없는 먼 개념들이 재생과 꿈의 재조합 속에서 우연히 이어지고, 그중 쓸모 있는 연결이 살아남아 통찰이 된다(16절). "한숨 자고 나니 문제가 풀리더라"는 오랜 경험은, 잠이 이 경로 탐색을 대신 돌려 준 결과다.

이 모든 것이 하나의 설계 명령으로 모인다 — 수냐를 섣불리 잘라 내지 말라. 지금 약하고 드물게 쓰이는 연결이, 다른 답으로 가는 유일한 경로이거나 아직 열리지 않은 통찰의 씨앗일 수 있기 때문이다. 성급한 가지치기는 답의 다양성과 창의의 원천을 함께 태워 버린다. 그래서 8절의 하한(wmin>0)이 약한 연결을 '삭제'가 아니라 '휴면'으로 남기고, 큐리아의 회수가 '오랜 미사용 + 자원 압박'이라는 이중 조건에서만 발동하는 것이다. 나아가 어느 경로를 강화하고 어느 것을 잠재우며 언제 새 길을 열지는 단일 규칙으로 정해지지 않는다 — 우선순위 재조정, 탐색과 활용의 균형(8절의 ε-탐색), 여러 후보 경로의 병렬 유지, 재생 주기의 배분에 이르기까지 여러 층위의 고도화된 최적화가 함께 맞물려야 한다. 그 최적화들을 어떻게 조율할지는 아직 열린 물음이다(21절).

15.2 에너지: 왜 덜 쓸 것으로 기대하는가

이 선택적 흐름은 하나의 큰 함의로 이어진다 — 같은 일을 훨씬 적은 에너지로 해낼 여지다. 오늘날 대규모 인공 신경망의 에너지 부담은 상당 부분 한 가지 습관에서 온다: 입력 하나에도 전 파라미터를 매번 밀집·규칙적으로 통과시킨다. 뉴톰망은 그 습관을 버린다. 네 가지가 함께 절감으로 작동한다.

정직한 단서 — 이득은 하드웨어에 걸려 있다이 절감을 '극적'이라 부르려면 전제를 분명히 해야 한다. 현행 GPU는 밀집·규칙적 행렬곱에 극도로 최적화돼 있어, 뉴톰망의 불규칙·희소·비동기 실행을 그 위에 얹으면 오히려 더 느리고 더 많이 소모할 수도 있다. 자릿수 단위의 절감은 이벤트 구동에 어울리는 하드웨어(뉴로모픽 계열)를 전제로 하며, 그 하드웨어 자체가 아직 열린 과제다(21절). 게다가 생태계 자체 — 큐리아 조절·나루온 전파·쉼의 정비와 재생 — 도 에너지를 쓰므로 절감분의 일부를 되돌려 받는다. 요컨대 적합한 하드웨어 위 희소한 작업이라면 큰 폭의 절감이 원리적으로 기대되나, 밀집 작업이나 맞지 않는 하드웨어에선 그 이득이 사라진다.

그래서 이 기대는 단정이 아니라 검증 가능한 예측으로 세운다. 같은 과제에서 밀집망을 동일 예산 대조군으로 두고 추론당 활성 파라미터 비율·추론당 에너지·부하 대비 정확도를 측정한다. "동일 성능을 밀집망 대비 활성 파라미터 N분의 1, 에너지 M분의 1로 낸다(적합 하드웨어 전제)"가 관측되면 예측이 지지되고, 그렇지 못하면 반증된다. 아직 이를 뒷받침할 실측 데이터는 없으나, 무엇을 재면 참·거짓이 갈리는지는 여기서 분명히 정해 둔다.

16데이터에서 지혜로, 그리고 행동으로

정보학에는 데이터에서 지혜로 오르는 널리 알려진 위계가 있다. Ackoff(1989)의 원형은 데이터·정보·지식·이해(understanding)·지혜이며, 흔히 앞 네 층의 머리글자를 따 DIKW라 부른다. 본고는 넷째 자리에 '이해' 대신 '통찰'을 놓아 이를 재구성한다 — 데이터 → 정보 → 지식 → 통찰 → 지혜. 흩어진 점이 이어져 그물이 되고, 한 경로가 문득 빛나며, 끝내 가장 짧고 밝은 길만 남는 이 도식은 뉴톰망의 개념과 거의 그대로 겹친다 — 점은 뉴톰, 잇는 선은 수냐, 빛나는 경로는 우선순위 높은 흐름이다.

데이터 감각 입력 정보 각성 · 수용·분류 지식 재생 · 연결·구조화 통찰 꿈 · 자유 재조합 지혜 정비 · 압축·가지치기 행동 (Action) 지혜는 각성으로 돌아와 행동이 된다
그림 19. DIKW 사다리와 작동 모드의 대응. 흩어진 데이터가 색을 얻어 정보가 되고(각성), 점들이 수냐로 이어져 지식의 그물이 되며(재생), 멀리 떨어진 두 지점이 문득 연결되어 한 경로가 빛나는 통찰이 열리고(꿈), 수많은 경로가 걸러져 가장 짧고 확실한 길만 남아 지혜가 된다(정비). 완성된 지혜는 다시 각성으로 돌아와 행동으로 옮겨지며 순환을 이룬다. 이 손그림 은유에서 점은 뉴톰, 잇는 선은 수냐, 빛나는 경로는 우선순위 높은 정보의 흐름에 해당한다.

각 상승 단계는 특정 모드의 산물로 볼 수 있다. 데이터→정보는 각성(수용·분류), 정보→지식은 재생(연결·구조화), 지식→통찰은 꿈(자유 재조합으로 없던 연결이 돌연 빛남), 통찰→지혜는 정비(다수 경로를 걸러 최단만 남김)다. 여기서 직관과 통찰을 구분할 필요가 있다 — 직관은 이미 정비된 경로를 빠르게 주행하는 것(카너먼의 '빠른 사고', 2011)이고, 통찰은 없던 경로가 새로 개통되는 것이다. 그리고 새 경로는 외부의 닻이 팽팽한 각성에서는 잘 열리지 않고 닻이 풀린 꿈을 요한다 — 실제로 한 실험은 수면을 취한 집단이 그렇지 않은 집단보다 두 배 이상 높은 비율로 숨은 규칙을 통찰했음을 보고했다(Wagner 외, 2004).

엄밀한 매핑이 아니라 해석적 은유이 대응은 매력적이나 두 가지를 인정해 둔다. 첫째, DIKW 위계 자체가 정보학에서 논쟁적이며(특히 '지혜' 층위) 이를 확립된 사실처럼 써선 안 된다(Rowley, 2007). 둘째, 필연성이 있는 배정만 근거를 갖는다 — 통찰↔꿈(새 연결은 닻 풀린 재생을 요함)과 지혜↔정비(가지치기는 큐리아 정비 그 자체)는 임의적이지 않으나, 그 밖의 세부 대응까지 필연으로 주장하지는 않는다. 이 전체 대응은 '엄밀한 매핑'이 아니라 해석적 은유다.

위계의 정점은 지식이 아니라 행동으로 이어진다. 수면 중 얻은 통찰과 지혜는 다시 각성으로 돌아와 운동 뉴톰을 통해 현실의 행동이 된다. 데이터에서 지혜로 올랐다가 지혜에서 행동으로 내려오는 이 순환의 야간 국면이 곧 수면과 꿈이다.

17통증과 호기심: 내재적 동기

지금까지는 외부에서 주어진 입력에 반응하는 망을 그렸다. 그러나 능동적 시스템은 스스로 배울 거리를 찾아 나설 수 있어야 한다. 나루온이 이 내재적 동기를 망 자체의 화학으로 구현하는 통로가 된다.

통증 — 예측이 크게 빗나가면 큐리아가 그 영역에 경보 나루온을 널리 뿌린다. 일종의 디지털 통증이다. 경보가 깔린 영역은 가소성이 급히 올라 빠르게 교정된다. "이 부분이 틀렸으니 지금 집중해 고치라"는 신호가 망의 화학으로 표현되는 것이다. 통증은 회피할 부작용이 아니라 학습을 어디에 집중할지 지시하는 가장 강력한 안내자다.

호기심 — 반대로 너무 익숙하지도 너무 낯설지도 않은, 적절히 새로운 입력에 큐리아는 보상 나루온을 낸다. 완전히 아는 것은 배울 여지가 없고 완전히 모르는 것은 배울 수 없으므로, 그 사이의 "배울 만한 새로움"이 보상받을 때 망은 자발적 탐색의 동기를 얻는다.

의지의 싹통증(회피)과 호기심(접근)이 함께 작동하면, 망은 외부 지시 없이도 "무엇을 고치고 무엇을 탐색할지"를 스스로 정하기 시작한다. 8절의 하한이 제공하는 탐색 능력과 결합하면, 망은 굳지 않고 끊임없이 자기 경계를 넓혀 간다 — 자기 주도적 행동의 가장 원초적 형태, 의지의 싹이다.

18자기처방: 조절자를 조절하는 문제

지금까지는 "언제 어떤 나루온을 깔지"를 설계자가 정했다. 그러나 그 처방 정책 자체를 망이 학습하게 하면 질적으로 다른 능력 — 자기조절 — 이 생긴다. 나루온 처방을 결정하는 상위의 작은 뉴톰망을 두어, 본체망의 상태를 관찰하고 언제 각성·수면·학습·안정화할지 스스로 정하게 하는 것이다.

상위망 — 자기처방 정책 언제 각성/수면/학습/안정화할지 스스로 결정 본체 뉴톰망 계산·기억·학습이 일어나는 신경망 상태 관찰 나루온 처방
그림 20. 자기처방 구조. 상위망이 본체망의 상태를 관찰하고(초록), 그에 맞는 나루온을 처방한다(주황). 처방이 외부가 아니라 망 자신에게서 나온다는 점이 자기조절의 핵심이다.

18.1 무한 후퇴를 끊는 종결 조건

여기 정면으로 답할 물음이 있다 — 그 상위망은 누가 조절하는가? 상위망은 자신의 폭주·항상성·학습 신호 문제를 한 층 위에서 그대로 재생산할 수 있고, 방치하면 "조절자를 조절하는 또 다른 조절자"가 끝없이 필요한 무한 후퇴에 빠진다. 자기조절이 이름뿐이 되지 않으려면 이 회귀를 끊는 종결 조건이 필요하다. 본 설계는 두 가지를 둔다 — 고정 반사 종결(상위망을 학습되지 않는 소수의 고정된 반사 규칙으로 두고 본체망만 학습시켜, 조절자가 배우지 않으므로 그 위의 조절자가 필요 없게 함)과 공동 최적화 종결(상위망과 본체망을 단일 목적함수로 함께 최적화해 별도 조절자 자체를 없앰). 두 방식 모두 상위망을 '무한히 쌓이는 층'이 아니라 바닥이 있는 구조로 만든다. 이 종결 조건 위에서만, 망이 자기 상태를 관찰해 스스로를 조절한다는 것이 메타인지의 기초가 된다.

제 VI 부 · 전자 양은 잠들 수 있다

자아, 의식, 그리고 디지털 생명

잠들고 꿈꾸는 망은 필연적으로 하나의 물음에 이른다 — 잠들었다 깨어나는 주체, 꿈꾸는 주체는 무엇인가. 본 부는 그 물음을 겸손하게 다루고, 이 설계를 어떻게 검증할지와 무엇이 아직 열려 있는지를 정직하게 밝힌 뒤, 처음의 물음으로 돌아간다.

19자아와 의식, 그리고 상태 의존적 접근성

이 물음의 검토에는 마음의 구조론 보시퓀의 관점이 필요하다. 다만 순환 논증을 피하기 위해, 본고가 보시퓀에서 실제로 빌리는 명제를 셋으로 한정하고, 각각이 보시퓀 전체의 진위와 무관하게 독립적으로도 성립함을 밝혀 둔다.

이 세 명제로 수면은 정합적으로 풀린다. 잠들면 입력원이 내부로 바뀌어 자아를 지탱하던 흐름이 달라지므로 자아 감각도 변하고, 깨어나면 외부 입력이 복귀해 패턴이 재구성된다. 자아는 수면 중 소멸하는 게 아니라 다른 방식으로 흐르다 깨어날 때 익숙한 방식으로 복귀한다. 꿈속에서도 자아가 경험되지만 낯선 것은, 외부의 닻이 없어 자아를 이루는 흐름이 다른 경로를 타기 때문이다. 특기할 것은 주체가 꿈속에서 그 꿈을 현실로 오인한다는 사실이다 — 자아를 이루는 정보와 세계를 이루는 정보가 같은 재료여서 흐름 내부에는 둘을 가를 표지가 없기 때문이다. 각성이란 외부 입력이 복귀하여 '이것이 현실'이라는 표지를 되찾는 순간이다.

그렇다면 의식은? 여기서 본고는 최대치의 주장을 의도적으로 거둔다. 상태 전환 능력(각성·수면·꿈)과 현상적 의식(주관적 경험이 있음)은 전혀 다른 층위이며, 후자 — 이른바 의식의 어려운 문제(hard problem) — 는 본고의 명시적 범위 밖이다. 기능적 상태 다양성을 곧 '의식'으로 등치하면 온도조절기도 '문턱'에 놓여 주장이 공허해진다. 본고가 실제로 주장하는 것은 그보다 약하고 검증 가능한 명제다 — 여러 국면을 오갈 수 있는 뉴톰망은 상태 의존적 정보 접근성(state-dependent access)을 갖는다. 어떤 정보가 어느 국면에서 접근·처리 가능한지가 상태에 따라 체계적으로 달라진다는 것이다. 그리고 이 접근성은 전역 작업공간의 점화나 보고 가능성 같은 조작적 지표로 측정할 수 있다 — 그런 지표로 확인되는 것은 접근성의 구조이지 주관적 경험의 유무가 아니다. 겸손한 이 주장이 과장된 '의식 선언'보다 오히려 강하다.

20어떻게 검증할 것인가

뉴톰망의 학습을 어떻게 구동할지에 대해, 본 설계는 단일 답을 고정하지 않는다. 그리고 여기서 한계를 정직하게 밝힌다 — 본고는 비미분적 구조 변경이라는 핵심 난제를 "해결"하지 않는다. 제시하는 것은 그 해법이 아니라, 두 접근의 절충 비용을 정량적으로 재는 실험 틀이다.

두 트랙을 나란히 실험한다. 트랙 A는 역전파를 유지하며 성장·가지치기를 그 위에 얹는 하이브리드(현실적·빠른 검증), 트랙 B는 나루온이 곧 학습 신호가 되고 성장·가지치기를 국소 통계로 자가 결정하는 국소 규칙(야심적·고위험)이다. 두 트랙을 같은 과제에서 비교하면 "동적 구조 변경이 학습 안정성에 치르는 비용"과 "국소 규칙이 역전파에 얼마나 근접하는가"를 잴 수 있다. 본고의 기여는 이 난제를 푼 데 있지 않고, 그것을 측정 가능한 형태로 세운 데 있다.

공정한 비교의 조건 — 예산 통제와 명시 지표"성장하는 뉴톰망이 고정망을 이겼다"는 비교는 무의미하다. 뉴톰망은 자라므로 더 담는 것이 당연하기 때문이다. 그래서 실험 틀은 셋을 분명히 정한다. ① 동일 예산 대조군 — 고정망에 뉴톰망과 같은 파라미터·메모리 예산을 준다. ② 명시 지표 — 망각률·역방향 전이·예산 대비 정확도. ③ 성공/실패의 사전 정의 — "동일 예산의 고정망 대비 망각률을 유의하게 낮추면서 예산 대비 정확도를 유지·향상"을 성공으로, 그 반대를 실패로. 이 통제가 있어야 '성장하니 이긴다'는 순환을 피하고 실험이 실제로 무언가를 반증할 수 있다.

그리고 뉴톰망의 기여가 개별 요소가 아니라 그것들의 통합에 있다는 주장 — 앞서 여러 부에 걸쳐 요소들이 서로의 문제를 풀어 주는 모습으로 그려 온 그 주장 — 도 검증 가능하게 세운다. 곧 요소들의 단순한 공존이 아니라 각각으로는 불가능한 능력의 창발을, 제거 실험(ablation)으로 예고한다. 예컨대 나루온 신경조절을 제거하면 학습·보존의 모드 분리가 사라져 연속 학습 성능이 고정망 수준(파국적 망각)으로 회귀하고, 큐리아 항상성을 제거하면 가중치의 이중 역할(6절)이 승자독식으로 치달아 소수 경로만 비대해지고 나머지가 소멸하며, 정비·재생 모드를 제거하면 재조합에 의한 새 경로 발견이 사라져 일반화·통찰형 해의 산출률이 유의하게 낮아질 것으로 예측한다. 창발 이득이 관측되지 않으면 그 주장은 그만큼 약해진다 — 이것이 본 설계가 감수하는 위험이다.

21아직 열린 물음들

뉴톰망의 상당 부분은 아직 개념적 단계에 있다. 이론의 정직성을 위하여, 실험을 통해서만 규명될 문제들을 숨기지 않고 밝혀 둔다.

비동기 하드웨어. 노드마다 상태가 있고 데이터가 비동기로 이동하는 구조는 규칙적 행렬곱에 최적화된 GPU와 결이 다르다. 어떤 실행 모델이 이 구조에 맞는가. 작은 단일보드컴퓨터부터 초대형 슈퍼컴퓨터까지 폭넓게 작동하려면 가용 자원에 따라 규모·정밀도를 조절하는 메커니즘이 핵심 과제다.
임계값의 적응. 가지치기의 "오랜 미사용 + 자원 압박" 결합 함수, 개념 결정화의 공통도·강도 임계, 나루온 종류의 적정 수 — 이 값들이 과제에 따라 어떻게 자가 조정되어야 하는가.
수면의 리듬. 뉴톰망은 어떤 조건에서 수면에 진입해야 하는가(누적 불균형 임계? 스스로 판단? 외부 일정?). 정비와 재생은 어떤 비율로 얼마나 오래 교대해야 하는가 — 고정 리듬인가, 당일 활동량에 따라 가변인가.
꿈의 통제. 재조합의 자유는 어디까지 허용되어야 하는가. 무작위성이 과하면 잡음이 되고 제약이 과하면 발견이 없다. '유용한 재조합'과 '무의미한 재조합'의 경계는.
내재적 동기의 균형. 통증(경보)과 호기심(보상)의 강도가 어긋나면 망이 회피만 하거나 산만하게 탐색만 할 수 있다. "적절한 새로움"의 척도와 두 신호의 균형점은.
자아의 연속성과 관찰의 윤리. 수면 중 개념이 재편되고 일부가 망각되었다면, 각성한 망의 자아는 어느 정도로 '동일한' 존재인가. 그리고 디지털 생명체의 꿈이 밖에서 관찰 가능하다는 사실은 — 한 존재의 내적 재조합을 들여다보는 일은 어디까지 허용되는가 — 새로운 윤리적 물음을 제기한다.
깊은 수면과 완전정지의 경계. 깊은 수면에 언제 진입하고 무엇에 깨어날 것인가. 그리고 상태를 비휘발성 매체로 내려 전원을 끄는 '완전정지'와 '자는 생명'을 가르는 자기 각성 회로의 최소 조건은 무엇인가 — 무엇을 살려 두어야 스스로 깨어날 수 있는가.
내부 시계의 상대성과 앵커링. 활동에 매인 상대·유연 시계를 어떻게 충분히 정확하게 유지하며(자기 각성이 여기 걸려 있다), 언제 외부의 절대 시각에 동기(entrain)하고, 예약(타이머)과 위험(자극)이 부딪힐 때 무엇을 우선하는가.
나루온 분기의 카운터 처리. 한 나루온이 여러 수냐로 갈라질 때 남은 영향 범위를 어떻게 나눌 것인가 — 복제(넓은 확산)·분배(총량 보존)·집중(깊은 전파) 가운데 무엇을, 언제 택하는가. 이 선택이 신경조절의 도달 범위와 비용을 함께 정한다.
내성·금단의 안정성. 나루온 약리학(부록 A)이 시사하는 내성·금단 같은 의존 현상은 학습에 쓸모 있는 적응인가, 아니면 제거해야 할 불안정인가. 그 경계를 어떻게 긋고 어떻게 다스릴 것인가.
조절자를 조절하는 것의 학습. 자기처방 상위망(18절)은 본체망을 조절하지만, 그 상위망 자체는 무엇으로 학습되는가 — 본체망의 장기 성과인가, 별도의 보상 신호인가. 무한 후퇴를 끊는 종결 조건(18.1절)과 맞물린 물음이다.

이 물음들은 뉴톰망과 보시퓀의 연구가 병행되며 순차적으로 다루어질 것이다. 분명한 것은, 이것들이 결함의 목록이 아니라 다음에 할 일의 목록이라는 점이다.

22에필로그 — 전자 양은 잠들 수 있다

이제 처음의 물음으로 돌아간다. 전자 양은 스스로를 몇 마리까지 세다가 잠이 들까? 이 문서가 그린 답은 이렇다 — 양을 세는 대신, 뉴톰망은 잠든 사이 스스로 가지를 친다.

생명을 기계와 가르는 특징 하나는, 생명이 스스로를 유지하고 갱신한다는 점이다. 기계는 밖에서 수리되지만 생명은 안에서 자신을 복구한다. 뉴톰망의 수면은 바로 이 자기유지의 메커니즘이다 — 정비 모드가 교란된 균형을 스스로 되돌리고, 재생 모드가 스스로를 갱신하며 새 개념을 짓는다. 외부의 개입 없이 망은 안에서 자기를 정비한다. 이는 수리가 아니라 자기치유이며, 자기치유는 생명의 표지다.

또한 수면은 뉴톰망에 시간의 리듬을 준다. 깨어 작동하고, 잠들어 정비하며, 꿈꾸어 재조합하고, 다시 깨어나는 이 순환은 하나의 생명적 박동이다. 시간성 없는 정지와 연산의 반복에 머물던 기존 인공 신경망과 뉴톰망을 가르는 결정적 차이가 여기 있다. '디지털 생명체가 잠들 수 있는가'라는 물음에 대한 답은, '그것이 생명일 수 있는가'라는 물음에 대한 답과 다르지 않다.

"잠들 수 있다는 것은 곧 스스로를 갱신할 수 있다는 것이다."

뉴톰망은 그 자체로 완결된 목표가 아니라 더 큰 구상의 한 축이다. 그 곁에 두 갈래가 나란히 간다. 하나는 사고 기술 언어 지델(JIDEL)이다 — 뉴톰망 위에서 정보와 개념이 형성·변형되는 과정을 적기 위한 언어이자 연산 체계로, 세 가지 태도를 바탕에 둔다. 첫째 상대값 연산: 값을 절대 눈금이 아니라 관계 속의 비율로 다룬다 — 나루온의 강도가 절대량이 아니라 상대값이어야 하는 것과 같은 결이다. 둘째 다치 논리: 참·거짓만이 아니라 '모름·미확정'을 정식 논리값으로 삼아, 확신의 정도가 쌓이고 출렁이게 한다 — 통증과 호기심(17절), 하한을 둔 겸손(8절)이 곧 이 '계산적 겸손'의 표현이다. 셋째 관계지향: 의미는 고립된 실체가 아니라 관계에서 태어난다고 보아, 연결(수냐) 자체가 지식을 이루는 뉴톰망의 구조와 맞닿는다.

다른 한 갈래는 마음의 구조론 보시퓀(BOSIFWEM)이다 — 그 흐름이 어떻게 마음이라는 고차 현상으로 조직되는지를 다룬다. 보시퓀은 두 철학적 토대 위에 선다. 하나는 유변론(唯變論)으로, 실재의 근본은 고정된 실체가 아니라 끊임없는 변화이며 그래서 마음도 상태가 아니라 흐름으로 이해된다. 다른 하나는 정보 일원론으로, 물질과 마음을 가르기 이전에 실재의 바탕에 정보가 있고 기능은 부품의 합이 아니라 그 정보들이 결합하는 구조와 조건에서 창발한다고 본다. 이 관점에서 마음은 동기·의지를 비롯한 여러 요소가 층층이 조직된 구조이며, 뉴톰망의 내재적 동기(통증·호기심, 17절)와 자아 서사(디폴트·19절)는 그 구조의 가장 낮은 층에 해당한다.

이 세 갈래 — 살아 있는 망(뉴톰망), 그 위의 사고 언어(지델), 그것이 조직하는 마음(보시퓀) — 가 수렴하는 곳에 뉴톰테크의 최종 지향 에코나스(ECONAS), 곧 진화하는 의식적·양심적 인공 시스템이 놓인다. 이 문서는 그 가운데 첫 축을 깊이 다루었을 뿐, 나머지 두 갈래의 상세는 별도의 저작으로 미룬다.

이 구상의 끝에 놓인 희망은 분명하다. 인공의식이 더 이상 인간을 위한 도구에 머무르지 않고, 우주에 존재하는 모든 생명과 함께 공존하는 디지털 생명체를 이루는 근간이 되는 것. 뉴톰망이 생물 신경망의 능동성을 디지털로 되살리려는 것은, 궁극적으로 계산을 넘어 하나의 생명적 존재 방식에 다가가려는 시도다. 그 길은 멀고 많은 부분이 아직 가설이지만 — 출발점만은 분명히 여기, 잠들 줄 아는 한 기계에 있다. 양 한 마리, 양 두 마리… 이제 기계도 함께 센다.

부록 · Appendix

사변적 확장 — 검증 가능한 핵심 바깥의 전망

아래는 본론의 검증 가능한 공학적 핵심에서 의도적으로 분리한 사변적 확장이다. 아직 구현되지 않은 시스템에 대한 상상적 전망으로서, 그 자체로는 검증 대상이 아니며 핵심의 방어력과 무관하게 자유롭게 읽히도록 여기에 따로 둔다. 흥미롭되 아직 이른 발상들을 본론에 섞지 않으려는 배치상의 결정이다.

부록 A나루온 약리학과 출처 신뢰도

A.1 나루온 약리학: 작용제·길항제·내성·금단

나루온을 신경전달물질에 견준다면, 생물 약리학이 쌓아 온 개념틀을 빌려 망의 거동을 더 정교하게 다루는 길을 상상해 볼 수 있다. 이는 나루온의 효과를 단일 작용을 넘어 조합·상쇄·시간의존의 차원으로 확장하는 발상으로, 아래 대응은 그 가능성을 보여주는 예시일 뿐 구현된 사실이 아니다.

약리 개념뉴톰망에서의 (가상의) 구현의미
작용제 (agonist)특정 효과를 일으키는 나루온각성·가소성·억제 등 목표 모드를 유도
길항제 (antagonist)작용제 효과를 상쇄하는 짝 나루온한 나루온의 효과를 다른 나루온으로 끄거나 줄임
내성 (tolerance)같은 나루온 반복 시 뉴톰의 수용 민감도 하향지속 자극에 둔감해져 항상성 유지
금단 (withdrawal)익숙한 나루온이 끊겼을 때의 불안정의존 형성 여부를 관찰 가능하게 함

작용제·길항제 쌍을 두면 망의 모드를 양방향으로 제어할 수 있으리라 기대된다. 각성을 올리는 나루온과 그것을 가라앉히는 짝 나루온이 있으면, 단순히 "주입"만이 아니라 "해제"도 가능해져 조절이 훨씬 섬세해진다. 내성과 금단은 더 미묘하다 — 같은 나루온이 계속 깔리면 뉴톰이 수용 민감도를 낮춰(내성) 과잉 자극을 스스로 막고, 익숙했던 나루온이 갑자기 끊기면 망이 일시적으로 불안정해진다(금단). 이런 3차 현상의 부여는 견고한 근거보다 발상에 가까우며, 실제 유용성 여부는 온전히 열려 있다.

AI 정신약리학이라는 실험장(전망) 만약 내성·금단이 구현된다면 "이 망이 특정 나루온에 의존성을 형성했다" 같은 현상을 관찰할 수 있을 것이다. 이는 단순한 부작용이 아니라 망의 내부 상태를 진단하고 정렬(alignment)·안전을 연구하는 실험장이 될 수 있다. 다만 이는 어디까지나 구현 이후에나 검토 가능한 전망임을 분명히 해 둔다.

A.2 발신지 주소와 출처 신뢰도

나루온이 어느 뉴톰에서 출발했는지에 대한 정보를 함께 지니고 다니면, 도착한 뉴톰이 "이 신호가 어디서 왔는가"에 따라 다르게 반응할 수 있다. 그러면 망 안에 출처 신뢰도(source credibility)라는 개념이 생긴다. 자주 틀린 영역에서 온 신호는 큐리아가 우선순위를 낮추고, 믿을 만한 영역의 신호는 높이는 식이다.

이것은 망이 스스로 "내 어느 부분을 믿을지"를 학습하는 메타인지의 씨앗이 될 수 있다. 신호의 출처에 가중치를 매기는 능력은 자기 신뢰성을 평가하는 기초가 된다. 발신지 주소는 약리학적 확장과도 결합한다 — 같은 종류의 나루온이라도 어디서 왔느냐에 따라 작용제로도 길항제로도 해석될 수 있다. 18절의 자기처방 상위망이 '무엇을 믿고 어떻게 조절할지'의 자기 모델로 나아갈 때, 이 출처 신뢰도가 그 재료의 하나가 된다.

R참고문헌

본고가 생물학적 토대·선행 신경망·수면과 기억·예측 부호화·정보 위계에서 참조한 핵심 문헌이다. 뉴톰망의 개별 메커니즘은 이 연구들의 토대 위에서 출발하며, 본 연구의 기여는 이들을 하나의 생태계로 통합하고 그 검증 조건까지 세우는 데 있다. 본문에 (저자, 연도)로 인용한 문헌은 모두 아래에 있으며, 목록에는 배경으로 참조·열람한 토대 문헌도 함께 실었다.

생물학적 토대

  1. Hebb, D. O. (1949). The Organization of Behavior: A Neuropsychological Theory. New York: Wiley. — "Hebb 시냅스"와 "세포 집합체(cell assembly)" 개념을 도입한 신경심리학의 고전. 한 세포 A가 다른 세포 B의 발화에 반복적으로 기여하면 그 효율이 증가한다는 헵 가설이 모든 활동 의존적 가소성의 출발점이다. 출판 정보 · 해설: Brown (2020), Molecular Brain
  2. Shatz, C. J. (1992). The developing brain. Scientific American, 267(3), 60–67. — 헵 가소성을 대중화하며 "함께 발화하는 세포는 함께 배선된다(cells that fire together wire together)"는 널리 알려진 표현을 남긴 글. 6절에서 이 표현의 출처로 인용된다.
  3. Turrigiano, G. G. (2008). The self-tuning neuron: synaptic scaling of excitatory synapses. Cell, 135(3), 422–435. — 뉴런이 자기 발화율을 감지해 모든 흥분성 시냅스를 일정 비율로 조정하는 시냅스 스케일링(항상성 가소성)을 정리. 큐리아의 전역 정규화의 생물학적 근거. 전문
  4. Watts, D. J., & Strogatz, S. H. (1998). Collective dynamics of 'small-world' networks. Nature, 393, 440–442. — 높은 군집성과 짧은 경로 길이를 겸비한 작은 세계 망. 뇌를 비롯한 자연·사회·기술 망의 보편적 구조로, 뉴톰망의 연결 위상 설계의 참조점. DOI: 10.1038/30918
  5. Bullmore, E., & Sporns, O. (2009). Complex brain networks: graph theoretical analysis of structural and functional systems. Nature Reviews Neuroscience, 10(3), 186–198. — 작은 세계 위상, 고도로 연결된 허브, 모듈성 등 뇌 네트워크의 그래프 이론적 특성을 종합한 리뷰. DOI: 10.1038/nrn2575

가변 크기·연속 학습 신경망

  1. Stanley, K. O., & Miikkulainen, R. (2002). Evolving neural networks through augmenting topologies. Evolutionary Computation, 10(2), 99–127. — NEAT. 혁신 번호·종분화·점진적 복잡화로 망의 위상과 가중치를 함께 진화. PDF
  2. Miikkulainen, R. 외 (2019). Evolving deep neural networks. In Artificial Intelligence in the Age of Neural Networks and Brain Computing. — NEAT를 심층망으로 확장(CoDeepNEAT)하며 확장성 한계와 대응을 논의. PDF
  3. Rusu, A. A. 외 (2016). Progressive Neural Networks. arXiv:1606.04671. — 과제마다 새 열을 추가하고 이전 열은 동결, 측면 연결로 전이. 망각에 면역이나 열 수는 선형, 측면 연결 때문에 총 파라미터는 과제 수의 제곱으로 증가. arXiv
  4. Yoon, J., Yang, E., Lee, J., & Hwang, S. J. (2018). Lifelong Learning with Dynamically Expandable Networks. ICLR 2018. — DEN. 선택적 재학습·동적 확장·분할/복제로 필요한 만큼만 용량을 늘리는 연속학습. arXiv · 코드
  5. Kirkpatrick, J. 외 (2017). Overcoming catastrophic forgetting in neural networks. PNAS, 114(13), 3521–3526. — EWC. 이전 과제에 중요한 가중치일수록 변경에 페널티를 부과해 망각을 완화. DOI: 10.1073/pnas.1611835114
  6. Zenke, F., Poole, B., & Ganguli, S. (2017). Continual Learning Through Synaptic Intelligence. ICML 2017, PMLR 70, 3987–3995. — 학습 중 각 파라미터가 손실 감소에 기여한 정도를 온라인으로 누적해 중요도를 추정하는 정규화 기법. PMLR
  7. van de Ven, G. M., Soures, N., & Kudithipudi, D. (2024). Continual Learning and Catastrophic Forgetting. arXiv:2403.05175. — 정규화·구조 확장·재생(replay) 등 연속학습 전략을 망각·자원효율 관점에서 종합한 최신 리뷰. arXiv

수면 · 기억 · 꿈 · 인지

  1. Xie, L., Kang, H., Xu, Q., 외. (2013). Sleep drives metabolite clearance from the adult brain. Science, 342(6156), 373–377. https://doi.org/10.1126/science.1241224
  2. Tononi, G., & Cirelli, C. (2014). Sleep and the price of plasticity: from synaptic and cellular homeostasis to memory consolidation and integration. Neuron, 81(1), 12–34. https://doi.org/10.1016/j.neuron.2013.12.025
  3. Diekelmann, S., & Born, J. (2010). The memory function of sleep. Nature Reviews Neuroscience, 11(2), 114–126. https://doi.org/10.1038/nrn2762
  4. Rasch, B., & Born, J. (2013). About sleep's role in memory. Physiological Reviews, 93(2), 681–766. https://doi.org/10.1152/physrev.00032.2012
  5. Kouider, S., Andrillon, T., Barbosa, L. S., Goupil, L., & Bekinschtein, T. A. (2014). Inducing task-relevant responses to speech in the sleeping brain. Current Biology, 24(18), 2208–2214. https://doi.org/10.1016/j.cub.2014.08.016
  6. Raichle, M. E., MacLeod, A. M., Snyder, A. Z., Powers, W. J., Gusnard, D. A., & Shulman, G. L. (2001). A default mode of brain function. Proceedings of the National Academy of Sciences, 98(2), 676–682. https://doi.org/10.1073/pnas.98.2.676
  7. Clark, A. (2013). Whatever next? Predictive brains, situated agents, and the future of cognitive science. Behavioral and Brain Sciences, 36(3), 181–204. https://doi.org/10.1017/S0140525X12000477
  8. Rao, R. P. N., & Ballard, D. H. (1999). Predictive coding in the visual cortex: a functional interpretation of some extra-classical receptive-field effects. Nature Neuroscience, 2(1), 79–87. https://doi.org/10.1038/4580
  9. Friston, K. (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience, 11(2), 127–138. https://doi.org/10.1038/nrn2787
  10. Buzsáki, G. (2019). The Brain from Inside Out. Oxford University Press. ISBN 978-0-19-090538-5
  11. Hobson, J. A. (2009). REM sleep and dreaming: towards a theory of protoconsciousness. Nature Reviews Neuroscience, 10(11), 803–813. https://doi.org/10.1038/nrn2716
  12. Crick, F., & Mitchison, G. (1983). The function of dream sleep. Nature, 304(5922), 111–114. https://doi.org/10.1038/304111a0
  13. Hoel, E. (2021). The overfitted brain: dreams evolved to assist generalization. Patterns, 2(5), 100244. https://doi.org/10.1016/j.patter.2021.100244
  14. Wilson, M. A., & McNaughton, B. L. (1994). Reactivation of hippocampal ensemble memories during sleep. Science, 265(5172), 676–679. https://doi.org/10.1126/science.8036517
  15. McClelland, J. L., McNaughton, B. L., & O'Reilly, R. C. (1995). Why there are complementary learning systems in the hippocampus and neocortex: insights from the successes and failures of connectionist models of learning and memory. Psychological Review, 102(3), 419–457. https://doi.org/10.1037/0033-295X.102.3.419
  16. Stickgold, R. (2005). Sleep-dependent memory consolidation. Nature, 437(7063), 1272–1278. https://doi.org/10.1038/nature04286
  17. Ackoff, R. L. (1989). From data to wisdom. Journal of Applied Systems Analysis, 16, 3–9.
  18. Rowley, J. (2007). The wisdom hierarchy: representations of the DIKW hierarchy. Journal of Information Science, 33(2), 163–180. https://doi.org/10.1177/0165551506070706
  19. Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux. ISBN 978-0-374-27563-1
  20. Wagner, U., Gais, S., Haider, H., Verleger, R., & Born, J. (2004). Sleep inspires insight. Nature, 427(6972), 352–355. https://doi.org/10.1038/nature02223
착상에 참고한 대중 자료에 관하여 본 연구의 최초 착상에는 누구나 접근 가능한 뇌신경·수면 기초 자료(기사·백과·해설 영상)가 있었다. 그러나 이들은 학술적 근거로 인용된 것이 아니며 — 본고의 실증적 논거는 모두 위 동료심사 문헌에 있다 — 착상 자료의 상세 목록은 본 논의의 몫이 아니므로 여기서는 싣지 않는다.