담론 2: 계산의 철학과 숫자의 분열
두 번째 질문: 우리는 무엇을 계산하는가?
Section titled “두 번째 질문: 우리는 무엇을 계산하는가?”담론 1에서 우리는 CPU와 GPU라는 두 ‘그릇’이 가진 물리적 한계를 해부했다. 하지만 그릇의 모양이 어떻든, 그 안에 담기는 ‘내용물’인 숫자 그 자체에도 해결되지 않은 원죄가 남아 있다.
컴퓨터는 세상에서 가장 정밀한 계산 기계처럼 보이지만, 사실 우리가 다루는 대부분의 복잡한 계산은 ‘정확한 답’이 아닌 ‘그럴듯한 근사치’에 불과하다. 우리는 왜 오차를 당연한 기술적 숙명으로 받아들이게 되었는가?
이 담론은 물리적인 하드웨어라는 ‘그릇’을 넘어, 그 안에 담기는 ‘내용물’인 숫자를 처리하기 위해 선택한 두 가지 서로 다른 길에 대한 질문을 던진다.
- 계산의 분열: 왜 현대의 모든 프로세서는 숫자 하나를 계산할 때조차 서로 다른 두 가지 규칙과 회로를 유지해야만 하는가?
- 타협의 비용: ‘측정(Measurement)‘을 위해 선택한 부동소수점이라는 방식은, 우리에게 어떤 대가를 치르게 했는가?
- 확정성의 회복: 과연 오차가 누적되는 ‘근사의 세계’를 벗어나, 모든 계산이 1+1=2처럼 명확해지는 ‘확정적 연산’으로 돌아갈 수 있는가?
- 1부. 왜 계산기는 둘인가: 컴퓨터 내부를 뜯어보았을 때 발견되는 기묘한 이중 구조와 그 탄생의 비화를 살펴본다.
- 2부. 세는 세계와 재는 세계: ‘정확히 세는 것’과 ‘대략 재는 것’의 차이가 어떻게 컴퓨터의 연산 논리를 갈라놓았는지 파악한다.
- 3부. 다시 셈으로 돌아가기: 오차를 품은 실수를 다시 ‘세는 방식’으로 환원하여 처리하는 새로운 발상(FQNM)을 소개한다.
- 4부. 정확한 계산이 바꾸는 것: 계산의 확정성이 확보되었을 때, 현대의 시뮬레이션과 산업 현장이 얻게 될 실질적인 이득을 논하며 마무리한다.
“담론 1이 계산을 담는 물리적 그릇의 구조적 한계를 다루었다면, 담론 2는 그 그릇에 담긴 숫자의 균열을 다룬다.”