맺음말
두 갈래는 서로 다른 곳에서 출발했고, 같은 곳에 도착한다.
FQNM은 미분에서 한 가지를 다시 묻게 만들었다. 부동소수점은 우리가 어쩔 수 없이 짊어진 것인가, 고른 것인가. 정수 상태와 그 이동을 한참 들여다본 뒤에는, 반올림 사고라는 익숙한 표현이 더 이상 자명하게 들리지 않는다.
AXIOM은 대수에서 또 한 가지를 묻게 만들었다. 거대한 반복 계산은 어쩔 수 없는 형식인가, 고른 형식인가. 계산의 묶음과 회전 구조를 본 뒤에는, 반복 학습이라는 익숙한 풍경 안에서 풀이로 옮겨갈 곳이 어디에 숨어 있을지를 다시 보게 된다.
두 질문은 한 곳에서 만난다. 계산의 성능과 안정성은 칩 이름만으로 결정되지 않는다. 숫자를 어떤 형식으로 표현하는가, 데이터를 어떤 구조로 놓는가, 연산을 어떤 기본 단위로 실행하는가가 함께 결과를 만든다.
세 층위가 동시에
Section titled “세 층위가 동시에”지금 시장에서 일어나고 있는 일은 세 층위의 동시 진행이다.
- 더 많은 GPU. 거대한 정렬 계산은 여전히 GPU의 무대이고, 그 무대는 줄지 않을 것이다.
- CPU의 재부각. 추론과 에이전트가 학습보다 무거워지면서 데이터센터의 CPU 비중이 다시 올라간다. 표면이지만 분명한 흐름이다.
- 새 기본 단위 후보. FQNM과 AXIOM은 그 표면 아래에서, 계산의 표현 자체가 바뀔 수 있는 곳을 가리킨다. 검증된 영역과 가설로 남겨야 할 영역이 함께 있다.
셋은 서로 자리를 빼앗는 관계가 아니다. 다만 셋이 동시에 일어나고 있다는 걸 본 사람과 첫 두 층위만 본 사람의 지도는 달라진다.
입구의 질문으로 다시
Section titled “입구의 질문으로 다시”한 세기 가까이 어쩔 수 없는 비용이라 부른 것이 사실은 우리가 고른 표현의 결과일지도 모른다는 의심에서 출발한 글이다. 따라간 끝에서 입구의 질문은 살짝 달라져 있다.
우리는 계산을 더 많이 해야 하는가, 아니면 어쩔 수 없는 비용이라 불러온 것의 목록을 다시 적어야 하는가.
여기에 답은 없다. 다음 자리는 검증의 범위이고, 그다음은 측정과 정리(theorem)와 시간이다.