밀레니엄 난제의 해결사들

세상에서 가장 어려운 방정식 중 하나가 풀렸다. 이달 9일 오픈AI는 물과 공기 같은 유체의 움직임을 설명하는 나비에-스토크스 방정식을 AI 에이전트 1만 개를 동원해 88시간 만에 풀었다고 발표했다. 90년 가까이 수학자들을 괴롭혀 온 7대 밀레니엄 난제 중 하나가, 불과 사흘 남짓 만에 풀린 것이다.

혹자는 이를 십여 년 전 알파고가 이세돌 9단을 꺾었던 ‘알파고 쇼크'에 비유했다. 수십 년간 막혀 있던 수학의 돌파구를 AI가 대신 뚫어줄지 모른다는 기대 때문이다. 이번 한 번만이 아니다. 지난 1월 오픈AI와 하모닉은 폴 에르되시의 미해결 수학 난제를, 2020년 구글 딥마인드의 알파폴드는 반세기 묵은 단백질 접힘 문제를 풀며 난공불락 같던 난제들을 하나둘 무너뜨려 왔다.

그런데도 수학자들의 표정은 밝지만은 않다. 이달 11일 필즈상 수상자 25명은 공동 서한을 내고. “문제 해결은 개념적 이해를 위한 수단일 뿐”이라며 수학이 지켜온 가치를 잃지 말아야 한다고 촉구했다. 역시 필즈상 수상자인 테렌스 타오 교수는 오픈AI를 폭포로 가는 길을 알려주는 가이드에 비유했다. “누군가 특정 경로를 알려주면 사람들은 그 길로만 갑니다. 다른 길을 찾아보려 하지 않죠.”

1962년 미국의 철학자 토머스 쿤은 그의 저서 『과학 혁명의 구조』에서 패러다임이 한번 자리 잡으면 그 틀 안의 정상과학만 진행되고 이상 현상이 쌓여 위기가 오기 전까지는 다른 패러다임은 검토조차 되지 않는다고 말했다. 수학자들이 우려하는 것도 이와 같다. AI가 난제를 손쉽게 푼다는 전제가 하나의 패러다임처럼 굳어져, 인간이 직접 다른 길을 찾는 시도 자체가 사라지는 세상이 오는 건 아닐까. 그렇다면 이제 인간 수학의 본질도 바뀌어야 한다. ‘문제를 푸는 수학'을 넘어 ‘문제를 찾아내는 수학'으로 말이다.