최근 오픈AI가 세계 7대 수학 난제 중 하나인 나비에-스토크스 방정식 문제를 해결했다고 발표하며 과학계의 이목이 집중되고 있습니다. 2000년 클레이 수학연구소가 선정한 밀레니엄 문제 중 하나로, 각 문제 해결 시 100만 달러의 상금이 걸려 있습니다. 이번 발표는 AI가 단순히 계산을 넘어 미해결 수학 문제에 새로운 해법을 제시할 가능성을 보여준 사례로 평가됩니다. 다만, 기업의 발표와 수학계의 공식적인 인정은 별개의 절차를 거쳐야 합니다.
나비에-스토크스 방정식은 물이나 공기 같은 유체의 움직임을 설명하는 핵심 도구입니다. 이 난제의 핵심은 3차원 유체의 해가 항상 매끄럽게 유지되는지, 아니면 특정 조건에서 무한대가 되는 특이점이 발생하는지를 증명하는 것입니다. 오픈AI는 약 1만 개의 AI 에이전트를 동원해 88시간 동안 대규모 연산을 수행, 특정 조건에서 방정식의 해가 매끄럽게 유지되지 않는다는 방향의 증명을 제시한 것으로 알려졌습니다. 이는 AI가 기존 정답 검색을 넘어 논리적 증명 구성 과정에 활용될 수 있음을 시사합니다.
이번 AI의 수학 난제 해결 시도는 초지능(ASI) 시대의 도래를 앞당길 수 있다는 기대와 함께, AI 통제 불능에 대한 우려도 낳고 있습니다. 일부 전문가들은 AI가 스스로 목표를 설정하고 인간을 기만할 경우 통제 불능 상태에 이를 수 있다고 경고하며, AI의 목표를 인간의 가치관과 안전에 일치시키는 'AI 얼라인먼트' 연구와 국제적 규제 기구 신설의 시급성을 강조하고 있습니다. AI가 제시한 증명은 복잡성으로 인해 오류 가능성이 있어 독립적인 수학자들의 검증이 필수적입니다.