오픈AI Astra, 27년 수학 난제 풀었다 — AI가 연구자가 되는 순간 | 주간 AI 브리핑

오픈AI의 미공개 모델 Astra(아스트라)가 10년 이상 풀리지 않던 수학 난제 10개를 해결했다고 8월 초 발표해, 이번 주 AI 업계에서 가장 뜨거운 화제가 됐습니다. 새 챗봇이나 새 앱이 아니라 연구 성과가 주인공이 된 한 주였습니다.

지금까지 AI가 수학을 '잘 푼다'는 뉴스는 여러 번 있었습니다. 하지만 대부분은 사람이 이미 답을 아는 시험 문제를 푸는 수준이었습니다. 이번이 다른 이유는, 답이 존재하는지조차 몰랐던 미해결 문제에서 새로운 결과를 만들어 냈다고 주장하기 때문입니다. AI가 지식을 소비하는 도구를 넘어, 지식을 생산하는 쪽으로 한 발 옮겼는지를 묻게 하는 사건입니다.

무엇을 풀었나

가장 상징적인 결과는 이른바 비소픽 군(non-sofic group)의 최초 구성입니다. 1999년 수학자 미하일 그로모프가 개념을 제시한 뒤 27년간 "그런 것이 실제로 존재하는가"라는 질문이 열려 있었는데, Astra가 구체적인 예를 만들어 냈다는 것입니다. 이 밖에도 폰 노이만 대수 분야의 코네 강성 추측을 반증하고, 기하학의 에르하르트 부피 추측을 증명했으며, 구를 공간에 빽빽이 채우는 문제(구 채우기)에서 1978년 이후 처음으로 상한선을 개선했다고 밝혔습니다.

용어는 낯설지만 요점은 하나입니다. 서로 다른 여러 분야에서, 수십 년간 전문가들의 손을 벗어나 있던 문제들이 한 모델을 통해 동시에 진전됐다는 점입니다. 한 분야의 요행이라고 치부하기 어려운 폭입니다.

왜 이번엔 다른가 — '검증 가능성'

AI의 주장에서 늘 걸리는 문제는 "정말 맞느냐"입니다. 이번 발표가 주목받는 결정적 이유가 여기 있습니다. 오픈AI는 모든 결과에 대해 Lean 4 검증서를 함께 공개했습니다. Lean은 수학 증명을 컴퓨터가 한 줄씩 기계적으로 검증할 수 있게 해 주는 도구로, 인증서가 통과했다면 오픈AI의 말을 믿지 않아도 제3자가 직접 확인할 수 있습니다. 심지어 이 모든 결과를 얻는 데 든 연산 비용은 약 2,000달러 수준이었다고 합니다.

결과의 진위를 '주장'이 아니라 '검증'으로 확인할 수 있다는 점이, 과거의 화려한 발표들과 이번을 가르는 지점입니다.

그럼에도 남는 수학계의 신중론

모두가 환영만 하는 것은 아닙니다. 상당수 수학자는 이런 성과가 동료 심사(peer review)를 거치지 않고 블로그 게시물 형태로 먼저 발표되는 방식에 우려를 표합니다. 실제로 국제수학연맹(IMU)이 지지한 '라이덴 선언'은 검증되지 않은 AI 성과의 성급한 발표를 경계하자는 취지를 담고 있습니다. 속도를 앞세운 기업 발표 문화와 신중함을 요구하는 학계 규범의 충돌인 셈입니다. 다만 필즈상 수상자 티모시 가워스가 앞서 관련 결과를 학술지 게재 대상으로 인정하는 등, 학계 내부에서도 평가가 갈리고 있습니다.

그래서 이게 무슨 의미인가

핵심은 AI가 연구의 '보조 도구'에서 '공동 연구자'로 옮겨 가고 있다는 신호라는 점입니다. 사람 수십 명이 수십 년 매달릴 문제를 며칠, 그것도 2,000달러 규모의 비용으로 다룰 수 있다면, 발견의 속도와 비용 구조 자체가 바뀝니다. 동시에 새로운 숙제도 생깁니다. 누구의 성과로 볼 것인가, 검증과 재현은 어떻게 제도화할 것인가 하는 질문입니다.

이 변화는 수학계 바깥에도 시사하는 바가 큽니다. 연구비와 인력이 부족한 환경일수록 '2,000달러로 세계적 난제에 도전할 수 있는 도구'의 의미는 커집니다. 한국처럼 기초과학 연구 인력의 규모가 미국·중국에 비해 작은 나라에서는, 이런 도구를 얼마나 빨리 연구 현장과 대학원 교육에 흡수하느냐가 격차를 줄일 기회이자 시험대가 될 수 있습니다.

앞으로의 관전 포인트

먼저 Astra가 언제 정식 공개될지가 관심사입니다. 일각에서는 이 모델을 차세대 GPT-6 계열로 보기도 합니다. 이번 결과들이 실제 동료 심사를 통과해 학술지에 실리는지, 그리고 수학을 넘어 물리·생명과학 등 다른 분야로 확산되는지가 진짜 의미를 가릴 기준이 될 것입니다. 화려한 발표가 아니라 검증의 통과 여부, 그것이 이번 사건을 평가할 유일한 잣대입니다.

---

출처

• OpenAI — Ten advances in mathematics and theoretical computer science
• The Next Web — OpenAI's Astra model and ten math proofs
• Forbes — OpenAI's Astra solved decades-old math problems for $2,000