범용 벤치마크라는 주장 — AI and the Everything in the Whole Wide World Benchmark

Created on August 24, 2026

2026   ·   evaluation   benchmark   construct-validity   glue   imagenet   paper   ·   paper

AI and the Everything in the Whole Wide World Benchmark (Raji, Bender, Paullada, Denton, Hanna, Mozilla Foundation / UC Berkeley / University of Washington / Google Research, NeurIPS 2021 Datasets and Benchmarks Track)

Introduction

“이 모델은 범용 언어 이해 능력이 뛰어나다 — GLUE 점수가 그 증거다.” “ImageNet 정확도가 오르는 것은 범용 시각 지능을 향한 진전이다.” 이런 문장은 지난 10년간 논문 서론과 기업 보도자료에 수없이 등장했다. 그런데 이 문장을 곧이곧대로 검증하려 들면 이상한 일이 벌어진다. 무엇을 확인해야 이 주장이 참인지 아무도 정확히 말해주지 않는다. GLUE 점수가 오르면 “범용 언어 이해”도 같이 오른다고 믿을 근거가 무엇인지, ImageNet 정확도와 “범용 시각 지능” 사이에 어떤 다리가 놓여 있는지 — 이 다리는 애초에 누구도 놓은 적이 없다. 검증 불가능한 주장은 참도 거짓도 아니다. 그냥 의미가 없는 문장이다.

이 편이 다루는 논문은 정확히 이 지점을 겨냥한다. Raji, Bender, Paullada, Denton, Hanna의 “AI and the Everything in the Whole Wide World Benchmark”(NeurIPS 2021 Datasets and Benchmarks Track)는 제목부터 논지를 압축한다. 1974년 세서미 스트리트 그림책 Grover and the Everything in the Whole Wide World Museum(Norman Stiles, Daniel Wilcox 글, Joe Mathieu 그림, Random House)에서 몬스터 그로버(Grover)는 “이 세상 모든 것”을 보여준다는 박물관을 방문한다. 방마다 카테고리가 채워져 있는데, 몇몇은 자의적이고 주관적이다 — “벽에서 찾을 수 있는 것들의 방”, “너를 간지럽힐 수 있는 것들의 방” 같은 전시실이다. 어떤 방은 이상할 만큼 구체적이고(“당근의 방”) 어떤 방은 도움이 안 될 만큼 막연하다(“높다란 홀”). 그로버가 “이제 다 봤다”고 생각할 즈음, 그는 “그 밖의 모든 것(Everything Else)”이라 적힌 문에 도달한다. 문을 열자 그로버는 그냥 박물관 바깥, 즉 평범한 바깥 세상에 서 있다.

동화 속 이 상황은 명백히 우스꽝스럽다. 유한한 방 몇 개를 모아놓고 “이 세상 모든 것”이라 부르는 것은 논리적으로 성립할 수 없다. 그런데 저자들은 바로 이 우스꽝스러운 논리가 오늘날 AI/ML 평가 관행에 그대로 살아 있다고 주장한다. “시각적 이해”나 “언어 이해” 같은 막연한 과제에 대한 진전의 척도로 제시되는 인기 벤치마크들은, “이 세상 모든 것”을 대표한다고 주장하는 유한한 박물관이 실제로는 그렇지 못한 것과 정확히 같은 이유로 비효과적이다 — 본질적으로 특정하고(specific), 유한하며(finite), 맥락 의존적(contextual)이기 때문이다.

이 글이 결론을 먼저 제시하면 다음과 같다.

  1. GLUE와 ImageNet 같은 벤치마크는 “모든 필수 공통 과제의 정의”로 격상되었지만, 실제로 이 벤치마크에서 파생된 주장은 애초에 그 데이터셋이 설계된 범위와 애초의 개발 목표를 훨씬 벗어난다.
  2. 이 격상의 근원에는 구성 타당도(construct validity) 문제가 있다. 특정 데이터·지표·관행에 구현되어 있을 뿐인 벤치마크가 “범용 적용 가능성”이라는 주장이 요구하는 것을 애초에 담아낼 수 없다.
  3. 이 문제의 뿌리는 Common Task Framework(CTF)라는, 원래 좁고 실용적인 과제(음성 인식·기계 번역)를 위해 고안된 틀이 “일반 언어 이해”, “일반 시각 이해” 같은 무한히 넓은 목표에까지 부적절하게 확장된 데 있다.
  4. 저자들의 처방은 “벤치마크를 버려라”가 아니라 “벤치마크를 원래 의도대로 — 구체적이고 범위가 명확하며 맥락화된 과제 평가 도구로 — 되돌리고, 더 넓은 능력을 캐물으려면 다른 평가 방법을 쓰라”는 것이다.

이 글은 #1에서 세운 측정 사슬과 구성 타당도 어휘를 이 논문의 논증에 그대로 대입해 따라간다. 그리고 이 논문의 진단이 오늘날 MMLU·BIG-bench 같은 LLM 벤치마크에도 얼마나 정확히 들어맞는지 마지막 절에서 직접 확인한다.

Background

일반성을 향한 열망 — General Problem Solver에서 파운데이션 모델까지

“범용 목적(general-purpose) AI”라는 개념은 그 뿌리를 어느 정도 분야 초창기까지 거슬러 올라갈 수 있다. 1950년대 후반 Newell, Shaw, Simon(1959)은 다양한 문제를 풀 수 있을 뿐 아니라 문제 해결 자체에 대한 일반 이론까지 개발하려는 시도로 “General Problem Solver(GPS)”를 제안했다. 이 프로젝트는 결국 실패했지만, 흥미롭게도 그 실패는 당대에 “탈신체화되고 범용 목적인 문제 해결기라는 정식화 자체의 결함”이 아니라 구현상의 문제로 주로 귀속됐다(Adam, 1998). 즉 “일반 지능을 만들 수 있다”는 목표 자체는 살아남았고, “이번엔 방법이 틀렸을 뿐”이라는 서사가 반복됐다. 벤치마크가 목표를 담아내지 못했을 때 목표 자체를 의심하기보다 다음 벤치마크로 넘어가는 이 패턴은, 이 논문이 GLUE·ImageNet에서 지적하는 문제와 같은 뿌리를 공유한다.

오늘날 연구자들은 “일반성(generality)”이라는 말을 흔히 폭넓은 과제·설정에서 유연하게 작동하는 AI 시스템의 개발을 가리키는 데 쓰며, 인간이 지녔다고 여겨지는 적응적 인지 능력을 거울처럼 반영하기를 바란다(Shevlin et al., 2019). 이 논문은 인공일반지능(AGI)에 대한 논의는 제쳐두고, 더 즉각적이고 논리적으로 선행하는 문제 — 즉 비전이나 언어처럼 특정 종류의 인지 기술이나 능력에 대한 일반성 주장, 그것도 맥락이나 응용 도메인과 무관하다고 주장되는 일반성 — 에 초점을 맞춘다. 더 실용적인 특정 하위 분야에서도 연구자들은 흔히 폭넓은 기능성이나 지식을 포착하는 범용 목적 시스템의 개발을 추구한다. 범용 목적 특징 임베딩(feature embedding) 개발도 ML 커뮤니티 연구의 중심 주제가 됐다 — 비지도 또는 지도 학습을 통해, 원래 구체적으로 개발되지 않은 폭넓은 다른 과제에도 (최소한의 파인튜닝으로) 일반화할 수 있는 표현(representation)을 만드는 것이 목표다(Huh et al., 2016; Du et al., 2020; 이 흐름은 이후 Bommasani et al., 2021의 파운데이션 모델 논의로 이어진다).

이 흐름을 짚어두는 이유는 간단하다. “범용성”이라는 단어 자체가 이미 반세기 넘게 AI 분야의 야심을 정당화하는 수사로 쓰여왔고, 그 수사는 GPS의 실패에도 살아남았듯 GLUE·ImageNet의 구성 타당도 문제에도 쉽게 살아남을 것이다. 이 논문의 개입은 바로 이 지점을 겨냥한다 — 야심 자체를 부정하지 않으면서, 그 야심이 특정 데이터셋 하나로 검증됐다고 주장하는 논리적 비약을 끊는 것이다.

Common Task Framework — 좁은 과제를 위해 태어난 틀

이 논문을 이해하려면 먼저 벤치마킹이라는 관행이 어디서 왔는지 알아야 한다. 벤치마크 이전 시대, ML에서 벤치마크는 알고리즘 선택이 아니라 “컴퓨터 선택”에 쓰였다 — 어떤 기계를 구매할지 결정하기 위해 여러 컴퓨터에서 벤치마크 프로그램을 돌리는 식이었다. 1962년 Auerbach Corporation의 Standard EDP Reports가 그 초기 사례다. 1976년에는 미국 정부가 컴퓨터 시스템 조달 과정에서 파일 관리·워드 프로세싱 같은 핵심 기능을 테스트하는 표준 모의 소프트웨어 라이브러리를 쓰는 것이 흔한 관행이 됐다.

이 관행이 오늘날 익숙한 형태로 굳어진 것은 1980년대 중반, IBM의 Fred Jelinek과 DARPA의 Charles Wayne이 음성 인식·기계 번역의 정량적 공통 평가를 위해 발전시킨 Common Task Framework(CTF)를 통해서다. CTF는 물리학자 Wendell Pierce가 AI 분야를 두고 “실제 성과가 아니라 (되다 만) 이론의 매력에 속고 있다”고 비판한 것에 대한 대응으로 도입됐다. CTF의 구성 요소는 딱 셋이다.

  1. 특징 측정치와 클래스 라벨이 딸린 공개 학습 데이터셋.
  2. 그 학습 데이터에서 예측 규칙을 추론하는 것이 공통 과제인 참가자 집단.
  3. 참가자들이 제출한 예측 규칙을 채점하는 채점 심판(scoring referee).

DARPA의 후원과 IBM의 데이터 덕에 CTF는 기계 번역·음성 인식 연구의 표준 방식으로 빠르게 자리 잡았다. 그전까지 “6개월에 한 번” 갱신되던 비교가 CTF 덕에 “매시간” 가능해졌고, 큰 돌파구가 드물던 시기에도 “고정된 과제 위에서 대안 알고리즘을 정량적으로 비교”할 수 있다는 것만으로 연구자들은 꾸준한 진전을 추적할 수 있었다. 뒤이어 STEC(Shared Task Evaluation Campaigns), Message Understanding Conferences(MUC), 정보검색용 TREC, 기계번역용 NIST-MT, 단어 의미 중의성 해소용 SENSEVAL 같은 NLP 관련 후속 이니셔티브가 이어졌다. 컴퓨터 비전에서도 1993년 시작된 FERET 자동 얼굴 인식 프로그램이 비슷한 역할을 했다 — NIST 보고서는 FERET 이전에는 “이 알고리즘들 중 공통 데이터베이스로 결과를 보고한 것조차 소수였고, 훈련·테스트 세트를 분리한 표준 테스트 프로토콜로 평가한다는 바람직한 목표를 만족한 사례는 더더욱 드물었다”고 적었다. 강화학습은 전통적으로 Atari·StarCraft·Dota2·Go 같은 게임 환경에 벤치마킹 문화를 정착시켰고, 체스는 냉전기 미소 기술 경쟁의 상징물이 됐다. 1987년 설립된 UCI Machine Learning Repository도 이 흐름 속에서 데이터를 위한 중앙 저장소를 요구하는 목소리에 대한 응답으로 탄생했다.

중요한 것은 CTF가 처음부터 좁고 범위가 명확한(practically-oriented, tightly-scoped) 과제 — 정확히 자동 음성 인식(ASR)이거나 정확히 기계 번역(MT)인 과제 — 를 위해 도입됐다는 점이다. 그 검증 방식도 단순했다. “이 벤치마크가 실제 세계의 그 과제를 정확히 반영하는가”만 확인하면 됐다. 이 논문의 핵심 논증은, GLUE나 ImageNet 같은 후속 벤치마크가 이 틀을 “성능이라는 것” 자체에 대한, 즉 실세계의 목표나 맥락과 분리된 추상적 과제에 부적절하게 확장 적용했다는 것이다. 좁은 과제용으로 설계된 도구를 무한히 넓은 목표에 형식만 빌려 씌우면서, “글래머와 기만”을 억제하기 위해 만들어진 도구가 오히려 그것을 조장하는 방향으로 뒤집혔다.

구성 타당도 — 정밀도가 아니라 정확도의 문제

재현 가능성(reproducibility)과 신뢰도(reliability)가 어떤 발견의 정밀도(precision)에 관한 것이라면, ML 평가가 정말 마주해야 할 타당도(validity) 문제는 정확도(accuracy)에 관한 것이다 — 우리의 평가가 실제 세계에서의 시스템 행동이나 그 분야가 내세우는 목표 방향의 진전을 얼마나 정확히 포착하는가. 이 정확도는 단순한 보고의 일관성 문제가 아니라, 효과적인 모델의 목표가 무엇이어야 하는지에 대한 성찰과, 그 목표를 평가 지표·데이터·방법론에 어떻게 담아낼지에 대한 의식적 설계 판단을 요구하는 설계 과제다.

여기서 구성 타당도(construct validity)는 실험 설정이 연구 주장과 얼마나 잘 관련되는지에 관한 외적 타당도 이슈다. ML 맥락으로 옮기면, 벤치마크 데이터셋과 그에 딸린 평가 지표가 하나의 과제를 얼마나 잘 대표하는가의 문제다. 핵심은 실험 설정이 얼마나 잘 설계됐는가보다 — 정확히 말하면 — 얼마나 잘 구성(constructed)됐는가다. 타당도 문제가 벤치마크 설계·개발에서 유독 다루기 어려운 과제라는 점은 ML 커뮤니티 전반에서 폭넓게 인정된 바 있지만(Mitchell, 2021; Jacobs & Wallach, 2021; Malik, 2020), Bowman & Dahl이 지적하듯 “이 기준은 완전히 형식화하기 어렵고, 벤치마크가 모델 능력의 타당한 척도인지 판별할 수 있는 간단한 테스트를 우리는 알지 못한다.”

#1의 어휘로 정확히 옮기면 이렇다. 벤치마크 점수는 구성개념(측정하려는 능력) → 조작적 정의(과제·데이터셋) → 측정 모형(채점 규칙) → 점수라는 사슬을 거친다. 이 논문이 문제 삼는 것은 이 사슬의 첫 단계다. “범용 언어 이해”나 “범용 시각 지능” 같은 구성개념을 GLUE·ImageNet이라는 조작적 정의로 옮기는 과정 자체에 검증 절차가 없다. 검증이 없다는 것은 곧 그 조작적 정의가 구성개념의 어느 정도를 대표하는지, 그 조작적 정의로는 절대 대표할 수 없는 부분이 무엇인지 아무도 확인한 적이 없다는 뜻이다.

“일반성”을 주장하는 세 가지 경로

논문을 읽어 나가기 전에, 오늘날 벤치마크가 “일반적”이라고 주장하는 방식을 세 갈래로 미리 정리해두면 이후 사례 연구를 따라가기 쉽다. GLUE와 ImageNet은 이 세 경로를 각각 다른 비중으로 밟는다.

경로 무엇을 근거로 삼는가 대표 사례
규모(scale) 카테고리·문항·이미지 수가 압도적으로 크면 “포괄적”이라고 느껴진다 ImageNet — 동시대 벤치마크 대비 카테고리 20배, 이미지 100배
과제 다양성(task diversity) 여러 하위 과제를 한데 모으면 “다양한 능력을 아우른다”고 느껴진다 GLUE/SuperGLUE — “다양한 학습 데이터 규모·과제 장르·과제 형식을 아우르는 평가”라는 자기소개
리더보드 관행(leaderboard practice) 연례 경쟁·순위표가 있으면 그 과제가 분야 전체의 공식 척도처럼 느껴진다 ImageNet의 ILSVRC(2010~2017), GLUE/SuperGLUE 리더보드(2018~)

세 경로 모두 “일반성”을 설득하는 데는 성공했지만, “일반성”을 입증하지는 못한다. 규모가 커진다고 그 규모가 구성개념의 어느 부분을 커버하는지가 저절로 밝혀지지 않고, 과제를 여러 개 모은다고 그 조합이 이론적으로 의미 있는 표본이 되는 것은 아니며, 리더보드가 있다고 그 순위가 재는 대상이 명확해지는 것도 아니다. Method 절에서 이 세 경로 각각이 정확히 어디서 무너지는지 논문의 논증을 따라간다.

측정 사슬을 GLUE·ImageNet에 대입하면

#1이 세운 측정 사슬 — 구성개념 → 조작적 정의 → 측정 모형 → 점수 — 을 이 두 벤치마크에 직접 대입해보면, 이 논문이 문제 삼는 지점이 정확히 어디인지 한눈에 드러난다.

단계 GLUE/SuperGLUE ImageNet 이 단계에서 버려지는 것
구성개념 “범용 언어 이해” “범용 시각 사물 인식” —
조작적 정의 비공식 설문 30개 제안 중 실무 휴리스틱으로 추린 8~9개 과제 WordNet 12개 하위트리에서 파생된 카테고리, 동시대 대비 20배 규모 화용론·부정 처리 등 다루지 않는 언어 능력, 서구권 외 시각 문화
측정 모형 과제별 accuracy/F1을 평균해 단일 점수로 집계 top-1/top-5 정확도 과제별로 다른 실패 패턴, 카테고리별 성능 편차
점수 GLUE 스코어 한 개 ILSVRC top-5 정확도 한 개 “무엇을 대표하는 점수인가”에 대한 답

두 벤치마크 모두 첫 번째 화살표(구성개념 → 조작적 정의)에서 이미 검증 없이 건너뛴다. “범용 언어 이해”가 왜 하필 이 8~9개 과제로 조작화되는지, “범용 시각 사물 인식”이 왜 하필 WordNet의 이 12개 하위트리로 조작화되는지 — 어느 쪽도 논문 안에서 이론적 근거를 제시하지 않는다. #1의 표현을 빌리면, 구성 타당도의 사슬이 가장 첫 고리부터 이미 끊어져 있는 셈이다. 두 번째 화살표(조작적 정의 → 측정 모형)에서도 정보는 또 한 번 버려진다 — 여러 과제의 성능을 단일 스칼라로 평균 내는 순간, 어떤 과제에서 강하고 어떤 과제에서 약한지에 대한 정보는 사라진다. 이 두 번째 손실을 시나리오 × 지표 행렬로 되돌리려는 시도가 #15에서 다룰 HELM이다.

Method

GLUE와 ImageNet — 두 사례를 고른 이유

논문은 데이터셋 기반 벤치마크 중 범용 능력 평가를 표방하는 두 가지 공통 사례, GLUE와 ImageNet에 집중한다(게임플레이 데모 기반 AI 발전은 논의 범위 밖에 둔다). 이 둘을 고른 이유가 그 자체로 논증의 일부다. 창시자들이 항상 명시적으로 “일반 지능”을 위한 벤치마크를 세운다고 표방하는 것은 아니지만, 커뮤니티 관행과 그를 둘러싼 과열된 담론이 “이 벤치마크에서 잘한다는 것이 무엇을 의미하는가”를 부풀려 왔다. 이 설정의 영감은 인간이 가진 일반적 능력과 지식의 폭에 명시적으로 닿아 있고, 그 결과 이 데이터셋을 둘러싼 정서(ethos)는 그 구성이 실제로 갖는 한계를 감안할 때 합당한 해석·영향력의 범위를 이미 넘어섰다.

논문이 실제로 쓰는 비판의 뼈대 — 3대 축과 8개 하위 절

GLUE·ImageNet을 낱낱이 뜯어보기 전에, 논문이 4장에서 실제로 쓰는 비판의 조직 구조를 먼저 표로 확인해두자. 이것이 “벤치마크가 일반 능력의 정당한 척도가 되려면 무엇을 갖춰야 하는가”라는 질문에 논문이 (역으로) 답하는 방식이다 — 아래 세 축 중 하나라도 무너지면 “일반성” 주장은 성립하지 않는다.

대분류 무엇을 확인하는가 하위 절 무엇이 무너지는가
4.1 제한된 과제 설계(Limited Task Design) 하위 과제 집합이 어떤 인지 이론이나 체계적 기준에 근거해 선택됐는가 4.1.1 임의로 선택된 과제와 컬렉션 / 4.1.2 도메인 지식과 응용 문제 공간에 대한 오해 과제가 편의 표본(sample of convenience)일 뿐, 이론적 근거 있는 표집이 아니다
4.2 탈맥락화된 데이터와 성능 보고(De-contextualized Data and Performance Reporting) 데이터셋이 자신의 국지성·주관성·범위를 스스로 인정하고 있는가 4.2.1 제한된 범위 / 4.2.2 벤치마크의 주관성 닫혀 있고 주관적인 데이터셋이 “중립적이고 보편적”인 것처럼 제시된다
4.3 부적절한 커뮤니티 사용(Inappropriate Community Use) 벤치마크가 원래 의도된 범위 안에서만 쓰이고 있는가 4.3.1 경쟁 테스트의 한계 / 4.3.2 분야 초점의 재조정 / 4.3.3 실제 맥락 밖 정당화 또는 안전하지 않은 응용 리더보드 순위·마케팅 문구가 벤치마크의 원래 범위를 넘어서는 근거로 오용된다

즉 하나의 벤치마크가 “일반 능력을 잰다”는 주장을 정당하게 하려면 (1) 과제 설계가 체계적 근거를 가져야 하고, (2) 데이터의 국지성·주관성이 투명하게 보고돼야 하고, (3) 커뮤니티가 그 범위 안에서만 결과를 써야 한다. GLUE와 ImageNet은 이 세 축 모두에서 걸린다는 것이 이 절 전체의 논증이다. 이제 두 벤치마크가 애초에 어떤 근거로 “범용”을 자처했는지부터 살펴보자.

GLUE와 SuperGLUE — 과제 다양성이라는 착시

GLUE(General Language Understanding Evaluation)와 SuperGLUE의 창시자들은 이 자원들을 “범용 자연어 이해 기술 연구를 위한 평가 프레임워크”라고 소개한다. 논거는 이렇다 — 사람은 언어를 하나 배우면 그 언어가 관여하는 어떤 과제에도 그 지식을 쓸 수 있는데, 대부분의 컴퓨터 NLU 시스템은 과제 또는 도메인에 특화돼 있다. 따라서 한 과제로 습득한 언어 지식을 원리적으로 다른 과제에 전이할 수 있는지를 시험하는 벤치마크는, 특정하고 잠재적으로 잘 정의된 종류의 일반화 가능성을 테스트하는 셈이다.

두 벤치마크의 저자들은 자신들의 데이터셋을 “다양한 학습 데이터 규모, 과제 장르, 과제 형식을 아우르는 언어 이해에 대한 범용 평가를 제공하도록 설계됐다”고 설명한다. 다양한 언어 이해 과제로 이뤄진 집합에 성공하는 것이 언어 이해에 대한 전면적 해법을 향한 진전을 적어도 시사한다는 함의를 담고 있고, 이런 구성을 “접근법들의 전이학습 잠재력을 드러내는” 데 특히 적합하다고 명시적으로 표현한다. 인기 언어(영어)에 대한 폭넓은 테스트를 위한 종합 세트라는 위상 덕에, 이 벤치마크는 오늘날 NLP 커뮤니티의 범용 진전 지표, 특히 “범용 문장 인코더”의 공인된 평가 플랫폼이라는 지위까지 얻었다.

문제는 실제로 열어보면 이 “다양성”이 그리 다양하지 않다는 데 있다. GLUE 저자들은 SentEval(Conneau & Kiela, 2018)이나 decaNLP(McCann et al., 2018) 같은 선행 벤치마크와의 차별점으로 과제의 다양성을 자기 논문 곳곳에서 반복 강조한다. 그러나 인간 언어 활동 전체에 비추어 보면 GLUE의 과제 구성은 거의 다양하지 않다 — 단일 문장 과제 두 개, 유사성·의역 과제 두 개, 추론 과제 네 개가 전부다. SuperGLUE를 개발하며 저자들 스스로 이 점을 인정했다 — “GLUE의 과제 형식은 문장·문장쌍 분류에 국한돼 있다”며 후속 확장에서 상호참조 해결(coreference resolution)과 질의응답(QA) 형식을 추가해야 했다. 그 결과 SuperGLUE는 질의응답 과제 네 개, 추론 과제 두 개, 단어 의미 중의성 해소 과제 한 개, 상호참조 과제 한 개로 구성된다.

과제 선정 과정 자체도 체계적이지 않았다. GLUE에 포함될 과제는 NLP 커뮤니티 동료들에게 진행한 비공식 설문에서 나온 30개 제안을 추린 것이었다 — 즉 그 시점에 NLP 커뮤니티의 저자들이 흥미롭다고 여긴 문제들의 모음일 뿐이다. 30개 제안을 걸러낼 때도 저자들은 “라이선스 문제, 복잡한 포맷, 개선 여지(headroom) 부족” 같은 실무적 휴리스틱에 주로 의존한 뒤에야 상위 기준을 적용해 최종 8~9개 과제로 좁혔다. 그 결과 최종 벤치마크에 포함된 과제 집합은 이해에 필요한 구체적 언어 기술의 범위를 체계적으로 지도화하지도 못하고(특히 화용론(pragmatics)에 대한 탐구나 부정문(negation)의 적절한 처리가 빠져 있다), 언어 지식을 이해에 배치하는 방식의 진정한 다양성도 보여주지 못한다. 이런 집합이 포함된 과제들 사이의 성능 일반화 능력을 어느 정도 보여줄 수는 있지만, 이 능력이 범용 언어 이해와 동일한 것은 아니며, 어떤 과제의 해법이 언어학자가 인정할 만한 의미에서의 “언어 이해”를 실제로 수반한다는 증거도 아니다.

GLUE/SuperGLUE에는 과제 다양성 부족 말고도 한 가지 문제가 더 있다 — 이 문제는 절을 나눠 따로 다룰 만큼 논문에서 비중 있게 다뤄진다.

도메인 지식과 언어 능력을 뒤섞는 착시

GLUE와 SuperGLUE가 안고 있는 또 하나의 문제는, 언어적 능력(linguistic competence)과 일반 상식·세계 지식(world knowledge)을 마치 동등한 범위의 문제인 것처럼 결합한다는 점이다. 비유하자면 이렇다 — 어떤 사람이 외국어를 유창하게 구사한다고 해서 그 나라의 역사·법률·과학 상식까지 자동으로 갖추게 되는 것은 아니다. 언어 능력과 세계 지식은 서로 다른 축이다. 그런데 GLUE의 진단(diagnostic) 구성 요소를 두고 저자들은 “이 데이터셋은 세계 지식과 논리 연산자의 사용처럼, 모델이 과제를 견고하게 풀기 위해 다뤄야 한다고 예상되는 공통 난제를 부각하도록 설계됐다”고 말한다. 즉 여러 언어 이해 과제에 걸친 일반화 가능성을 테스트한다고 표방하는 벤치마크가, 언어 능력(논리 연산자 같은)을 쌓는 것뿐 아니라 세계 지식을 습득·배치하는 능력까지 떠안게 된다.

자연어 이해가 언어적 처리와, 언어 신호·의사소통적 공통 기반·세계 지식의 결합에 대한 추론을 모두 요구한다는 것은 잘 알려져 있다(Hunter et al., 2018). 그런데 언어 지식은 비교적 자기완결적이고 다른 텍스트 도메인에 재사용 가능한 반면, 세계 지식은 본질적으로 열려 있다(open-ended) — 언제 어디서 어떤 새로운 사실이 필요해질지 미리 한정할 수 없다. 이 서로 다른 두 능력을 하나의 벤치마크에 뭉뚱그리면, 실제로 재는 것보다 훨씬 더 일반적이고 유연하며 견고한 능력 집합을 재고 있는 것처럼 (오)해석되기 쉽고, 그래서 “인간이 언어를 이해하는 능력”과 비교할 만한 것으로 부적절하게 제시된다.

이 지점에서 저자들은 Bender & Koller(2020)를 인용한다 — 기계학습 연구자들이 특정 벤치마크를 언어의 의미(meaning)를 해독하는 모델의 능력을 포착하는 것으로 오해하는 경향이 있으며, 벤치마크가 언어 형식(linguistic form)을 시험 통과 수준으로만 조작하는 능력이 아니라 진짜 “이해”의 증거를 보여주려면 훨씬 더 신중하게 구성돼야 한다는 주장이다. 나아가 여러 연구자는 물리적·사회적 그라운딩(grounding)을 자연어 이해로 가는 과정의 일부로 확립할 필요성을 제기하며, 텍스트 전용 학습을 제한적인 접근으로 경고한다(Bisk et al., 2020; Zellers et al., 2021). GLUE와 SuperGLUE는 정확히 텍스트 전용 과제이기 때문에, 이런 그라운딩 요구를 애초에 시험할 방법이 없다. 언어 이해는 언어적 능력뿐 아니라 상식적 추론, 대화 상대의 마음 상태를 모델링하는 능력에도 의존하는데(Reddy, 1979; Clark, 1996), 이런 것은 텍스트만으로는 철저히 시험되지 않는다.

ImageNet — 규모가 만드는 착시

ImageNet은 몇 가지 관련된 관찰 때문에 “범용” 벤치마크로 특징지어진다. 첫째, 개발 당시 창시자들은 ImageNet을 “이미지 세계의 가장 포괄적이고 다양한 커버리지”라고 묘사했고, 회고적으로 Fei-Fei Li는 이 프로젝트를 “사물의 전체 세계를 지도화하려는 시도”라고 표현했다. 인간에 필적하는 방식으로 상당한 폭의 사물을 인식하는 능력으로 범용 시각 사물 인식이 프레이밍되면서, ImageNet의 압도적 규모 — 카테고리 수와 카테고리당 이미지 수 모두 — 가 이를 시각 사물 인식의 범용적 정식화로 인식시키는 데 일조한다. 개발 당시 ImageNet은 Caltech 101/256, MSRC, PASCAL VOC 같은 당대 가장 인기 있던 학습·평가 벤치마크 대비 카테고리 수 20배, 전체 이미지 수 100배를 제공했다.

둘째, ImageNet에 정식화된 과제가 인공 시각 지능이라는 장기 목표를 향한 의미 있는 이정표를 대표한다는 커뮤니티 공감대가 있다. 실제로 Li는 대규모 시각 사물 인식을 컴퓨터 비전의 “북극성” — 즉 인공 시각 지능이라는 궁극적 목표를 향해 분야를 정의하고 이끌어갈 과학적 탐구 — 으로 명시적으로 규정했고, ImageNet을 그 정전적(canonical) 구현으로 삼았다. ImageNet 저자들 스스로도 이 데이터셋을 분야의 결정적 벤치마크로 자리매김하려는 의도를 논문에서 분명히 밝힌다. 그리고 ImageNet을 둘러싼 과열과 여기서 파생된 주장의 범위는 컴퓨터 비전이라는 분야 안에만 머물지 않는다 — ImageNet에서의 성능 향상이 그 분야가 범용 AI를 향해 진전하고 있다는 지표로 명시적으로 인용되는 일이 흔하다.

이 규모 논증에는 명확한 물리적 한계가 있다는 점도 짚어야 한다. ImageNet 저자들 스스로 주석 품질과 규모 사이의 트레이드오프를 인정하며 “그 규모가 이미 수작업 주석으로 얻을 수 있는 범위에 한계를 부과하고 있다”고 적었다 — 이런 벤치마크를 더 크게 만드는 것이 많은 경우 실질적으로도 불가능에 가까울 수 있다는 뜻이다.

4.1 제한된 과제 설계 — 무엇이 “임의로 선택된 과제”인가

그로버가 방문한 박물관의 방 구성에는 체계나 조직이 전혀 없다 — “너무 시끄러워서 생각을 할 수 없는 것들의 방”, “작은 홀”, “당근의 방” 같은 방들을 임의로 걷는다. 벤치마크의 과제 구성도 마찬가지로, 의도되고 선언된 문제 공간과 무관하게 벌어지는 것처럼 보인다. Schlangen(2021)은 과제(task)를 입력 공간에서 출력 공간으로의 사상(mapping)으로 정의하되, 그 정의를 두 가지 방식으로 나눈다 — 서술을 통한 내포적(intensional) 정의와, 서술에 부합하는 입력·출력 쌍의 특정 데이터셋을 통한 외연적(extensional) 정의. ML에서는 후자로 기우는 경향이 있는데, 벤치마크 과제가 흔히 바로 그 과제를 염두에 두고 수집된 데이터셋 자체로 정의되기 때문이다. 만약 이 “범용” 벤치마크들이 범용 인공 인지 능력을 향한 진전의 정당한 시험이라면, 그 안에 구현된 과제들이 체계적으로, 혹은 그 능력을 모델링하는 특정 이론에 근거해 선택됐을 것이라고 기대할 만하다. 그런데 실제로 관찰되는 것은 오히려 편의 표본(samples of convenience)에 가깝다 — 이론적으로 부실한 구성일지라도, 개발 팀이 손쉽게 구할 수 있는 것들로 임의로 조립된 과제와 과제 모음이다. 소프트웨어 벤치마킹(Lewis & Crews, 1985)과 달리, ML “범용” 벤치마크에서 보이는 하위 과제들은 공리적(axiomatic)이지 않다 — 어떤 의미 있는 일반 기능이나 하위 기능의 추상으로 능동적으로 설계된 것이 아니고, 대개 체계적으로 큐레이션되지도 않았다. 대신 “범용” 벤치마크에서 발견되는 것은, 그로버가 “이 세상 모든 것의 박물관”에서 마주치는 방들의 불일치한 잡동사니를 연상시키는 카테고리 모음이다.

임의로 선택된 과제와 컬렉션

이런 종류의 우려는 ML 분야의 초기 벤치마크 개발 과정에서도 이미 제기됐다. UCI Repository는 ML에서 공유 과제의 초기 초점 중 하나였고, 커뮤니티의 벤치마킹 관행이 시간이 지나며 Iris, Adult, Wine, Breast Cancer 분류 데이터셋에 집중되는 컬렉션을 담고 있다. Kiri Wagstaff는 이 하위 과제 조합의 선정 논리가 빈약하다고 지적했다. 그녀는 여기 포함된 어떤 과제도 그 데이터셋을 만든 해당 분야 과학자들조차 관심 가질 만한 실세계 문제의 합리적 대리(proxy)나 추상이 아니라고 지적한다. 원문을 그대로 옮기면 이렇다.

“수많은 ML 연구자들이 최고의 붓꽃(iris) 또는 버섯 분류기를 쫓아다녔다. 그런데 이 엄청난 노력이 식물학이나 균류학 분야에 어떤 영향을 미친 것 같지는 않다. 그 학문 분야의 과학자들이 애초에 그런 분류기를 필요로 하기는 하는가? 그들이 자기 학술지에 이 주제로 논문을 발표하기는 하는가?” (Wagstaff, 2012, p.2)

오늘날 감각으로 옮기면 이렇다. 어느 동네 라면집이 가장 맛있는지를 정밀하게 가리는 대회를 열어놓고, 그 우승자를 “한국 요리 전반의 우수성”을 입증하는 증거로 내세우는 셈이다. 라면집 순위 매기기 자체는 나름대로 유의미한 작업일 수 있지만, 그 결과가 갑자기 “한국 요리”라는 훨씬 큰 구성개념에 대한 주장으로 도약하는 순간 논리가 끊어진다. Wagstaff가 지적한 Iris·버섯 분류기도 마찬가지다 — 그 분류기 자체는 잘 만들어졌을 수 있어도, 그것이 “기계학습이 자연과학 전반에 실질적으로 기여하고 있다”는 주장의 증거가 되지는 않는다.

ImageNet의 클래스 구성 역시 특정 견종부터 “뉴질랜드 해변” 같은 고차원적 개념까지, 마찬가지로 임의적으로 보인다. ImageNet의 라벨은 WordNet 온톨로지(Miller, 1995)의 12개 “하위트리” — 포유류(mammal), 조류(bird), 어류(fish), 파충류(reptile), 양서류(amphibian), 차량(vehicle), 가구(furniture), 악기(musical instrument), 지질구조(geological formation), 도구(tool), 꽃(flower), 과일(fruit) — 에서 파생됐다. 완전히 다른 분야에서, 완전히 다른 목적으로 개발된 영어권 WordNet 위계 구조가 ImageNet을 구축하는 데 거의 그대로(nearly wholecloth) 도입된 것이다. 특정 단어를 이미지 분류 과제에 포함시키는 것이 어떤 영향을 미칠지에 대한 고려는 거의 없었다. 이 소홀함의 결과는 Birhane & Prabhu(2021)와 Crawford & Paglen(2019)의 연구를 통해 구체적으로 드러났다 — 이들은 “person” 하위트리 안에 존재하는 다수의 경멸적·모욕적 카테고리를 밝혀냈다. ImageNet 창시자들이 실제로 논의한 카테고리 관련 주요 고려사항은, 이전에 확립된 PASCAL 벤치마크의 카테고리와의 일관성을 유지하기 위한 것에 그쳤다.

GLUE의 하위 과제도 이보다 크게 나을 것이 없다. GLUE는 애초에 “일반화 가능한 NLU 시스템의 개발을 촉진한다”는 목표를 내건 스위트(suite)로 설계됐다 — 언어 지식을 사용해 언어 입력을 이해할 수 있는 시스템이라면 여러 과제에 걸쳐서도 그럴 수 있어야 한다는 발상을 구현한 것이다. 앞서 본 것처럼 그 안에 포함된 과제는 NLP 커뮤니티에 대한 비공식 설문에서 나온 30개 제안을 좇은 것일 뿐이라, 결국 그 시점 NLP 연구자들이 흥미롭다고 느낀 문제들의 컬렉션만을 정말로 대표한다.

4.2 탈맥락화된 데이터와 성능 보고

“매우 매우 가벼운 것들의 방”에서 그로버는 커다란 바위를 발견하고 이렇게 선언한다 — “뭔가 실수가 있었나 봐! 이 큰 바위는 가볍지 않아.” 그리고는 그 바위를 “매우 매우 무거운 것들의 방”으로 옮기기로 한다. 그런데 이 판단은 결국 상대적이다 — 그 바위는 뒤의 방에 있는 트레일러 트럭보다는 훨씬 덜 무겁고, 그 비교 속에서는 오히려 가볍다고 볼 수도 있다. 박물관의 그 무엇도 중립적으로 결정된 것이 없다.

이 절에서 논문은 연구자들이 벤치마크를 잘못 “범용”이라고 구성하게 되는 또 하나의 특징 — 즉 구성 과제·데이터셋의 탈맥락화(decontextualization) — 를 살핀다. 중립적인 데이터셋은 없고, 벤치마크가 우리에게 말해줄 수 있는 것에는 본질적인 한계가 있다 — 데이터 벤치마크는 닫혀 있고 본질적으로 주관적이며 국지적인 구성물이다. 오히려 일반성에 대한 주장은 이 벤치마크를 개발하는 이들이 이런 한계를 상세히 보고해야 할 책임을 회피하도록 돕는 방패로 작용하는 경우가 많다. 이 맥락 결여 문제의 일부는 데이터셋에 대한 적절한 문서화가 미비하다는 점, 그리고 데이터 작업 자체가 저평가된다는 점에서 비롯된다.

제한된 범위 (Limited Scope)

ImageNet 같은 대형 데이터셋조차 궁극적으로 닫힌 시스템이며, 비서구권 맥락 커버리지와 시간적 경계 모두에서 한계가 있다. Torralba & Efros(2011)는 같은 클래스라도 서로 다른 데이터셋에서 가져온 이미지들이 종종 구분 가능하다는 것을 보여준다 — 각 데이터셋이 실세계의 특정 부분을 담아내는 매우 구체적인 스타일을 체화하고 있다는 뜻이다. 자주 지적되는 ImageNet의 한계 하나는, 이미지 속 사물이 대체로 프레임 중앙에 위치한다는 것인데, 이는 자연 이미지가 실제로 어떻게 보이는지를 반영하지 못한다(Barbu et al., 2019). 게다가 이런 벤치마크의 규모를 늘리는 것이 많은 경우 실질적으로 실현 가능한지조차 불분명하다 — ImageNet 저자들 스스로 규모가 이미 얻을 수 있는 수작업 주석에 한계를 부과하고 있다고 언급했다. 이런 벤치마크를 더 크게 만드는 데는 상당히 실질적인 한계가 있을 가능성이 크다.

크기가 아니라 과제 다양성이라는 개념이 GLUE 저자들에 의해 상당히 자주 반복되는데, 이는 SentEval이나 decaNLP 같은 선행 벤치마크와의 주된 차별점으로 제시된다. 그러나 앞서 본 것처럼, “다양한 텍스트 장르, 데이터셋 크기, 난이도를 아우른다”는 표방된 열망에도 불구하고 인간의 언어 활동에 비하면 GLUE의 과제는 거의 다양하지 않다. SuperGLUE 개발 과정에서 저자들 스스로 인정한 대로 “GLUE의 과제 형식은 문장·문장쌍 분류에 국한된다”.

벤치마크의 주관성 (Benchmark Subjectivity)

모든 데이터셋에는 내재된 관점이 담긴다. 범용 능력을 평가하도록 홍보되는 데이터셋을 완전히 중립적인 과학적 산물로 제시하는 것은 무책임한 일이다. ImageNet과 GLUE처럼 범용 능력 평가를 위해 홍보되는 벤치마크에서, 정치성은 폭넓은 관련성이라는 주장을 유지하기 위해 논의되지 않은 채 감춰지는 경우가 많다. 그러나 인정되지 않은 맥락이 존재한다는 사실을 부정한다고 해서 그것이 사라지지는 않는다. 실제로 이 왜곡된 데이터 렌즈는 임의적인 방식으로 제한되기보다는, 데이터를 스스로 정의할 권력이 없는 특정 집단에게 피해를 주는 방식으로 제한되는 경우가 많다. 예컨대 트랜스젠더·젠더 비순응 정체성, 비백인·비서구권 인종 정체성을 지닌 사람들은 주류 얼굴 데이터셋에서 과소대표되어 있고, MIT Tiny Images나 ImageNet처럼 크고 일반적으로 쓰이는 데이터셋에서조차 이런 공동체 구성원의 이미지가 인종적·민족적 멸칭으로 태깅되는 사례가 있었다.

GLUE와 SuperGLUE는 추상적인 “언어” 일반이 아니라 하나의 특정 언어(영어)를 대상으로 한다. 주석 인공물(annotation artifacts)이 존재하는 상황에서 이 매우 구체적인 미국 영어 텍스트 부분집합은 본질적으로 주관적인 결과를 낳는다.

ImageNet 창시자들은 이미지 쿼리를 중국어·스페인어·네덜란드어·이탈리아어 등 다른 언어로 번역해 최종 영어 라벨 카테고리를 위한 대표 이미지를 소싱함으로써 데이터셋을 다양화하려는 시도를 했다. 그러나 2011년 버전에 대한 국가별 지리위치 데이터를 분석한 결과, 이미지의 45%가 미국에서, 60% 이상이 북미·유럽의 소수 서구권 국가에서 소싱된 것으로 나타났다. 반면 세계에서 가장 인구가 많은 국가인 중국과 인도의 이미지는 각각 1%와 1.2%에 불과했다. 이런 지리적 다양성의 결여는 형편없는 데이터셋 대표성으로 나타나고, 데이터셋은 특정 지배적 문화 맥락에 시각적으로 고착된다. de Vries et al.(2019)은 만약 영어 대신 힌디어 온라인 이미지 쿼리 결과로 ImageNet을 개발했다면, 결과물이 완전히 다르게 보였을 것이라는 점을 발견했다 — “결혼식(wedding)”처럼 사회적으로 정의된 개념뿐 아니라 “향신료(spice)” 같은 일상적 사물조차 전혀 다른 시각적 표상을 담게 됐을 것이다.

4.3 부적절한 커뮤니티 사용

그로버가 박물관에 도착했을 때, 그는 “이 세상 모든 것”을 담고 있다는 주장에 흥분하고 영감을 받았다 — 그러나 일단 안으로 들어가자, 그의 관심은 박물관이 의식적으로 포함하기로 선택한 대상들에게만 재조준된다. 애초에 그를 이끈 것이 보편성(generality)에 대한 추구였음에도, 실제로 그의 주의를 사로잡는 것은 의식적으로 포함된 대상들의 부분집합뿐이다. 개별 데이터셋 창시자와 커뮤니티가 벤치마크 데이터셋의 일반성을 과장할 때, 그들은 그것을 분야 전체가 목표로 삼아야 할 표적의 지위로 격상시킨다. 이 벤치마크 집중은 연구자들이 그 데이터셋으로 측정되는 알고리즘적 개선을 무비판적으로 좇는 함정에 빠지는 지점까지 확대될 수 있고, 그 과정에서 실세계와의 성능 불일치나 더 적절한 문제 정식화의 가능성을 놓칠 수 있다.

경쟁 테스트의 한계

“최고 성능(SOTA)”을 좇는 것은 가설 기반의 과학적 탐구보다는 경험적·점진적 작업에 초점을 맞춘, 과학을 하는 아주 독특한 방식이다. 1995년 Lorenza Saitta는 벤치마크 경쟁을 두고 “기존 지도학습 알고리즘의 작은 변주를 제안하고 비교 연구에서 작지만 유의한 점진적 성능 향상을 보고하는 지루한 논문의 발표를 허용한다”고 비판했다. Thomas & Uminsky는 한 걸음 더 나아가 지표 추종을 윤리적 문제로까지 제시하며 “지표를 과도하게 강조하는 것은 조작(manipulation), 게이밍, 단기 목표에 대한 근시안적 집중, 그리고 다른 예상치 못한 부작용으로 이어진다”고 말한다.

Kiri Wagstaff는 여러 “범용” 벤치마크와 리더보드가 쓰는 집계 성능 평가 형식이 갖는 내재적 결함을 지적한다.

“붓꽃(Iris) 분류에서 80% 정확도는 식물학 세계에서는 충분할 수 있지만, 섭취하려는 버섯이 독인지 식용인지 분류하는 데는 아마 99%(또는 그 이상)의 정확도가 요구될 것이다. 교차 도메인 비교 가능성이라는 가정은 같은 범위를 갖지만 같은 의미를 갖지는 않는 지표를 적용함으로써 만들어진 신기루다. 실험 스위트는 흔히 모든 데이터셋에 걸친 평균 정확도로 요약된다. 이는 일반화나 영향력에 관해 유용한 것을 전혀 말해주지 않는다 — x% 개선의 의미가 서로 다른 데이터셋(또는 클래스)마다 매우 다를 수 있기 때문이다.” (Wagstaff, 2012, p.3)

Wagstaff는 여기서 과제가 단지 형편없이 정식화됐을 뿐 아니라, 그 결과를 의미 있게 해석하기 어렵게 만드는 방식으로 부적절하게 측정되고 있다는 사실을 지적한다. 이런 문제에도 불구하고 GLUE와 ImageNet의 저자들 모두 자신의 벤치마크 데이터셋을 설계된 경쟁 환경 안에 배치한다. GLUE 저자들은 “리더보드와 오류 분석 툴킷”을 차별화 요소로 인용하고, ImageNet 저자들은 “연례 경쟁과 그에 딸린 워크숍”이라는 형식을 상세히 소개한다.

분야 초점의 재조정

벤치마크는 언제나 역사적으로 영향력이 있었고, 특정 연구 주제에 대한 관심을 유인하기 위해 의도적으로 만들어지는 경우가 많다. NIST는 후원 기관(국방부)이 관심 갖는 기술에 대한 연구 참여를 장려하기 위해 1993년부터 1998년까지 FERET 얼굴 인식 챌린지에 650만 달러 넘게 투자했다. Netflix Prize는 2006년부터 2009년까지 운영됐는데, 온라인 DVD 대여·비디오 스트리밍 서비스인 Netflix가 영화 추천 자동화 알고리즘의 품질을 개선하는 협업 필터링 알고리즘 개발 혁신을 이끌기 위해 시작했다.

그런데 이런 대회들과 “범용” 벤치마크라고 제시되는 대회들 사이에는 뚜렷한 차이가 있다. 즉 2005~2012년 운영된 PASCAL VOC 챌린지, 2010~2017년 매년 열린 ImageNet Large Scale Visual Recognition Challenge(ILSVRC), 2018년부터 이어지는 GLUE/SuperGLUE 리더보드다. “범용” 벤치마크가 관여된 대회의 초점은 실제 응용에서 훨씬 더 유리돼 있고, 과제는 더 막연하게 정의된다. 그 결과 이런 대회들은 다양한 관련 하위 분야에 걸친 성공의 중요한 지표로 해석되고, 그 대회가 알고리즘 성능의 궁극적 쇼케이스를 대표하는 것으로 격상됨에 따라 인기도 그에 맞춰 커진다.

벤치마크는 또한 지배적인 알고리즘 접근법의 성격에도 영향을 준다. 1960년대 체스는 AI 커뮤니티가 게임 성능 향상에 가장 효과적이었던 깊은 트리 탐색과 미니맥스 알고리즘에 지나치게 집중하도록 만들었다. 이 두 방법이 당시 알고리즘 개발을 지배하게 되면서 대안적 문제와 접근법이 방치되는 결과를 낳았다. Dotan & Milli(2020)는 ML의 알고리즘 개발 추세가 특정 벤치마크의 성능에 얼마나 좌우되는지, 그리고 이런 추세가 분야 전체의 연구 프로그램에 어떻게 파급되는지를 보여준다. “범용” 벤치마크는 특히 자원 집약적인 모델을 자극하는 경향이 있다 — 모델이 소비할 매우 큰 학습 세트를 제시함으로써, 그리고 (학습 세트와 그에 따른 모델의) 크기를 일반성과 등치시킴으로써 그렇게 한다. 현재의 딥러닝 흐름은 ImageNet 없이는 가능하지 않았을 것이다. 마찬가지로 언어 모델 개발의 돌파구였던 BERT의 성공도 처음에는 GLUE를 통해 효과적으로 입증됐다.

실제 맥락 밖 정당화 또는 안전하지 않은 응용

범용 벤치마크는 상업용 ML 제품의 마케팅 문구에도 등장하는데, 벤치마크 성능이 실세계 기술적 성취의 증거로 제시된다. 벤치마크의 의미가 가장 심하게 왜곡되는 지점이 바로 이 맥락이다 — 벤치마크 성능이 단지 알고리즘 선택을 위한 도구가 아니라, 배포 환경에서 기대되는 모델 성취의 신뢰할 만한 지표로 제시될 때다. 예를 들어 2021년 1월 Microsoft는 “DeBERTa가 SuperGLUE에서 인간 성능을 넘어선 것은 범용 AI를 향한 중요한 이정표를 표시한다”고 주장했다. ImageNet 역시 상업적 모델 성공의 지표로 격상되어 있는데, 그 정도가 심해 Baidu가 마케팅용 제품 성능 주장을 부풀리기 위해 이 벤치마크에서 부정 행위를 저지른 사례도 있다.

소수 하위그룹에 대한 낮은 성능은 집계되고 탈맥락화된 “범용” 벤치마크에서 배포를 정당화하는 근거로 감춰질 수 있다. 얼굴 인식 분야의 배포된 상업 제품 사례(Buolamwini & Gebru, 2018)에서 이미 확인된 것처럼, 불균형한 대표성은 특정 집단에 대한 성능에 영향을 미치지만, 이런 불균형한 성능은 흔히 알고 보면 편향된 벤치마크에서 집계 성능 지표 안에 감춰져 있는 경우가 많다.

대안 — 벤치마킹 대신, 혹은 벤치마킹과 함께 무엇을 할 것인가

“benchmark”라는 용어의 어원을 짚어두면 이 절의 처방이 더 선명해진다. 이 단어는 원래 건물에 부착된 표식을 가리켰다 — 측량(surveying) 과정에서 레벨링 로드(leveling rod)를 놓을 수평면을 만드는 도구인 서베이어의 벤치(surveyor’s bench)의 위치를 표시하는 표식이다. 이 어원은 오늘날의 쓰임과 대조적이다. 측량사는 어떤 특정 경로를 따라 얼마나 멀리 갔는지를 재는 사람이 아니다. 대신 지형(landscape)의 모양을 이해하고 그것이 시간에 따라 어떻게 바뀌었는지를 파악하는 사람이다(Kahmen & Faig, 1988). 즉 벤치마크라는 단어의 원래 의미는 “경쟁에서 1등을 가리는 표식”이 아니라 “지형을 이해하기 위한 고정된 참조점”이었다. 저자들이 이 절에서 제안하는 대안들은 결국 이 원래 의미로 돌아가자는 것이다.

지금까지의 절이 “범용” 벤치마크가 진전의 효과적인 척도로 기능하지 못하는 방식을 살펴봤다면, 저자들은 이제 묻는다 — 그렇다면 대신 무엇을 할 수 있는가? 이것은 현재의 “범용” 벤치마크를 “고치거나”, “개선하거나”, “확장”하는 문제가 아니다 — “이 세상 모든 것의 박물관”이 안고 있는 문제에 대한 해법이 방을 더 추가하는 것은 아니기 때문이다. 데이터 벤치마크를 맥락·범위·특정성으로부터 독립적으로 존재할 수 있는 것처럼 제시하는 것 자체가 ML 평가에 있어 그릇된 전제다.

저자들은 두 갈래의 방향을 제시한다. 첫째, 벤치마크는 원래 의도된 대로 — 구체적이고 범위가 명확하며 맥락화된 과제를 평가하는 도구로 — 개발되고 제시되고 이해돼야 한다. 둘째, 더 넓은 모델 목표·행동·능력을 캐묻고자 할 때는, 벤치마킹의 대안으로 다음과 같은 평가 기법들을 탐색해야 한다.

대안 기법 방식 무엇을 드러내는가
테스트슈트·감사·적대적 테스트 더 큰 데이터셋에서 표집하는 대신, 시험 항목의 공간을 명시적으로 지도화하도록 테스트 세트를 설계 시스템이 어떤 유형의 항목을 다루고 다루지 못하는지
시스템 출력 분석(오류 분석·비집계 분석·반사실 분석) 시스템 출력을 세부적으로 들여다봄 집계 지표만으로는 드러나지 않는 실패 패턴, 하위그룹별 불균형 성능
어블레이션(ablation) 테스트 시스템 구성 요소를 하나씩 제거하며 기여도를 격리 어떤 구성 요소가 실제로 성능에 기여하는지
모델 속성 분석 출력과 직교하는 속성(에너지 소비, 메모리 요구량, 학습 데이터 섭동에 대한 안정성 등)을 분석 모델의 실용적 배포 적합성

이 대안들의 공통점은 하나의 스칼라 순위를 만드는 것이 목적이 아니라는 점이다. 시스템 출력 분석의 결과는 대체로 풍부하고 세밀하며 빠른 시스템 간 비교에 적합하지 않은데, 저자들은 이것이 버그가 아니라 특징이라고 본다 — 목표는 어느 한 시스템에 승자의 관을 씌우는 것이 아니라, 시스템 설계의 어떤 측면이 문제 공간의 어떤 측면에 대응하는지를 이해해 다음 시스템 개발 단계에 정보를 주는 것이기 때문이다.

각 대안을 조금 더 풀어보자.

테스트슈트·감사·적대적 테스트 — 항목 유형을 지도화하기

전형적인 벤치마크 평가 데이터셋은 (학습·테스트 분할 등을 통해) 더 큰 데이터셋에서 표집되므로, 테스트 데이터 안의 항목 유형 분포는 그 원본 데이터셋의 분포에 그대로 종속된다. 반면 테스트슈트(testsuite)와 감사(audit)는 항목 유형의 공간 일부를 명시적으로 지도화하도록 테스트 세트를 설계하고, 시스템이 그 유형들을 얼마나 다루는지로 평가한다. 테스트슈트 기반 접근은 NLP에서 긴 역사를 갖고 있으며(Lehmann et al., 1996), CheckList(Ribeiro et al., 2020) 같은 최근 연구도 이 계보를 잇는다. 흥미롭게도 논문은 벤치마크가 테스트슈트를 포함하지 않는 경향에 대한 주목할 만한 예외로 GLUE를 든다 — GLUE는 영어의 다양한 언어적 구성을 지도화하는 테스트슈트를 구성 요소 중 하나로 포함하고 있다.

감사에 더 가까운 접근으로는 Buolamwini & Gebru(2018)가 예시로, 민감한 카테고리들에 걸쳐 균형 잡힌 테스트 세트를 만들어 카테고리 간 차등 성능을 시험할 수 있게 하는 방식이 있다. 반면 적대적 테스트(adversarial testing)는 시스템이 한쪽 예시에서는 성공하고 최소한으로만 다른 짝(pair) 예시에서는 실패하는, 최소 대조쌍(minimally contrasting pair)을 찾아 시스템 역량의 경계를 탐색한다(Ettinger et al., 2017). 여기에는 Niven & Kao(2019)의 연구처럼, 시스템이 벤치마크를 “속이기” 위해 활용하는 표층 단서(spurious cue)를 발견하고 그 단서를 무력화한 대안 버전의 테스트셋을 만드는 작업도 포함된다 — #4에서 다룬 Pacchiardi et al.의 n-gram 실험이 정확히 이 계보의 후속 연구다. 이 세 접근의 공통점은 시스템이 벤치마크를 “풀었다”는 것을 보여주는 게 목적이 아니라, 문제 공간의 어떤 부분이 여전히 도전적이고 배포 환경에서 실질적 한계로 남는지 진단하는 것이 목적이라는 점이다.

시스템 출력 분석 — 집계 뒤에 숨은 것을 들여다보기

시스템 출력을 세부적으로 들여다보는 방법에는 세 갈래가 있다. 오류 분석(error analysis)은 시스템 오류를 기계적으로(예: 라벨링 과제에서 혼동 행렬(confusion matrix)을 만드는 것 — 사람의 음성 지각 연구(Miller & Nicely, 1955)나 정답을 알 수 없을 때 의료 진단을 비교하던 더 오래된 연구까지 거슬러 올라가는 오래된 기법이다) 또는 수작업으로 분석한다. 더 정교한 오류 분석은 자동으로 측정하기 어려운 패턴을 파고든다 — 감성 분석 시스템이 반어법(sarcasm)에 자주 걸려 넘어진다거나, 기계 번역 시스템이 부정문(negation)이 있는 예시에서 자주 실패한다는 것을 찾아내는 식이다. 중요한 것은 이런 오류가 지표에는 큰 영향을 주지 않을 수 있다는 점이다 — 예컨대 BLEU를 비롯한 MT 지표들은 부정 오류가 만드는 의미 손실을 잘 포착하지 못한다는 것이 알려져 있다(Hossain et al., 2020).

비집계 분석(disaggregated analysis)은 집계 지표만으로는 보이지 않는 불균등한 성능 패턴을 드러낼 수 있다. Buolamwini & Gebru(2018)의 획기적인 얼굴 분석 시스템 감사가 이 방법을 활용해, 성별과 Fitzpatrick 피부 유형으로 정의된 단일·교차 하위그룹에 걸친 성능을 평가했고 — 어두운 피부의 여성 피험자가 가장 높은 오류율을 겪는다는, 집계 성능 지표만으로는 드러나지 않던 심각한 격차를 발견했다. 이 방법은 이후 다양한 감사·평가 연구에 채택됐고 표준화된 모델 보고 프레임워크(Mitchell et al., 2019의 모델 카드)에도 통합됐다.

반사실 분석(counterfactual analysis)은 최근 인기가 높아진 또 다른 기법으로, 입력의 반사실적 변화에 모델 출력이 어떻게 반응하는지를 평가한다. 민감한 정체성 집단에 대한 참조만 다른 쌍(paired input)으로 NLP 시스템 성능을 비교하는 공정성 지향 분석에 이 방법이 활용되며(Garg et al., 2019; Hutchinson et al., 2020), 작은 분포 변화에 대한 모델 강건성을 평가하는 데도 쓰인다(Christensen & Connault, 2019). 세 방법 모두 결과가 풍부하고 세밀한 만큼 시스템 간 빠른 비교에는 적합하지 않지만, 저자들은 이를 결함이 아니라 특징으로 본다 — 목표가 승자를 가리는 것이 아니라 시스템 설계가 문제 공간의 어떤 부분에 대응하는지 이해하는 것이기 때문이다.

어블레이션 테스트와 모델 속성 분석

어블레이션(ablation) 테스트는 생물학 연구와의 유비로 Newell(1975)이 이름 붙인 기법으로, 시스템 구성 요소를 하나씩 제거하며 수정된 시스템을 평가해 각 구성 요소의 기여를 격리한다. 딥러닝 이전 통계적 NLP 시기에는 서로 다른 특징(feature) 집합에 흔히 적용됐고, 도메인 내·도메인 외 학습 데이터의 효과나 시스템 아키텍처 구성 요소를 완전히 무력화하지 않는 선에서 제거해볼 때도 쓰인다. Heinzerling(2019)은 Niven & Kao(2019)에서 영감을 받아, 이런 어블레이션을 테스트 데이터에도 적용해 시스템이 어떤 단서에 의존하고 있는지 조사할 것을 제안한다.

마지막으로, 출력 자체와는 직교(orthogonal)한 모델 속성을 분석하는 기법들이 있다 — 에너지 소비를 프로파일링하거나(Henderson et al., 2020; Schwartz et al., 2020의 “Green AI”), 메모리 요구량을 측정하거나(Ethayarajh & Jurafsky, 2020), 학습 데이터에 대한 섭동(perturbation)에 얼마나 안정적인지를 확인하는(Sculley et al., 2018) 것이 그 예다. 이런 속성들은 정확도 순위표에는 전혀 등장하지 않지만, 실제 배포 결정에서는 정확도만큼이나 중요한 정보다.

Experiments — 오늘의 LLM 벤치마크에 이 논지를 대입하면

이 논문은 실험 논문이 아니라 논증 논문이다. 그래서 이 절에서는 논문의 수치 대신, 논문의 논증 구조를 오늘의 LLM 벤치마크에 직접 대입해본다. Raji et al.이 GLUE·ImageNet에 던진 것과 똑같은 질문 — “이 하위 과제들은 어떻게 선택됐는가”, “그 선택에 이론적 근거가 있는가”, “규모나 다양성이라는 수사가 실제로 무엇을 보증하는가” — 를 2020년대 LLM 벤치마크 두 개에 그대로 던져본다.

한 가지 짚어둘 것이 있다. Raji et al. (2021)은 MMLU나 BIG-bench를 논문 안에서 직접 다루지 않는다 — MMLU는 이 논문과 거의 같은 시기(2021년 초)에 막 등장했고, BIG-bench는 이 논문이 발표된 뒤(2022년)에야 나왔다. 아래는 이 논문이 GLUE·ImageNet에 적용한 논증 구조를 필자가 오늘의 LLM 벤치마크에 직접 적용해보는 것이지, 논문 원문이 내놓은 주장이 아니다.

MMLU — “매시브 멀티태스크”라는 이름이 정당화되는가

MMLU(Massive Multitask Language Understanding, Hendrycks et al., 2021, ICLR 2021)는 “텍스트 모델의 멀티태스크 정확도를 측정하는 새로운 테스트”를 제안하며, 초등 수학·미국사·컴퓨터과학·법학 등을 포함한 57개 과제를 대상으로 한다고 abstract에서 밝힌다. 그런데 이 abstract를 포함해 논문 어디에서도, 왜 정확히 이 57개 과목의 조합이 “매시브 멀티태스크”라는 이름에 걸맞은 대표 표본인지에 대한 근거는 제시되지 않는다. 어떤 이론적 틀에서 57이라는 숫자가 나왔는지, 이 57개가 인간 지식 영역 전체에서 체계적으로 표집된 것인지, 아니면 접근 가능한 시험 자료를 손에 잡히는 대로 모은 것인지 — 이 질문에 답할 자료를 abstract는 주지 않는다.

이것이 정확히 Raji et al.이 GLUE의 30개 제안 → 8~9개 과제 선정 과정에 던진 것과 같은 질문이다. GLUE의 과제 선정이 “비공식 설문”과 “라이선스 문제·복잡한 포맷·개선 여지 부족” 같은 실무적 휴리스틱으로 걸러졌듯이, MMLU의 57개 과목 역시 (그 각각이 실재하는 시험 문제에서 왔다는 점에서 개별 항목의 품질은 GLUE 과제들보다 오히려 검증되기 쉬울 수 있지만) “왜 이 조합인가”라는 상위 질문에는 논문 스스로 답하지 않는다. #1의 용어로 옮기면, “지식과 추론”이라는 구성개념이 있고 57개 과목이 조작적 정의인데, 그 사이의 다리 — 이 57개가 그 구성개념을 대표하는 표본이라는 근거 — 가 논문에 없다. 이것이 곧 구성개념 부족이다. MMLU가 인기 LLM 벤치마크로 자리 잡으며 “지식이 많다”, “일반 지식과 추론에 뛰어나다”는 주장의 근거로 쓰이는 과정은, GLUE가 “8~9개 과제 성능”에서 “범용 언어 이해”로 주장이 확장되던 과정과 구조적으로 같다. 이 벤치마크가 실제로 어떻게 진화하고 어디서 흔들렸는지는 #10에서 자세히 다룬다.

BIG-bench — 크라우드소싱된 204개 과제는 무엇의 표본인가

BIG-bench(Beyond the Imitation Game Benchmark, Srivastava et al., 2022~2023)는 정반대 방향에서 같은 문제에 부딪힌다. MMLU가 소수 저자가 57개 과목을 고른 경우라면, BIG-bench는 132개 기관 소속의 400명이 넘는 저자가 기여한 204개 태스크를 하나의 벤치마크로 묶는다. 과제 다양성의 극단적인 형태다 — 언어유희부터 사회적 편향, 물리적 추론, 코드 생성까지, 상상할 수 있는 거의 모든 종류의 과제가 포함된다.

그런데 이 방대함 자체가 질문을 피해가지 못한다. 크라우드소싱으로 200개가 넘는 과제를 모았다는 사실이, 그 집합이 “언어 모델의 능력 전반”을 대표한다는 것을 보증하지는 않는다. 오히려 정반대다 — 각 기여자가 독립적으로 자신이 흥미롭다고 생각한 과제를 제출한 결과물이라면, 그 총합은 “능력이라는 구성개념을 체계적으로 커버하도록 설계된 표본”이 아니라 “여러 사람의 관심사가 우연히 겹친 잡동사니”에 가까울 수 있다. 이것은 정확히 논문이 UCI Repository를 두고 지적한 문제의 확대판이다 — Iris·Adult·Wine·Breast Cancer가 “당장 손에 있던 것들의 집합”이었다면, BIG-bench의 204개 과제는 “당장 기여하고 싶어 한 사람들이 제출한 것들의 집합”이다. 규모(204개, 400명 이상, 132개 기관)라는 숫자 자체는 인상적이지만, Raji et al.의 논지에 따르면 그 규모가 “이 벤치마크는 언어 모델의 일반 능력을 잰다”는 주장을 자동으로 정당화하지는 않는다 — ImageNet의 카테고리 수가 20배 많다고 해서 “일반 시각 지능”을 잰다는 주장이 자동으로 성립하지 않았던 것과 같은 이유다. 실제로 이후 BIG-bench에서 성능이 급격히 향상되거나 정체되는 태스크의 하위 집합(BIG-bench Hard 등)에 대한 후속 분석이 필요했다는 사실 자체가, 204개라는 원래 집합의 이질성과 대표성 불확실성을 방증한다. 이 벤치마크가 이후 어떻게 재구성되고 좁혀졌는지는 #10에서 이어 다룬다.

두 사례가 공유하는 패턴

항목 GLUE (2019) MMLU (2021) BIG-bench (2022)
일반성 주장의 근거 과제 다양성 과목 수(57개)·시험 난이도 과제 수(204개)·기여자 다양성
과제 선정 절차 비공식 설문 30개 제안 → 실무 휴리스틱으로 8~9개로 축소 논문에 선정 근거 미기재 크라우드소싱 공모
“왜 이 조합인가”에 대한 답 없음 없음 없음
Raji et al.의 진단 구성개념 부족 — 표본이 구성개념의 극히 일부만 대표 동일 동일(단, 표본 크기가 문제를 가릴 뿐 해소하지 않음)

세 벤치마크 모두 “많다”는 사실(과제가 많다, 과목이 많다, 기여자가 많다)을 “대표한다”는 주장의 근거로 슬쩍 치환한다. 그런데 많음과 대표성은 논리적으로 독립이다. 100개의 편향된 표본을 모아도 편향은 사라지지 않고, 오히려 그 편향이 더 안정적으로(=신뢰도 높게) 재생산될 뿐이다 — #1이 짚은 “신뢰도 높고 타당도 낮음”이 가장 위험한 칸이라는 지적이 여기서도 그대로 적용된다.

처방을 대입하면 — MMLU·BIG-bench가 선언해야 할 한 줄

Raji et al.의 처방은 “벤치마크를 원래 의도된 범위 안에서 이해하라”는 것이었다. 이를 MMLU와 BIG-bench에 그대로 적용하면, 두 벤치마크가 스스로 선언해야 할 문장은 이렇게 달라진다.

벤치마크 현재의 암묵적 주장 선언했어야 할 범위
MMLU “매시브 멀티태스크 언어 이해” — 지식과 추론 전반을 잰다 공개적으로 구할 수 있는 57개 시험 과목에서, 사전학습 시점 지식으로 답할 수 있는 객관식 문항에 대한 정확도
BIG-bench “이미테이션 게임을 넘어선(Beyond the Imitation Game)” 능력 전반 132개 기관 기여자들이 개별적으로 흥미롭다고 판단해 제출한 204개 과제 각각에 대한, 서로 비교 가능하지 않을 수 있는 성능 프로파일

왼쪽 열과 오른쪽 열의 간극이 정확히 이 논문이 말하는 구성 타당도 문제다. 오른쪽 열의 문장은 지루하고 겸손하지만 검증 가능하다 — “이 57개 과목에서의 정확도”라는 주장은 그 자체로 참인지 거짓인지 확인할 수 있다. 반면 왼쪽 열의 문장은 인상적이지만 검증 불가능하다 — “지식과 추론 전반”이 무엇을 가리키는지조차 합의가 없기 때문에, 어떤 점수를 대입해도 그 주장이 참인지 거짓인지 판별할 방법이 없다. 이 논문이 GLUE·ImageNet에서 발견한 것과 똑같은 간극이, 십수 년이 지난 오늘의 LLM 벤치마크에서도 똑같은 형태로 반복되고 있다.

핵심 개념 정리

이 논문에서 나온 개념들을 표 하나로 모아두면 이후 시리즈를 따라갈 때 참조하기 편하다.

개념 정의 이 글에서의 사례
Common Task Framework (CTF) 공개 데이터셋·참가자·채점 심판으로 구성된, 원래 좁고 실용적인 과제를 위한 비교 틀 1980년대 Jelinek·Wayne의 음성 인식·기계 번역용 CTF
구성 타당도 (construct validity) 실험 설정(벤치마크 데이터·지표)이 연구 주장을 얼마나 잘 대표하는가 GLUE 점수와 “범용 언어 이해” 주장 사이의 검증되지 않은 다리
구성개념 부족(#1 용어) 표본이 구성개념의 일부만 대표하는데 전체를 대표한다고 말함 GLUE 8~9개 과제가 “언어 이해” 전체를 대표한다는 주장
편의 표본(sample of convenience) 이론적 근거 없이 손에 잡히는 대로 모은 항목 집합 UCI Iris·Wine·Adult, ImageNet의 WordNet 12개 하위트리
탈맥락화(decontextualization) 데이터셋의 국지성·주관성을 감추고 중립적 산물처럼 제시 2011년판 ImageNet 이미지의 60% 이상이 서구권 소싱
결과의 부적절한 전유 벤치마크 성능이 실세계 배포·마케팅 근거로 부적절하게 쓰임 DeBERTa의 SuperGLUE 발표문, Baidu의 ImageNet 벤치마크 부정행위
벤치마킹 대안 스칼라 순위 대신 문제 공간을 진단하는 평가 방법들 테스트슈트·감사·적대적 테스트, 비집계·반사실 분석, 어블레이션

Conclusion

그로버와 박물관의 주장은 명백히 우스꽝스럽다 — 그런데 ML은 소수의 벤치마크를 그 분야의 범용 벤치마크로 격상시키기 위해 정확히 같은 논리적 오류를 따른다. 존재의 모든 세부사항을 담아낼 수 있는 데이터셋은 없으며, “이 세상 모든 것”의 전체 카탈로그를 담을 박물관이 있을 수 없는 것과 마찬가지다. 열린 세계의, 보편적이고 중립적인 데이터셋은 존재하지 않고, 현재의 벤치마킹 방법은 범용 능력에 대한 의미 있는 척도를 제공하지 못한다.

이 결론에서 중요한 것은 저자들이 멈추는 지점이다. 벤치마크의 효과적인 개발은 ML의 진전에 여전히 핵심적이지만, 벤치마크를 효과적으로 만드는 것은 “일반성”이라는 임의적이고 그릇된 주장의 힘이 아니라, 어떤 시스템이 왜 작동하고 왜 작동하지 않는지를 연구자로서 이해하게 해주는 정도에서 나온다. 적절하게 배치된 벤치마킹은 경쟁에서 이기는 것에 관한 것이 아니라 지형을 조사(survey)하는 것에 관한 것이다 — 이 데이터셋들을 더 많이 재프레이밍하고, 맥락화하고, 적절히 범위를 좁힐수록, 더 유의미한 알고리즘 개발과 대안적 평가 방법의 정보원으로서 그만큼 더 유용해진다.

그로버의 박물관과 오늘의 벤치마크 — 비유 대응표

이 논문 전체가 기대는 비유를 마지막으로 한 번에 정리해두자.

그로버의 박물관 오늘의 벤치마크
“이 세상 모든 것”이라는 박물관의 광고 문구 “범용 언어/시각 이해”라는 벤치마크의 자기소개
방마다 있는 임의적이고 유한한 전시물(“당근의 방”) 임의로 선택된 하위 과제·카테고리(GLUE 8~9개 과제, ImageNet의 WordNet 12개 하위트리)
“매우 매우 가벼운 것들의 방”에 놓인 큰 바위 — 트레일러 트럭 옆에서는 오히려 가볍다 서구권에 편중된 ImageNet 이미지 — 특정 맥락 안에서만 “대표적”이다
“그 밖의 모든 것” 문을 열면 그냥 바깥 세상이 나온다 벤치마크 점수를 아무리 개선해도 “범용 능력”이라는 목표 자체에는 닿지 못한다

표의 마지막 행이 이 논문의 결론을 가장 압축적으로 보여준다. 문을 열어도 “그 밖의 모든 것”은 나오지 않는다. 그저 바깥 세상, 즉 벤치마크가 애초에 담아내지 못했던 나머지 전부가 있을 뿐이다.

정리하면 이렇다.

  1. 논문의 핵심 진단: GLUE·ImageNet 같은 “범용” 벤치마크는 실제로는 특정 데이터·지표·관행의 유한한 조합일 뿐인데, 거기서 파생되는 주장은 그 범위를 훨씬 벗어난다. 이 격차의 이름이 구성 타당도 문제다.
  2. 왜 이런 일이 생기나: 원래 좁고 실용적인 과제(음성 인식·기계 번역)를 위해 설계된 Common Task Framework가 “일반 언어 이해”, “일반 시각 지능” 같은 무한히 넓은 목표에 부적절하게 확장 적용됐다.
  3. 구체적으로 어디가 임의적인가: GLUE의 8~9개 과제는 30개의 비공식 제안에서 실무적 휴리스틱으로 걸러졌고, ImageNet의 카테고리는 다른 목적으로 만들어진 WordNet 위계를 거의 그대로 가져왔다. 둘 다 “왜 이 조합인가”에 답하지 않는다.
  4. 처방: 벤치마크를 버리라는 것이 아니라, 주장의 범위를 벤치마크가 실제로 감당할 수 있는 만큼으로 선언하라는 것이다. 구체적이고 범위가 명확하며 맥락화된 과제 평가로 벤치마크를 되돌리고, 더 넓은 능력을 캐물으려면 테스트슈트·감사·적대적 테스트·오류 분석·어블레이션 같은 대안 평가 방법을 병행하라.

이 결론은 이 시리즈의 다음 두 편으로 곧장 이어진다. Bowman & Dahl(#3)은 “범위를 선언하라”는 이 처방을 네 가지 구체적 기준으로 형식화한다 — 벤치마크에서의 좋은 성능이 실제 도메인 내 강건한 성능을 함의해야 하고, 예시가 정확하게 주석돼야 하고, 충분한 통계적 검정력을 가져야 하고, 유해한 사회적 편향을 드러내야 한다는 것이다. 그리고 Bean et al.(#4)은 이 진단이 이론적 우려에 그치지 않는다는 것을 445편의 최상위 학회 벤치마크 논문을 직접 리뷰해 실증한다 — 구성개념을 명시하지 않은 벤치마크가 21.8%, 통계적 검정을 하지 않은 벤치마크가 84.0%라는 수치로, Raji et al.이 GLUE·ImageNet 두 사례에서 본 문제가 업계 전반의 표준 관행이라는 것을 보여준다.

참고 문헌

LLM 평가 체계 시리즈

이 글은 LLM 평가 체계 시리즈의 두 번째 글이다.

1부. 평가란 무엇인가

  1. 측정으로서의 평가 — 구성개념·조작화·타당도·신뢰도
  2. (현재 글) 범용 벤치마크라는 주장 — Raji et al. — 모든 것을 잰다는 말
  3. 벤치마킹을 고치려면 — Bowman & Dahl의 네 기준
  4. 벤치마크는 무엇을 재고 있나 — 벤치 445편 구성타당도 리뷰
  5. 표층 특징이 정답을 예측한다 — Clever Hans, 데이터셋 인공물

2부. 무엇을 숫자로 만드나 — 평가 metric

  1. 척도와 허용 연산 — Likert 평균을 내도 되는가
  2. 분류 지표 — accuracy의 함정부터 PR-AUC까지
  3. 생성 지표와 그 타당도 — BLEU에서 COMET까지
  4. 객관식 평가는 왜 흔들리나 — 위치 편향과 포맷 민감도

3부. LLM 벤치마크 지형도

  1. 지식과 추론 — MMLU 계열의 흥망 — MMLU·GPQA·BBH
  2. 검증 가능한 도메인 — 수학과 코드 — GSM8K·MATH·HumanEval·SWE-bench
  3. 개방형 대화 — MT-Bench에서 Arena까지 — judge 기반 벤치의 등장
  4. 능력의 다른 축 — 지시따르기·긴 문맥·사실성
  5. 한국어 벤치마크 — 번역이 아니라 원산, 그리고 문화 타당도
  6. 점수 하나가 아니라 행렬로 — HELM — 시나리오 × 지표

4부. 사람이 읽는다 — 정성평가와 일치도

  1. 사람 평가 설계 — 루브릭·Likert·pairwise·BWS
  2. 우연을 빼다 — κ 계열 — Cohen·Fleiss·weighted·Krippendorff
  3. κ의 역설 — 일치율 90%인데 κ가 0.21

5부. 차이는 진짜인가 — 정량평가의 통계

  1. 점수는 추정치다 — 이항비율 신뢰구간과 Wald의 실패
  2. 차이는 유의한가 — paired bootstrap·순열검정·McNemar
  3. 몇 개를 재야 하나 — 검정력·표본크기·다중비교
  4. LLM eval의 통계 실무 — 클러스터 SE·IQM·분산 분해

6부. 신뢰할 수 있는 평가 체계

  1. judge를 통계로 다루기 — 편향·Bradley-Terry·PPI
  2. 오염·재현성·효율 — 오염 검정·harness·IRT
  3. 안전 평가의 통계와 체계 설계 — 희귀사건·calibration·체크리스트

본 시리즈는 25편으로 구성된다.



Enjoy Reading This Article?

Here are some more articles you might like to read next:

  • 안전 평가의 통계와 체계 설계 — 희귀사건과 calibration, 스물한 편의 마지막 체크리스트
  • 오염·재현성·효율 — 이 점수는 무엇을 재고 있나
  • judge를 통계로 다루기 — 편향, Bradley-Terry, PPI
  • LLM eval의 통계 실무 — 클러스터 SE, 분산 분해, IQM
  • 몇 개를 재야 하나 — 검정력, 표본크기, 다중비교