Capability Overhang(능력 잉여)이란? AI가 숨기고 있는 잠재력의 정체

 

모델 안에 잠든 능력, 언제 어떻게 깨어날까?

 

요즘 AI 관련 아티클이나 리포트를 읽다 보면 낯선 영어 표현들이 유독 눈에 많이 띕니다. 그중에서도 최근 부쩍 자주 등장하는 단어가 바로 "Capability Overhang", 우리말로는 "능력 잉여"라고 번역되는 개념인데요. 오늘은 이 용어가 정확히 무슨 뜻이고, 왜 지금 AI 업계에서 이렇게 자주 언급되는지 차근차근 정리해보겠습니다.

반응형

 

Capability Overhang이란?

Capability Overhang을 가장 간단하게 정의하면 이렇습니다.

모델이 실제로 가지고 있는 잠재 능력과 현재 우리가 알고 활용하는 능력 사이의 격차

 

AI 모델의 숨겨진 잠재 능력 오버행 개념 일러스트

 

AI 모델을 훈련시키고 나면, 그 모델 안에는 아직 아무도 발견하지 못한 능력들이 잠들어 있을 수 있습니다. 개발사조차 자신들이 만든 모델이 정확히 어디까지 할 수 있는지 배포 시점에 다 파악하지 못하는 경우가 많거든요. 이렇게 "이미 존재하지만 아직 드러나지 않은" 능력의 총합을 overhang, 즉 잉여분이라고 부릅니다.

실제 사례로 이해하면 더 와닿습니다. GPT-3가 처음 공개됐을 때 사람들은 이를 단순한 텍스트 생성 도구 정도로 받아들였습니다. 하지만 시간이 지나면서;

• 프롬프트 엔지니어링 기법의 발전
• 체인오브소트(Chain-of-Thought) 추론 방식의 발견
• 파인튜닝과 RAG(검색 증강 생성)
• 도구 사용(tool use)과 에이전트형 워크플로우

같은 후속 기법들이 등장하며 "동일한 모델"에서 훨씬 더 많은 능력이 뒤늦게 발굴됐습니다. 모델 자체는 바뀌지 않았는데, 그 모델을 다루는 방법이 발전하면서 숨어있던 잠재력이 드러난 것이죠. 이것이 capability overhang의 전형적인 예시입니다.

 

AI가 숨기고 있는 잠재력, 왜 위험할 수도 있을까?

이 개념이 원래 처음 등장한 곳은 AI 안전(AI safety) 연구 분야입니다. 여기서 바라보는 관점은 다소 신중합니다.

모델을 세상에 내놓는 시점에 개발사가 "이 모델은 이런 것까지는 할 수 없다"고 판단해 배포했다고 해봅시다. 그런데 시간이 지나 누군가—선의를 가진 연구자든, 악의를 가진 행위자든—새로운 프롬프팅 기법이나 파인튜닝 방법을 발견해서 원래 알려지지 않았던 능력을 끌어낼 수 있습니다.

이게 왜 우려스러운 상황일까요?

1. 예측 불가능성 - 안전성 평가는 보통 배포 시점의 알려진 능력을 기준으로 이루어집니다. 그런데 숨겨진 능력이 나중에 발견되면, 애초의 안전성 평가 자체가 무의미해질 수 있습니다.
2. 오용 가능성 - 사이버 공격이나 위험한 지식 관련 능력이 나중에 "발굴"될 경우, 이미 널리 배포된 모델을 회수하기는 사실상 불가능합니다.
3. 거버넌스의 어려움 - 규제 기관 입장에서도 "지금 이 모델이 정확히 뭘 할 수 있는지"를 판단하기가 근본적으로 어려워집니다.

그래서 AI 정렬(alignment)과 안전 연구자들은 모델을 배포하기 전에 최대한 다양한 방식으로 "레드팀 테스트"를 하며 숨겨진 능력을 미리 찾아내려는 노력을 기울입니다. Capability overhang이 크다는 것은 그만큼 예측하지 못한 리스크가 잠재해 있다는 뜻이기도 하니까요.

AI 역량 오버행(Capability Overhang)과 레드팀 테스트의 위험성 평가 인포그래픽

 

산업 관점에서는 정반대의 의미 - '아직 다 못 쓴 기회'

흥미로운 점은, 같은 용어가 산업과 비즈니스 영역에서는 완전히 다른 뉘앙스로 쓰인다는 것입니다. 안전 담론에서는 "위험 요소"였다면, 산업 쪽에서는 오히려 "성장 기회"로 해석됩니다.

현재 업계에서 벌어지고 있는 현상을 보면 이해가 쉽습니다.

• 이미 존재하는 파운데이션 모델(foundation model) 하나를 가지고
• RAG, 파인튜닝, 에이전트 오케스트레이션, 도구 연동 등의 방식을 계속 새롭게 조합하면서
• 완전히 새로운 상업적 가치를 뽑아내는 스타트업과 제품들이 끊임없이 쏟아지고 있습니다.

즉, "지금 있는 모델의 능력을 우리가 아직 다 써먹지 못했다"는 인식 자체가 새로운 서비스 개발의 원동력이 되고 있는 셈입니다. 그래서 투자자나 업계 관계자들 사이에서도 이런 식의 표현을 자주 듣게 됩니다.

 

"지금 모델들의 capability overhang이 상당히 크다. 반드시 더 크고 새로운 모델을 만들지 않아도, 기존 모델을 더 잘 활용하는 방법만 찾아도 시장의 성장 여지가 충분하다."

 

실제로 최근 몇 년간 주목받은 수많은 AI 스타트업들이 자체 초거대 모델을 만든 게 아니라, 이미 공개된 모델의 활용법을 정교하게 설계해서 가치를 만들어냈다는 점을 떠올리면 이 관점이 훨씬 실감 나게 다가올 것입니다.

 

AI Capability Overhang 위험과 기회 비교 개념도

정리) 하나의 용어, 두 개의 시선

결국 Capability Overhang이라는 하나의 개념이 완전히 다른 두 시선으로 해석되고 있는 셈입니다.

관점	해석	핵심 태도
AI 안전	아직 발견되지 않은 위험한 능력	경계와 사전 점검이 필요
산업/비즈니스	아직 발굴되지 않은 상업적 기회	적극적으로 활용하고 발굴

같은 현상—"모델의 잠재력이 아직 다 드러나지 않았다"—을 두고 누구는 리스크로, 누구는 기회로 바라보고 있는 것이죠. 어느 쪽이 맞다기보다는, AI 기술이 그만큼 아직 완전히 파악되지 않은 영역이 많다는 방증이기도 합니다.

앞으로 새로운 초거대 모델이 나오지 않더라도, 지금 있는 모델들 안에서 얼마나 더 많은 것들이 발견될지—그리고 그것이 우리에게 기회가 될지 위협이 될지—꾸준히 지켜볼 필요가 있을 것 같습니다.

728x90

---

이 글은 AI 관련 용어를 이해하기 쉽게 정리한 콘텐츠이며, 특정 기업이나 모델에 대한 평가를 담고 있지 않습니다.

 

함께 읽으면 좋은 글

젠슨 황이 말한 '토큰 이코노미', 지능이 돈이 되는 세상이 왔다