10~15% 성능 향상, 66% 토큰 절감 — 프롬프트를 줄여라.

GPT-5.6이 뒤집은 "프롬프트는 길고 자세할수록 좋다"는 통념

핵심 요약

• OpenAI 내부 평가에서 길고 명시적인 시스템 프롬프트를 최소한의 프롬프트로 교체했더니 점수가 약 10~15% 향상되면서 총 토큰은 41~66%, 비용은 33~67% 줄었다. (출처: OpenAI Model Guidance, 2026)
• 무거운 프롬프트는 모델의 불필요한 탐색, 반복 검증, 컨텍스트 누적을 부추기는 경향이 있다는 것이 배경 설명이다.
• 하네스에 쌓여온 오래된 프롬프트 지시문 상당수는 이미 모델의 기본 동작이 되어, 모델이 자연스럽게 수행하지 않는 동작에만 집중하는 것이 가장 큰 이득을 만든다.
• 가이드는 작업을 안정적으로 완수하는 가장 작은 프롬프트와 도구 집합에서 시작하고, 평가에서 구체적인 격차가 드러날 때만 요소를 추가하라고 권장한다.

---

목차

1. 문제 제기 — 프롬프트는 자세할수록 좋다는 믿음
2. 10~15% 향상, 66% 절감의 정확한 수치
3. 왜 무거운 프롬프트가 오히려 손해인가
4. 최소 프롬프트로 시작하는 4가지 실행 지침
5. 도구 설명도 다이어트가 필요하다
6. 마치며

---

1. 문제 제기 — 프롬프트는 자세할수록 좋다는 믿음

프롬프트 엔지니어링을 배운 사람이라면
"구체적으로, 자세하게, 예시를 많이 넣어서" 지시하라는 조언을 자주 접했을 것이다.

이 조언 자체가 틀린 것은 아니지만,
시간이 지나며 하네스(harness)에 지시문이 계속 쌓여온 시스템이라면 이야기가 달라질 수 있다.

2026년 OpenAI가 공개한 GPT-5.6 공식 활용 가이드에서 가장 주목할 만한 부분이 바로 이 지점이다.

프롬프트의 양에 대해 분명한 방향 전환을 제시하고 있기 때문이다. 
이 글에서는 OpenAI Model Guidance, 2026에 따라 그 구체적인 수치와 실행 방법을 정리한다.

---

2. 10~15% 향상, 66% 절감의 정확한 수치

OpenAI가 공개한 내부 평가 결과는 다음과 같다.
"길고 명시적인 시스템 프롬프트를 최소한의 프롬프트로 교체했더니

• 점수가 약 10~15% 향상되면서도
• 총 토큰은 41~66%, 비용은 33~67% 줄었다."

지표	변화폭
성능 점수	약 10~15% 향상
총 토큰 사용량	41~66% 감소
비용	33~67% 감소

 

이 결과가 놀라운 이유는 성능과 비용이 보통 트레이드오프 관계에 있다고 여겨지기 때문이다.

프롬프트를 줄여서 비용을 아끼면 성능이 떨어질 것 같지만,
실제로는 성능이 오히려 향상됐다는 것이 핵심이다.

 

가이드는 그 원인도 명확히 짚었다.
"중복된 지시문과 예시를 제거하고
도구 설명을 단순화하는 것이
모델 특화 지침을 추가하는 것보다 더 확실한 효율 개선을 가져왔다."

---

3. 왜 무거운 프롬프트가 오히려 손해인가

이 결과의 배경을 이해하려면 무거운 프롬프트가 모델에 어떤 영향을 주는지 알아야 한다.
OpenAI 가이드에 따르면 무거운 프롬프트는

• 모델의 불필요한 탐색,
• 반복 검증,
• 컨텍스트 누적을 부추기는 경향이 있다

[무거운 프롬프트의 부작용 사슬]

긴 지시문 → 모델이 여러 지시 사이 우선순위 재확인
         → 불필요한 탐색 반복
         → 컨텍스트가 계속 누적
         → 토큰 사용량 증가 + 응답 지연

 

더 근본적인 이유도 제시됐다.
"시간이 지나면서 하네스에 쌓여온 오래된 프롬프트 지시문 상당수는
이미 모델의 기본 동작이 되었다"는 것이다.

 

즉, GPT-5.5 시절에는 명시적으로 지시해야 했던 동작이
GPT-5.6에서는 이미 기본값으로 자리 잡았는데도,
오래된 프롬프트에는 그 지시문이 여전히 남아 있어 불필요한 중복이 된다는 뜻이다.

 

그래서 가이드의 결론은
"모델이 자연스럽게 수행하지 않는 동작에만 집중하는 것이 가장 큰 이득을 만든다"는 것이다.

---

4. 최소 프롬프트로 시작하는 4가지 실행 지침

가이드가 제시하는 구체적인 실행 지침은 다음과 같다.

순서	실행 지침
1	작업을 안정적으로 완수하는 가장 작은 프롬프트와 도구 집합에서 시작
2	평가에서 구체적인 격차가 드러날 때만 지시문·도구·예시 추가
3	예시와 스타일 지침은 아껴서 사용, 제품 고유 요구사항에만 남김
4	시작 컨텍스트와 누적 컨텍스트를 모두 모니터링

 

이 표에서 가장 중요한 원칙은 순서다.

• 처음부터 완벽하게 상세한 프롬프트를 만들려고 하지 않고,
• 최소 상태에서 시작해 평가를 통해
• 실제로 필요한 부분만 추가해나가는 방식이다.

예시와 스타일 지침에 대해서는 더 구체적인 경고도 있다.
"프론트엔드, 포맷팅, 문체 지침은 제품 고유 요구사항에만 남기고,
모델이 따라 할 수 있는 반복 표현이나 'X가 아니라 Y' 패턴은 피한다"는 것이다.

 

"이렇게 하지 마라, 대신 이렇게 해라" 형식의 예시가
오히려 모델이 그 패턴 자체를 기계적으로 따라 하게 만들 수 있다는 의미다.

---

5. 도구 설명도 다이어트가 필요하다

프롬프트만이 아니라 도구(tool) 설명도 최소화 대상이다.
"작업과 관련된 도구만 노출하고, 도구 설명은 간결하고 정확하게 유지한다.

큰 도구 집합과 장황한 정의는
시작 컨텍스트를 늘리고 도구 선택의 일관성을 떨어뜨린다."

[나쁜 예 - 필요 이상의 도구 노출]
사용 가능한 도구: search, calculate, translate, 
                  summarize, format, validate, 
                  export, archive... (12개)
→ 실제 작업에는 search, calculate 2개만 필요

[좋은 예 - 작업 관련 도구만 노출]
사용 가능한 도구: search, calculate
→ 모델의 도구 선택 일관성 향상

 

시작 컨텍스트와 누적 컨텍스트를 모두 모니터링해야 한다는 지침도 이와 연결된다.
"무거운 프롬프트와 오래된 컨텍스트는 지연 시간과 비용을 늘리면서 불필요한 탐색과 반복 검증을 부추긴다"

 

실무 판단 기준:
기존 시스템 프롬프트가 있다면,
한 번에 전부 지우기보다 한 섹션씩 제거하며 평가 점수를 확인하는 방식이 안전하다.
제거했을 때 점수가 떨어지지 않는 지시문은
이미 모델의 기본 동작으로 흡수됐을 가능성이 크다.

---

FAQ

Q: 프롬프트를 줄이면 성능이 얼마나 향상되는가?
A: OpenAI 내부 평가에서 길고 명시적인 시스템 프롬프트를 최소 프롬프트로 교체했을 때 점수가 약 10~15% 향상됐다.
동시에 총 토큰은 41~66%, 비용은 33~67% 줄었다.

 

Q: 왜 프롬프트를 줄이는 것이 오히려 성능을 높이는가?
A: 무거운 프롬프트가 모델의 불필요한 탐색, 반복 검증, 컨텍스트 누적을 부추기기 때문이다.
또한 오래된 지시문 상당수가 이미 모델의 기본 동작이 되어 중복으로 작용한다.

 

Q: 최소 프롬프트로 시작하려면 어떤 순서로 접근해야 하는가?
A: 작업을 안정적으로 완수하는 가장 작은 프롬프트와 도구 집합에서 시작하고,
평가에서 구체적인 격차가 드러날 때만 지시문과 예시를 추가하는 순서를 권장한다.

 

Q: 도구 설명도 줄여야 하는 이유는 무엇인가?
A: 큰 도구 집합과 장황한 정의는 시작 컨텍스트를 늘리고 도구 선택의 일관성을 떨어뜨리기 때문이다.
작업과 관련된 도구만 노출하는 것이 권장된다.

---

마치며

"프롬프트는 자세할수록 좋다"는 통념이 GPT-5.6에서는 재검토가 필요하다.
10~15%의 성능 향상과 최대 66%의 토큰 절감이라는 수치는 우연이 아니라,
모델이 이미 흡수한 기본 동작 위에 쌓인 불필요한 지시문을 걷어낸 결과다.

 

지금 운영 중인 시스템 프롬프트가 있다면,
추가가 아니라 제거를 먼저 시도해보는 것이 GPT-5.6 시대의 새로운 접근법이다.

---

참고자료

• OpenAI Model Guidance 원문: https://developers.openai.com/docs/guides/model-guidance
• OpenAI skills 저장소: https://github.com/openai/skills