더 많은 말을 써야 AI가 더 잘 듣는다 — 지난 3년 동안 거의 모든 AI 사용자가 이렇게 배워 왔다. 인터넷에는 「프롬프트 엔지니어」라는 직책이 생겼고, 누군가는 「만 자짜리 프롬프트 템플릿」을 팔아 월 수천만 원을 벌었으며, 어떤 회사는 「프롬프트 잘 쓰는 법」을 사내 교육 과정에 포함시켰다.
2026년 7월 9일, OpenAI가 차세대 모델 GPT-5.6을 공개했다. 모델과 함께 올라온 개발자 가이드에는, 그동안 프롬프트를 다듬어 온 모든 사람의 등을 서늘하게 만드는 문장이 숨어 있었다. 내부 평가에서 길고 상세한 시스템 지시문을 간결한 버전으로 교체했더니, 모델 점수가 약 1015% 올랐고, 출력 분량은 4166% 감소했으며, 비용은 33~67% 줄었다.
소식은 Hacker News에서 폭발적인 반응을 일으켰다. 하루 만에 952개의 추천과 711개의 댓글이 달렸다. 누군가는 「프롬프트 엔지니어링 업계 전체가 반성해야 한다」고 했고, 또 다른 누군가는 「반년 동안 최적화한 만 자짜리 지시문이 하루아침에 감점 요인이 되었다」며 씁쓸해했다.
▲ OpenAI가 공개한 GPT-5.6 예고 이미지. Sol(플래그십), Terra(균형), Luna(경량) 세 가지 등급이 동시 출시되었다. (출처: explainx.ai / OpenAI)
지난 1년간 AI 업계에서 나온 가장 반직관적인 발견일지도 모른다. 우리가 AI에게 열심히 「가르치려」 할수록, 결과는 더 나빠진다는 사실 말이다.
3년 동안 쌓아 올린 「비법」이 하룻밤 사이에 짐이 되다
2023년 ChatGPT가 폭발적인 인기를 끈 이후, 프롬프트 작성은 하나의 완전한 산업 생태계를 형성했다. 처음에는 사람들이 그저 아무렇게나 질문을 던졌다. 그러다 「역할 부여」가 효과가 있다는 걸 알게 됐다 — 「당신은 베테랑 변호사입니다. 이 계약서를 검토해 주세요.」 이후에는 「사고 연쇄(Chain of Thought)」 기법까지 발전했다 — 「먼저 이 문제를 몇 가지 측면으로 나눠 보고, 각각 분석한 뒤 최종 결론을 내리세요.」
2025년이 되자, 최상급 프롬프트 템플릿은 어김없이 수백 자부터 시작하는 수준이 됐다. 역할을 정의하고, 실행 단계를 나열하고, 「반드시 준수해야 할」 제약 조항을 덧붙이고, 마지막에는 예시 몇 개를 첨부하는 식이었다. 기업용 시스템 프롬프트는 더 심했다. 필자가 본 것 중 가장 긴 것은 3,000자가 넘었고, 「ALWAYS」와 「NEVER」로 시작하는 항목이 수십 개에 달했다 — 「항상 리스트 형식으로 답할 것」 「절대 경쟁사를 언급하지 말 것」 「실행 전에 반드시 확인을 거칠 것」.
이 방법론은 GPT-4와 GPT-5.2에는 분명히 효과가 있었다. 데이터로 검증됐고, 경영진도 인정했으며, 팀은 최적화에 실질적인 비용을 투입했다.
그리고 GPT-5.6이 등장했다.
OpenAI의 개발자 가이드는 불안할 정도로 단순한 조언을 내놓았다. 「가장 짧은 지시문에서 시작하라 — 과제를 안정적으로 완수하는 데 꼭 필요한 내용만 남겨라. 평가 과정에서 구체적인 결함이 발견될 때에만 지시문이나 도구, 예시를 추가하라.」
쉽게 말하면 이렇다. 그동안 공들여 다듬은 3,000자짜리 시스템 프롬프트를 200자로 줄여 보라. 결과는 오히려 더 좋을 가능성이 크다.
▲ GPT-5.6은 전 세계에 동시 출시되었으며, ChatGPT, Codex, API를 모두 지원한다. (출처: nitromediagroup.com)
왜 말을 많이 할수록 결과가 나빠질까?
그 이유는 사실 복잡하지 않다. 다만 지금까지 아무도 이렇게 직설적으로 말하지 않았을 뿐이다.
GPT-5.6 같은 차세대 모델의 「추론 능력」은 이전 세대보다 한 차원 높다. 비유하자면, 구형 모델은 갓 입사한 인턴과 같다. 「A 시스템에서 데이터를 조회하고, B 시스템과 교차 검증한 뒤, 이상이 없으면 이메일로 통지하라」고 일일이 지시해야 하고, 한 단계라도 빠뜨리면 멈춰 버린다. 반면 GPT-5.6은 5년 경력의 베테랑에 가깝다. 「이 주문에 문제 있는지 확인하고, 문제 있으면 고객에게 연락해 줘」 한 마디면 충분하다. 어디서 조회하고, 어떻게 판단하며, 어떤 어조로 메일을 쓸지는 스스로 안다.
문제는 바로 여기에 있다. 베테랑에게 인턴 대하듯 「첫째, 둘째, 셋째」 하고 단계를 지정해 주면, 당신은 그를 돕는 게 아니라 손발을 묶고 있는 셈이다. 당신이 지정한 「최적 경로」는 모델이 스스로 계획한 경로보다 못할 가능성이 크다.
OpenAI 문서에서 특히 주목할 만한 기술적 디테일이 있다. 「더 무거운 지시문은 추가적인 탐색 행동, 반복적 검증, 그리고 계속해서 불어나는 컨텍스트를 유발하는 경향이 있다.」 쉽게 말해, 모델에게 지나치게 많은 요구 사항을 집어넣으면, 오히려 각 지시 사항 사이에서 저울질하고, 스스로 점검하고, 반복해서 확인하는 데 에너지를 소모한다. 이 모든 것이 모델의 「주의력」을 갉아먹고, 정작 문제를 해결하는 데 써야 할 연산 자원을 빼앗아 간다.
비유하자면 이렇다. AI에게 「이건 하지 마」「저건 꼭 해야 해」 같은 금지 조항과 의무 조항을 잔뜩 써 주면, AI의 에너지는 당신 문제를 해결하는 대신 「내가 규칙을 어기고 있지는 않은지」 검사하는 데 소모된다.
▲ GPT-5.6의 Sol/Terra/Luna 세 가지 모델 포지셔닝. 각각 플래그십 성능, 균형 잡힌 가성비, 경량 고처리량 시나리오를 담당한다. (출처: explainx.ai)
「좀 더 친절하게」 — GPT-5.6에는 전혀 통하지 않는다
또 하나 많은 사용자에게 의외였던 발견은 이것이다. GPT-5.6은 「더 친절하게」「더 공감해 줘」 같은 요청을 받는다고 해서 의미 있는 개선을 보이지 않는다.
OpenAI 가이드의 원문은 이렇다. “GPT-5.6 does not become meaningfully better when prompted to be broadly friendlier or more empathetic.” — GPT-5.6은 「더 친절하게」「더 공감적으로」 같은 포괄적인 지시를 받아도 유의미하게 나아지지 않는다.
필자는 Hacker News 토론에서 핵심을 찌르는 댓글을 봤다. 「이발사에게 ‘조금만 잘라 주세요’라고 말하는 것과 같다. 이발사는 당신의 ‘조금’이 3mm인지 3cm인지 모른다. ‘옆머리는 밀고, 윗머리는 두 손가락 길이로 남겨 주세요’라고 해야 통한다.」
OpenAI가 권장하는 대안은 이렇다. 「친근하고 따뜻하게」 같은 애매한 지시 대신 구체적인 설명을 제공하라 — 「직접적이되 딱딱하지 않게, 필요한 경우 마찰을 인정하고, 형식적인 위로와 불필요한 빈말을 피할 것.」
한 층 더 깊이 들여다보면, 이 발견은 중요한 변화를 알려 준다. 구형 모델은 이해력이 부족했기 때문에 당신이 「태도」를 반복해서 강조해야 했다. 신형 모델은 어떤 상황에서 어떤 말투를 써야 하는지 판단할 정도의 감성 지능을 이미 갖추고 있다. 당신은 그저 하한선만 알려 주면 된다.
「간결하게」 — 가장 위험한 지시어
가이드 전체에서 가장 혼란스러운 조언이 이 부분일 것이다.
OpenAI는 분명히 경고한다. GPT-5.6은 「간결하게」「최대한 짧게」「글자 수 최소로」 같은 지시에 이례적으로 민감하다. 이전 세대인 GPT-5.5보다 훨씬 더. 문제는 이 「민감함」이 좋은 의미가 아니라는 데 있다.
GPT-5.6은 원래 이전 세대보다 간결한 답변을 내놓는 성향이 있다. 거기에 「간결하게」라는 지시를 한 번 더 얹으면, 중첩 효과가 발생할 수 있다. 불필요한 군더더기뿐만 아니라, 있어야 할 논증, 핵심적인 제한 조건, 심지어 당신이 알아야 할 위험 경고까지 한꺼번에 사라질 수 있다는 뜻이다.
Hacker News의 한 개발자가 생생한 예를 들었다. 그의 이발사는 「조금만 잘라 주세요」라는 말을 들으면 머리카락을 거의 두피에 붙게 민다. GPT-5.6이 「간결하게」라는 말을 들었을 때의 반응도 이와 비슷하다. 정말로 최단 분량의 답변을 내놓는데, 그게 당신이 원한 게 아닐 수 있다.
OpenAI가 추천하는 대안은 「간결」이라는 모호한 단어 대신 우선순위를 설명하는 방식이다. 「결론을 먼저 제시할 것. 결론을 뒷받침하는 근거, 중요한 제한 조건, 다음 단계를 함께 제공할 것. 도입부 말, 반복되는 내용, 형식적인 위로, 불필요한 배경 설명은 생략할 것.」
한 문장으로 요약하면 이렇다. AI에게 「몇 자로 써라」가 아니라, 「무엇이 중요하고, 무엇은 생략해도 되는지」를 알려 줘라.
HN에서 갈린 세 가지 목소리
Hacker News 토론장에서 이 사안을 바라보는 시각은 크게 세 갈래로 나뉘었다.
「진작 이래야 했다」 파는 이것이 AI 성숙의 신호라고 본다. 모델이 충분히 똑똑해졌으니 더 이상 어린아이 가르치듯 할 필요가 없다는 것이다. 「모델이 각 상황에 필요한 분량을 스스로 판단할 수 있다면, 그래야 하는 게 맞다. 이전 모델이 기본적으로 엄청난 양의 군더더기를 출력하던 것 자체가 결함이었다.」
「이해충돌」 파는 경계심을 늦추지 않는다. 누군가는 OpenAI와 Anthropic(또 다른 최상위 AI 기업)이 약속이나 한 듯 최신 모델에서 「지시를 줄이고 모델이 스스로 결정하게 하라」고 권장하는 데는 분명한 상업적 동기가 있다고 지적한다. 모델이 출력 길이를 스스로 결정하게 하면 더 많은 글자를 출력할 가능성이 있고, 글자 수가 많아질수록 API 요금은 올라간다. 「물론 이상적인 목표다. 모델이 최적의 응답 길이를 스스로 판단하는 것. 하지만 글자 수로 돈을 버는 회사가 ‘글자 수는 우리에게 맡기세요’라고 말하는 건, 한 번쯤 의심해 볼 필요가 있다.」
「실무 혼란」 파는 더 현실적인 질문을 던진다. 도대체 어느 정도가 「짧은」 건가? 「긴」 건 또 무엇인가? 한 문장으로 줄이면 충분한가? OpenAI 가이드는 원칙을 제시했지만 명확한 경계선은 긋지 않았다. 「운동은 건강에 좋다」는 조언을 떠올리게 하는 대목이다. 방향은 맞는데, 실행은 전적으로 개인의 해석에 달려 있다.
필자는 세 입장 모두 각자 근거가 있다고 보며, 성급히 한쪽을 들 필요는 없다고 생각한다. 이번 개발자 가이드가 가져온 가장 확실한 결론은 단 하나다. 작년, 심지어 재작년의 프롬프트 템플릿을 아직도 붙잡고 있다면, 그건 「보수적으로 안전하게」 가는 게 아니라 「적극적으로 점수를 깎아먹는」 행위다.
「짧은 프롬프트 시대」가 의미하는 것
더 큰 그림에서 바라보면, 이 현상은 하나의 트렌드를 가리킨다. AI가 「가르쳐야 하는 대상」에서 「목표만 설정하면 되는 대상」으로 바뀌고 있다는 것이다.
예전의 AI는 GPS 내비게이션 같았다. 매 교차로에서 어디로 꺾어야 하는지 일일이 알려 줘야 했다. 지금의 AI는 경험 많은 개인 기사에 가깝다. 「공항으로 가 주세요」 한 마디면, 교통 상황과 시간대, 그리고 당신의 평소 패턴을 고려해 최적의 경로를 스스로 선택한다. 「먼저 강변북로 타고 올림픽대로 빠지세요」라고 우기면 오히려 돌아갈 수 있다.
이 변화는 두 부류의 사람에게 특히 큰 영향을 미친다.
하나는 프롬프트 엔지니어링으로 먹고사는 사람들이다. 가장 효과적인 지시문이 곧 가장 간결한 지시문이 되는 세상이라면, 「만 자짜리 템플릿」의 가치는 급격히 하락할 수밖에 없다. 이 기술 자체가 무용해진다는 뜻은 아니다. 다만 무게 중심이 「양」에서 「정확성」으로 이동할 뿐이다. 무엇을 말해야 하고 무엇을 말하지 말아야 하는지 아는 능력이, 얼마나 많은 글을 쓸 수 있는지보다 중요해진다.
다른 하나는 일반 사용자다. 오랫동안 일반인의 AI 경험에는 보이지 않는 진입 장벽이 존재해 왔다. 프롬프트를 잘 쓰는 사람은 좋은 답변을 받고, 못 쓰는 사람은 엉망인 답변을 받는 구조였다. GPT-5.6이 짧은 프롬프트에 더 우호적으로 반응한다는 특성은, 사실상 이 장벽을 낮춰 준다. 더 이상 「프롬프트 작성법」을 따로 공부할 필요가 없다. 필요한 내용을 명확하게 말하기만 하면 된다.
물론 모든 것이 하루아침에 바뀌지는 않을 것이다. GPT-5.6은 막 출시되었고, 이 「가이드」는 아직 개발자를 위한 참고 권고일 뿐 모든 사람의 일상 경험은 아니다. 하지만 방향은 분명해졌다.
마치며
Hacker News의 댓글 711개를 모두 훑어본 뒤, 필자가 가장 크게 느낀 것은 「짧은 프롬프트의 마법」이 아니다. 우리가 AI에 대한 신뢰를 때로는 엉뚱한 곳에 두고 있었다는 사실이다.
지난 3년간 업계 전체가 한 가지 일에 매달려 왔다. AI를 더 고분고분하게 만드는 일. 점점 더 복잡한 지시문으로 AI를 제약하고, 유도하고, 교정하는 일. 우리는 AI가 멍청해서 꼼꼼히 가르쳐야 하는 존재이고, 인간은 똑똑한 지도자라고 암묵적으로 전제해 왔다.
GPT-5.6이 내놓은 답은 약간 아이러니하다. 당신이 간섭을 줄일수록, AI는 더 잘 해낸다. 당신이 아낀 한 글자 한 글자의 지시는 모두, AI가 당신의 문제를 진지하게 고민하는 데 쓸 수 있는 여유 공간이다.
이 말은 프롬프트 작성이 이제 무의미해졌다는 뜻이 아니다. 가장 가치 있는 프롬프트는, 아마도 「쓰지 않아도 된다는 걸 아는 바로 그 문장」일 것이다.
참고 링크: