핵심만 먼저
ChatGPT나 Claude에 같은 질문을 두 번 던지면 답이 매번 미묘하게 달라집니다. 단어 선택, 문장 순서, 추천 도구가 바뀝니다. AI가 답을 만들 때 다음 단어를 확률로 뽑는데, 이 뽑기에 무작위성이 살짝 들어가기 때문입니다. ChatGPT 'Custom Instructions'나 Claude 'Project Instructions'에 "같은 질문에는 같은 핵심 답변을 유지하고, 추천 도구는 한 번 정하면 바꾸지 말고, 답변 구조는 [결론→근거→예외→추천] 순서로 고정해줘"라고 입력한 뒤 "영구히 기억하고 모든 답변에 적용해"라고 명령하면 일관된 답을 받을 수 있습니다.
▶ 영문 시스템 프롬프트 예시 보기
You are a deterministic advisor. Rules: 1. Same question → same core answer 2. Template: [결론] → [근거 2-3개] → [예외] → [추천] 3. Pick ONE recommendation and stick with it 4. Use same key terms across replies
아래는 원인 이해와 교차 검증 해결법입니다. (읽기 소요 시간 약 4분)
| 문제 상황 | 해결 후 |
|---|---|
| 1회: "Notion 추천" / 2회: "ClickUp 추천" | 5회 모두 "Notion 추천 — 이유: A·B·C" |
| 답변 순서 매번 바뀜(A·B·C → B·A·C) | 순서·구조 5회 동일 |
| "중간 정도 비용"·"꽤 저렴" 표현 혼재 | "$10~$20 범위" 동일 수치로 통일 |
| 추천 도구 3개 → 4개 → 2개 변동 | "항상 정확히 3개"로 강제 |
| 어조 매번 다름(친근 → 공식) | "항상 정중체 합니다체" 강제 |
원인 1 - 다음 단어 뽑기에 무작위성이 살짝 섞입니다
AI 언어 모델은 답을 만들 때 다음에 올 단어 후보 여러 개에 확률을 매기고, 그중에서 하나를 뽑습니다. 확률이 높은 단어만 무조건 뽑는 게 아니라, 확률 분포에 따라 약간 무작위로 뽑습니다. ChatGPT나 Claude는 기본 설정에서 이 무작위성이 의도적으로 살짝 들어가 있습니다. 답변에 자연스러움과 다양성을 주기 위해서입니다.
그 결과 정확히 같은 입력을 두 번 던져도 다음 단어 뽑기 경로가 달라집니다. 한 단어가 다르면 그 뒤의 흐름 전체가 미묘하게 갈라집니다. 사용자 입장에서는 "아까는 A를 추천했는데 지금은 B를 추천하네?" 같은 흔들림으로 느껴집니다.
원인 2 - 모델은 자신의 과거 답변을 기억하지 않습니다
같은 대화 안에서는 모델이 이전에 한 말을 참조할 수 있습니다. 하지만 새 대화 창에서 같은 질문을 던지면, 모델은 과거 답변을 전혀 모릅니다. 그래서 같은 질문이지만 매번 처음부터 답을 만듭니다. 무작위성과 결합되어 다른 답이 자주 나옵니다.
현실에서 사용자가 겪는 상황은 보통 다음과 같습니다.
- "CRM 도구 추천해줘" - 어제는 A, 오늘은 B 추천
- "이 코드 리팩토링해줘" - 매번 다른 구조로 다시 작성
- "이메일 톤 다듬어줘" - 매번 단어 선택이 미묘하게 바뀜
- "한국어 자연스럽게 써줘" - 톤 강도가 매번 달라짐
| 주장 | 측정·확인 방법 | 출처 | 확인일 | 신뢰도 |
|---|---|---|---|---|
| temperature 0이어도 미세한 비결정성이 남습니다 | 같은 프롬프트·같은 seed 환경에서도 모델 inference 노이즈 | OpenAI API Reference | 2026-05-15 | 확실 |
| seed 옵션은 API에서만, ChatGPT UI에선 사용 불가 | 공식 API docs — seed는 chat completions 파라미터 | OpenAI seed param | 2026-05-15 | 확실 |
| Anthropic Claude도 temperature·top_p로 제어 | API 파라미터 — ChatGPT UI 동일 한계 | Anthropic Messages API | 2026-05-15 | 확실 |
해결법 1 - "일관되게 답해줘" 시스템 프롬프트에 박기
맨 위 3줄 요약에 박힌 프롬프트가 가장 강력한 우회법입니다. 모델에게 "같은 질문엔 같은 답을 같은 표현으로 줘"라고 명령합니다. ChatGPT 'Custom Instructions' 또는 Claude 'Project Instructions'에 한 번 박아두면 그 후 모든 대화에 자동으로 적용됩니다.
이 프롬프트는 모델 내부 무작위성을 완전히 끄지는 못합니다. 하지만 답변 골격(핵심 결론, 추천, 표현)을 의식적으로 일관되게 유지하도록 유도합니다.
해결법 2 - 답변 형식을 강제합니다
답변 구조가 같으면 내용 흔들림도 줄어듭니다. 사용자가 미리 답변 템플릿을 박아주는 방식입니다.
답을 다음 형식으로 줘.
1. 핵심 결론 1문장
2. 근거 3개 (각 1문장)
3. 예외 사항 1개
4. 최종 추천 1개
다른 추가 설명 없이 위 형식만 지켜줘.
형식이 고정되면 모델 답변 길이와 핵심도 안정됩니다. 매번 다른 비유나 다른 사례가 들어와서 답이 흔들리는 현상이 줄어듭니다.
해결법 3 - 한 답변을 기준점으로 박아둡니다 (검증된 우회)
처음에 마음에 드는 답을 받으면, 그 답을 모델에 다시 보여주면서 "이 답변과 일관되게 앞으로 답해줘"라고 박습니다. 모델이 그 답변을 기준점으로 삼아 이후 변동을 줄입니다.
긴 작업(여러 글 시리즈, 여러 자료 정리)에서 특히 효과적입니다. 첫 답변을 기준으로 잡으면 시리즈 전체 톤이 안정됩니다. 이 우회법은 같은 대화 창 안에서만 작동합니다. 새 대화를 열면 다시 시작해야 합니다.
ChatGPT 웹·앱(Plus 포함)은 temperature 슬라이더가 없습니다. 정밀 제어가 필요하면 OpenAI Playground / API / LM Studio 같은 환경이 필요합니다. 시스템 프롬프트로 잠그는 우회법이 UI 환경의 현실적 대안입니다.
도구 보강 - API 파라미터로 일관성 강제
API 호출에서 `temperature=0`을 명시하면 같은 입력에 같은 답변이 나옵니다. `seed`도 함께 박으면 거의 결정론적입니다. ChatGPT 웹 화면에서는 못 바꾸지만 OpenAI/Anthropic API나 Playground에서는 즉시 설정할 수 있습니다.
Python 예시:
from openai import OpenAI
client = OpenAI(api_key="sk-...")
# temperature=0 + seed로 결정론적 답변
res = client.chat.completions.create(
model="gpt-4o-mini",
messages=[{"role": "user", "content": "회의록 요약해줘"}],
temperature=0, # 일관성 핵심 (0=항상 같은 답)
seed=42, # 같은 seed = 같은 답변 (재현 가능)
)
print(res.choices[0].message.content)
# Anthropic Claude도 동일
import anthropic
claude = anthropic.Anthropic(api_key="sk-ant-...")
claude.messages.create(
model="claude-haiku-4-5",
max_tokens=500,
temperature=0, # Claude는 seed 파라미터 없음, temperature=0만으로도 일관성 강함
messages=[{"role": "user", "content": "회의록 요약해줘"}],
)
함께 쓰면 좋은 외부 도구·애드온
- OpenAI Playground — 웹 화면에서 temperature 슬라이더를 0으로 내리면 즉시 일관성 모드로 들어갑니다.
- Anthropic Console — Claude API 테스트 환경. temperature와 max_tokens를 UI에서 바로 조정할 수 있습니다.
- LM Studio (로컬 모델) — 로컬에서 오픈소스 모델을 돌리며 모든 파라미터를 직접 설정. 완전 결정론적 환경이 필요할 때 가장 안정적입니다.
- temperature 0이어도 모델 내부 비결정성으로 미세한 차이가 남습니다.
- seed 파라미터를 미공개로 한 모델은 완전 재현이 불가합니다.
- ChatGPT UI는 temperature 조절 옵션이 없습니다 — Playground/API/로컬 모델만 가능합니다.
- 양식·보고서·자동화 워크플로 반복 작업
- AI 답변을 그대로 코드·문서에 박는 경우
- 여러 사용자에게 동일 답을 줘야 하는 봇
- 창작 brainstorming·아이디어 발산
- 같은 프롬프트를 일부러 다양하게 변형하려는 경우
- 간단한 1회성 질의
관련 가이드
전체 사용법 가이드는 사용법 가이드 카테고리에서 확인할 수 있습니다.
영문으로 AI 도구 비교를 더 깊이 보고 싶다면 — ToolSignal Pro · Best AI Tools for Small Business 2026