AI 답변의 틀린 사실을 줄이는 검증 프롬프트 5개

추석 AI 부트캠프 하루 6시간 만에
AI 기초부터 나만의
서비스까지 완성 이번 연휴를 기회로 삼으세요일정 보기 ↗

Quick Start

아래 프롬프트는 ChatGPT, Claude, Gemini 어디에나 붙여넣어 쓸 수 있습니다. 별도 설치나 유료 도구는 필요하지 않습니다. 대괄호 [ ] 안만 본인의 자료로 바꾸세요.

1. 자료가 있는 작업이면 STEP 1의 01번을 답변 요청과 함께 붙여넣습니다.
2. 이미 받은 답변을 검사할 때는 STEP 2의 03번을 그 대화에 이어서 붙여넣습니다.
3. 남은 문장만 사용하고, 지워진 자리와 "확인 불가"로 표시된 문장은 직접 확인합니다.

이 방법은 틀린 문장을 줄이는 장치이지 없애는 장치가 아닙니다. 중요한 숫자와 인용은 마지막에 사람이 원본과 대조하세요.

STEP 1 · 3분답변을 받기 전에 조건을 건다

이 단계에서는 답을 만들기 전에 모른다고 말할 자리와 근거의 범위를 정합니다. 조건이 없으면 모델은 빈칸을 그럴듯한 문장으로 채우기 때문입니다.

아래 자료를 근거로 [질문이나 작업]을 해줘.

조건:
- 자료로 확인되지 않는 내용은 쓰지 말고, 그 자리에 "자료에 없어서 확인 불가"라고 적어줘.
- 확신이 없으면 "확실하지 않음"이라고 먼저 말하고, 왜 확실하지 않은지 한 줄로 적어줘.
- 빠진 정보가 있으면 답을 만들어 내지 말고 무엇이 더 필요한지 목록으로 알려줘.

자료:
[보고서, 회의록, 기사 본문 등 원자료 붙여넣기]

성공하면 답변 안에 "확인 불가"나 "확실하지 않음"이 실제로 등장하고, 필요한 자료 목록이 따라옵니다. 모든 문장이 단정형으로만 나오면 "자료로 확인되지 않는 부분을 표시해줘"라고 다시 요청하세요.

아래 자료 안의 내용만 사용해서 [작업]을 해줘.

조건:
- 네가 알고 있는 일반 지식, 최신 소식, 업계 평균 같은 자료 밖 정보는 쓰지 마.
- 자료에 없는 숫자·날짜·이름·비율은 추정하지 말고 "자료에 없음"이라고 적어줘.
- 자료의 표현을 바꿔 쓸 때도 뜻이 달라지지 않게 해줘.
- 마지막에 자료 밖 지식을 쓰지 않았는지 스스로 점검한 결과를 한 줄로 적어줘.

자료:
[원자료 붙여넣기]

성공하면 자료에 없는 수치가 사라지고, "자료에 없음" 표시가 남습니다. 자기 점검 한 줄은 모델의 주장일 뿐이니 숫자는 직접 대조하세요.

STEP 2 · 4분받은 답변에서 근거를 확인한다

이 단계에서는 이미 받은 답변을 문장 단위로 검사합니다. 긴 자료에서는 인용을 먼저 뽑게 하는 편이 정확도가 높다고 공식 문서가 안내하기 때문입니다.

방금 답변의 문장을 하나씩 검사해줘.

1. 사실을 주장하는 문장을 모두 뽑아 번호를 붙여줘.
2. 문장마다 아래 자료에서 그 주장을 뒷받침하는 문장을 그대로 인용해줘. 인용은 자료에 있는 글자 그대로 옮겨야 해.
3. 인용을 찾지 못한 문장은 [근거 없음]이라고 표시해줘.
4. 표로 보여줘. 열: 번호 / 주장 문장 / 인용 / 판정(확인됨·근거 없음)
5. 자료에 없는 인용을 만들어 내지 마.

자료:
[원자료 붙여넣기]

성공하면 문장별 판정 표가 나오고, [근거 없음]이 붙은 줄이 눈에 보입니다. 인용문을 자료에서 검색해 실제로 있는 문장인지 한두 개는 직접 확인하세요.

아래 글에서 근거를 댈 수 없는 문장을 지워줘.

1. 문장마다 아래 자료에서 뒷받침 인용을 찾아줘.
2. 인용을 찾은 문장만 남기고, 못 찾은 문장은 지운 자리에 [삭제]라고 표시해줘.
3. 남은 문장은 원래 표현을 유지하고 새 내용을 더하지 마.
4. 마지막에 지운 문장과 지운 이유를 목록으로 보여줘.

글:
[검사할 글 붙여넣기]

자료:
[원자료 붙여넣기]

성공하면 [삭제] 표시가 들어간 글과 삭제 목록이 함께 나옵니다. 삭제된 자리는 직접 확인한 내용으로 채우거나 그대로 비워 두세요.

STEP 3 · 3분숫자와 계산을 다시 본다

이 단계에서는 계산과 논리를 따로 확인합니다. 결론만 보면 맞는 것처럼 보이지만 중간 단계에서 어긋나는 경우가 있기 때문입니다.

아래 답변의 숫자와 논리를 다시 검토해줘.

1. 답변에 나온 수치를 표로 옮기고, 각 수치가 자료의 어느 값에서 나왔는지 적어줘.
2. 계산이 있으면 식을 하나씩 다시 계산해서 결과가 같은지 비교해줘.
3. 자료의 값만으로 나올 수 없는 수치는 [출처 불명]으로 표시해줘.
4. 결론이 근거에서 자연스럽게 이어지는지 단계별로 설명하고, 건너뛴 단계가 있으면 지적해줘.
5. 고칠 부분은 수정안을 한 줄씩 제시해줘.

답변:
[검토할 답변 붙여넣기]

자료:
[원자료 붙여넣기]

성공하면 수치 표와 재계산 결과, 건너뛴 단계 지적이 나옵니다. 중요한 계산은 계산기로 한 번 더 확인하세요.

자주 막히는 곳

모든 문장이 "확인 불가"로 나옵니다. 자료를 충분히 넣지 않은 경우입니다. 원문 전체를 넣거나, 자료 밖 일반 지식을 써도 되는 범위를 따로 적어 주세요.

인용이 자료에 없는 문장입니다. 인용을 지어낸 것이므로 그 답변은 버리고, 03번을 새 대화에서 자료와 함께 다시 실행하세요.

답변이 너무 짧아집니다. 근거가 있는 문장만 남기면 분량이 줄어드는 것이 정상입니다. 빠진 부분은 자료를 더 넣어 채우세요.

알아 둘 한계

• 이 프롬프트는 틀린 문장을 줄이는 방법이며, 정확성을 보장하지 않습니다. 공식 문서도 완전히 없애지는 못한다고 밝히고 있습니다.
• 자기 점검 문장("자료 밖 지식을 쓰지 않았습니다")은 모델의 주장이지 검증 결과가 아닙니다.
• 자료 없이 일반 지식만으로 답한 내용은 04번으로 걸러지지 않습니다.
• 03번은 자료가 길수록 유리하고, 짧은 대화에는 과할 수 있습니다.

FAQ

어떤 모델에서 쓰나요? ChatGPT, Claude, Gemini 모두 됩니다. 원자료를 붙여넣을 수 있는 대화에서 쓰세요.

한 번에 다 써야 하나요? 아닙니다. 답변을 받기 전이면 01번, 이미 받은 답변이면 03번 하나로 시작하세요.

회사 자료를 붙여넣어도 되나요? 사내 규정을 먼저 확인하세요. 개인정보나 기밀은 지우거나 익명으로 바꿔 넣으세요.

공식 참고 자료

• Anthropic 공식 — Reduce hallucinations
• OpenAI 공식 — ChatGPT 프롬프트 작성 가이드

위 다섯 프롬프트는 Anthropic 공식 문서의 전략 다섯 가지(Allow Claude to say "I don't know", External knowledge restriction, Use direct quotes for factual grounding, Verify with citations, Chain-of-thought verification)를 한국어 요청문으로 옮긴 것입니다. 2026년 9월 16일 공식 문서를 확인해 작성했으며, 각 회사가 제공하는 공식 템플릿은 아닙니다.