AI가 쓴 원고의 가짜 인용 — 책 출간 전 1차 점검 5단계 (2026)
1. AI 원고의 인용 문제가 심각한 이유
2025년 이후 ChatGPT·Claude·Gemini로 초고를 작성하는 저자가 급증했습니다. 그런데 이 모델들은 공통적으로 존재하지 않는 논문·책·통계를 그럴듯하게 생성하는 '환각(hallucination)' 현상을 보입니다. 실제로 미국 법원에서 변호사가 AI 생성 허위 판례를 제출해 제재를 받은 사건은 이 문제의 심각성을 잘 보여줍니다.
국내 출판 환경에서도 마찬가지입니다. 출판사 편집부에 들어오는 AI 초고 가운데 상당수에서 원문을 확인할 수 없는 인용이 발견됩니다. 문제는 표면적으로 멀쩡해 보인다는 점입니다 — 저자명, 출판 연도, 제목까지 갖춘 각주가 실제로는 존재하지 않거나 내용이 전혀 다른 자료를 가리킵니다.
2. AI 인용 오류의 5가지 유형
① 완전 허구 인용
저자·제목·연도가 모두 조합된 가짜 레퍼런스입니다. Google Scholar나 DOI 검색으로 아무것도 나오지 않으면 이 유형입니다. 가장 빈번하고 가장 치명적입니다.
② 원문 왜곡 인용
논문은 실존하지만 AI가 요약·변형한 내용이 원문과 다릅니다. 예: 원문은 "상관관계가 있을 수 있다"는데 원고는 "인과관계가 입증됐다"고 씁니다. 사실 확인 없이는 발견하기 어렵습니다.
③ 저자·연도 혼동
실존 논문의 저자명과 연도가 뒤바뀌거나, 다른 논문의 메타데이터가 붙어있습니다. 동명이인 저자가 있는 분야에서 자주 발생합니다.
④ 페이지·절 번호 오류
책은 실존하지만 인용한 페이지에 해당 내용이 없습니다. AI가 내용에서 역산해 페이지를 '추측'하기 때문입니다.
⑤ 번역·번안 인용
영문 원저를 국내 번역본으로 표기하거나, 번역본이 없는데 한국어 판이 있다고 씁니다.
3. 책 출간 전 1차 점검 5단계
아래 5단계는 편집자나 저자가 원고 교정과 동시에 진행할 수 있는 최소한의 인용 검증 프로세스입니다.
STEP 1 — 인용 목록 추출
각주·미주·참고문헌 섹션에서 인용 레퍼런스를 전부 추출합니다. Word라면 '각주로 이동' 기능으로 일괄 복사, EPUB 원고라면 정규식으로 추출합니다. 목록화가 먼저입니다.
STEP 2 — DOI·ISBN 검색
논문은 doi.org에, 책은 국립중앙도서관 ISBN 검색에 입력합니다. 히트가 없으면 즉시 '요주의' 표시합니다. 전체 레퍼런스의 30% 이상이 히트가 없다면 AI 환각 원고일 가능성이 높습니다.
STEP 3 — 원문 발췌 대조
히트된 논문이라도 원고가 인용한 핵심 문장을 실제 PDF에서 찾아 대조합니다. 없거나 뉘앙스가 다르면 오류입니다. AI 팩트체크 도구를 사용하면 이 단계를 자동화할 수 있습니다.
STEP 4 — 통계·수치 출처 확인
"세계보건기구(WHO) 2023년 보고서에 따르면…" 같은 공식 기관 통계는 해당 기관 사이트에서 직접 확인합니다. AI가 근사치로 수치를 바꾸는 일이 잦습니다.
STEP 5 — 팩트체크 도구 자동 스캔
위 4단계 후에도 긴 원고에서 놓친 부분이 있을 수 있습니다. 팩트스캔 같은 AI 인용 검증 도구를 사용하면 수백 개의 인용을 짧은 시간 내에 1차 스캔할 수 있습니다. 의심 구간을 하이라이팅하고 원문 링크를 제공하므로 편집자의 수작업을 크게 줄여줍니다.
팩트스캔 무료 체험
회원 첫 1건 무료 (~6/6 이벤트) — 팩트스캔 바로가기
교정도 함께? 회원가입 즉시 월 10만자 무료 — AI 교정 시작하기
4. 분야별 위험도
인용 오류 위험도는 분야마다 다릅니다. 의학·법학·경제학처럼 통계와 판례가 많은 분야는 고위험군, 에세이·소설처럼 인용이 적은 분야는 저위험군입니다. 학술 교양서·논픽션은 중위험군으로, AI 초고를 사용할 경우 반드시 3단계 이상 점검을 권장합니다.
5. 출판사와 저자의 책임 분담
출판 계약에 인용 정확성 책임이 저자에게 있다고 명시돼 있더라도, 출판사 편집부가 명백한 오류를 걸러내지 못하면 브랜드 신뢰도가 타격을 입습니다. 따라서 편집자가 이 5단계 점검을 워크플로에 통합하는 것이 현실적입니다. 자세한 편집자 워크플로우는 편집자 인용 검수 워크플로우 가이드를 참고하세요.
마치며 — 출간 전 1번의 점검이 이후 모든 비용을 줄입니다
AI 원고가 표준이 되는 시대에 인용 검증은 선택이 아닌 필수입니다. 5단계 점검 중 3~5단계를 자동화하면 편집자 1인이 하루 원고 3~4편의 인용을 커버할 수 있습니다. 출간 후 오류 정정·재쇄 비용은 사전 검증 비용의 수십 배입니다.
지금 바로 시작하세요
팩트스캔 무료 체험 — 첫 1건 무료
월 10만자 무료 교정 — 회원가입 즉시 제공