생성형 AI 답변이 브랜드 정보를 틀리게 설명한다면 AI 서비스에 정정을 요청하는 것만으로는 부족합니다. 먼저 오류가 나온 질문과 답변을 그대로 기록하고 오류 유형을 나눕니다. 그다음 오류의 원인이 된 자사 웹사이트와 외부 정보를 바로잡고, 같은 질문으로 다시 측정해 실제로 고쳐졌는지 확인합니다. 오류가 왜 생겼는지 모른 채 서비스 측 정정에만 기대면 같은 오류가 다른 질문이나 다른 AI 서비스에서 다시 나타날 수 있습니다.
생성형 AI는 왜 브랜드 정보를 틀리게 설명하나요?
생성형 AI는 학습한 자료와 답변 시점에 검색한 웹 문서를 바탕으로 문장을 만들어 냅니다. 이 과정에서 사실과 다른 내용이 자연스러운 문장으로 나올 수 있습니다. 미국 국립표준기술연구소(NIST)는 생성형 AI 위험관리 프로필(NIST AI 600-1)에서 이런 현상을 '컨퍼뷸레이션(confabulation)'이라 부르고, 확신에 찬 어조로 잘못되거나 거짓인 내용을 생성하는 위험으로 정의합니다.
브랜드 정보에서 오류가 생기는 원인은 대체로 다음 네 가지로 나눌 수 있습니다.
- 오래된 정보: 사업 내용, 소재지, 서비스 구성이 바뀌었는데 예전 페이지나 기사가 그대로 남아 있습니다.
- 서로 다른 정보: 공식 웹사이트, 기업 정보 페이지, 언론 기사에 적힌 내용이 서로 다릅니다.
- 이름 혼동: 이름이 비슷한 다른 기업이나 제품의 정보가 섞입니다.
- 정보 부족: 공개된 설명이 너무 적어 AI가 업종의 일반적인 내용으로 빈칸을 채웁니다.
어떤 원인인지에 따라 고쳐야 할 대상이 달라집니다. 그래서 대응은 원인 진단에서 시작합니다.
틀린 답변을 발견하면 무엇부터 기록해야 할까요?
생성형 AI 답변은 같은 질문에도 매번 조금씩 달라집니다. 그래서 발견한 시점의 답변을 그대로 남겨 두어야 나중에 원인을 찾고 정정 결과를 비교할 수 있습니다. 기록할 항목은 다음과 같습니다.
- AI 서비스 이름과 사용한 모드(일반 답변, 검색 연동 답변 등)
- 입력한 질문 원문과 확인한 날짜
- 답변 전문과 틀린 문장 표시
- 답변에 출처로 표시된 웹페이지 목록
- 같은 질문을 여러 번 했을 때 오류가 반복되는지 여부
출처 표시가 있는 답변이라면 원인을 찾기가 쉽습니다. 표시된 페이지에 실제로 틀린 내용이 있는지, 아니면 AI가 맞는 페이지를 잘못 요약했는지부터 나눠 봅니다. 기록이 쌓이면 아래 표처럼 유형별로 정리합니다.
| 오류 유형 | 예시 | 먼저 확인할 곳 | 대응 방향 |
|---|---|---|---|
| 기본 정보 오류 | 설립 시기·소재지·사업 분야가 틀림 | 회사 소개 페이지, 기업 정보 등록 페이지 | 공식 정보를 한 문장으로 통일하고 외부 등록 정보 수정 |
| 서비스 내용 오류 | 제공하지 않는 기능을 제공한다고 설명함 | 서비스 소개 페이지, 예전 보도자료 | 현재 제공 범위를 명시하고 종료된 내용은 종료 사실을 표시 |
| 타사 정보 혼동 | 비슷한 이름의 다른 기업 내용이 섞임 | 브랜드명 표기, 영문명, 업종 설명 | 정식 명칭과 업종을 함께 적어 구분되게 함 |
| 인물 정보 오류 | 대표자·임원 관련 내용이 틀림 | 임원 소개, 외부 인물 정보 | 공식 페이지 정정과 개인정보 정정 절차 검토 |
| 근거 없는 평가 | 확인되지 않은 사건이나 평판을 사실처럼 설명함 | 답변 출처, 커뮤니티 게시물 | 사실관계 자료 공개, 서비스 피드백 경로로 신고 |
오류의 원인이 된 정보는 어떻게 바로잡아야 할까요?
가장 먼저 고칠 곳은 기업이 직접 관리하는 웹사이트입니다. 회사 소개, 서비스 소개, 자주 묻는 질문 페이지에서 같은 사실이 같은 표현으로 적혀 있는지 확인합니다. 바뀐 내용이 있으면 예전 문장을 지우는 데 그치지 말고, 변경 시점과 현재 상태를 함께 적어 두는 편이 혼동을 줄입니다. 종료된 서비스 페이지는 "현재 제공하지 않음"을 명확히 밝히거나 현재 서비스 안내로 연결합니다.
정정 문구를 쓸 때도 표현의 정확성을 지켜야 합니다. AI 답변의 오류를 바로잡겠다며 반대로 성과를 부풀려 쓰면 새로운 오류의 원인이 될 뿐 아니라 법적 문제로 이어질 수 있습니다. 공정거래위원회는 기간한정 표시 등 거짓·과장의 표시·광고 행위에 대한 감시를 강화하고 법 위반 시 엄중 조치하겠다고 밝혔습니다. 정정 문구는 확인 가능한 사실만 담고, 비교나 최상급 표현은 근거가 있을 때만 씁니다.
외부 정보는 기업이 직접 고칠 수 없는 경우가 많습니다. 언론 기사는 해당 매체에 정정을 요청하고, 기업 정보 등록 서비스나 지도 서비스의 업체 정보는 각 서비스가 정한 수정 절차를 따릅니다. 수정이 어렵다면 공식 웹사이트에 정확한 정보를 더 분명하게 공개해 AI가 참고할 근거를 늘리는 방법으로 보완합니다.
대표자나 임직원 같은 개인에 관한 내용이 잘못 다뤄진다면 별도의 절차도 검토합니다. 「개인정보 보호법」 제36조는 자신의 개인정보를 열람한 정보주체가 개인정보처리자에게 그 개인정보의 정정 또는 삭제를 요구할 수 있다고 규정합니다. 다만 이 권리는 기업이 아닌 해당 개인이 행사하는 것이므로, 당사자와 협의하고 필요하면 법률 검토를 거쳐 진행합니다.
생성형 AI 서비스에 직접 정정을 요청할 수 있을까요?
대부분의 생성형 AI 서비스는 답변마다 의견을 남기는 기능이나 별도의 문의·신고 경로를 운영합니다. 먼저 사용하는 서비스별로 답변 하단의 평가 버튼, 도움말 센터의 신고·문의 양식 등 어떤 피드백 경로가 있는지 확인해 목록으로 정리해 둡니다. 틀린 답변을 발견하면 이 경로로 오류 내용과 정확한 정보를 확인할 수 있는 공식 페이지를 함께 알리고, 제출한 날짜와 내용을 기록합니다. 다만 피드백이 언제, 어떻게 반영되는지는 서비스마다 다르고 공개되지 않는 경우가 많습니다. 그래서 피드백은 원인 정보를 바로잡는 작업과 함께 하는 보조 수단으로 보는 것이 현실적입니다.
제도 측면의 변화도 지켜볼 만합니다. 과학기술정보통신부가 소관하는 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」은 생성형 AI 결과물에 대해 이용자의 연령 등을 고려해 명확하게 인식할 수 있는 방법으로 표시하도록 규정하고 있습니다. 이런 규정은 이용자가 AI 결과물을 알아보도록 돕는 장치입니다. 다만 개별 답변의 사실 오류를 기업 대신 바로잡아 주는 절차는 아니므로, 브랜드 정보의 정확성은 여전히 기업이 직접 점검해야 합니다.
근거 없는 부정적 평판처럼 브랜드에 피해를 줄 수 있는 오류라면 대응 기록을 꼼꼼히 남겨 둡니다. 언제 어떤 경로로 무엇을 요청했는지 남겨 두어야 이후 홍보·법무 부서가 판단할 근거가 됩니다.
정정한 뒤 결과는 어떻게 확인해야 할까요?
정정 효과는 처음 오류가 나온 질문을 같은 조건으로 다시 물어 확인합니다. 한 번만 확인하면 우연히 맞게 나온 답변을 개선으로 오해할 수 있습니다. 같은 질문을 여러 번 묻고, 여러 AI 서비스에서 확인한 뒤 오류가 다시 나오는 비율을 봅니다. 검색 연동 답변은 웹 문서 변경이 비교적 빨리 반영될 수 있지만, 학습 자료에 기대는 답변은 반영이 늦을 수 있으므로 일정 기간 주기적으로 확인합니다.
확인할 질문은 오류가 나온 질문 하나로 끝내지 않습니다. 같은 오류는 표현만 다른 질문에서도 나올 수 있으므로, 브랜드명 질문, 업종 추천 질문, 서비스 기능 질문처럼 관련 질문을 묶어 함께 측정합니다. 예를 들어 OPTIGEO는 ChatGPT·Perplexity·구글 AI 모드 같은 생성형 AI 답변에서 브랜드가 얼마나 언급되고 인용되는지 측정하고, 개선이 필요한 질문과 콘텐츠 방향을 제안하는 GEO 서비스입니다. 이런 측정 도구를 쓰면 질문별로 정정 전후의 언급·인용 변화를 비교하고, 어떤 질문의 콘텐츠를 더 보완해야 하는지 판단하는 데 참고할 수 있습니다.
확인 결과는 오류 유형, 정정한 출처, 재측정 결과를 한 줄씩 정리해 두면 다음 오류가 생겼을 때 대응 시간을 줄일 수 있습니다.
자주 묻는 질문
틀린 답변이 한 번만 나왔다면 대응하지 않아도 될까요?
한 번 나온 오류도 기록해 두는 것이 좋습니다. 같은 질문을 여러 번 물어 반복되는지 확인하고, 반복된다면 원인 정보를 찾아 정정합니다. 반복되지 않더라도 기록을 남겨 두면 다음 정기 측정 때 비교 기준이 됩니다.
자사 웹사이트를 고치면 AI 답변도 바로 바뀌나요?
바로 바뀐다고 보기는 어렵습니다. 검색 연동 답변은 웹페이지가 다시 수집된 뒤 반영될 수 있고, 학습 자료에 기대는 답변은 더 오래 걸릴 수 있습니다. 따라서 정정 후 일정 기간 같은 질문으로 반복 확인합니다.
오류 대응은 어느 부서가 맡아야 하나요?
기록과 재측정은 마케팅 또는 GEO 담당자가, 외부 매체 정정 요청은 홍보 부서가, 웹사이트 수정은 개발이나 웹 운영 담당자가 맡는 방식이 일반적입니다. 인물 정보나 평판 관련 오류처럼 법적 판단이 필요한 경우에는 법무 담당자와 함께 검토합니다.