AI 사용, 언제 밝혀야 하나: PACED 기준

닐슨 노먼 그룹이 "AI를 썼다고 밝혀야 하는가"를 상황별로 판단하는 PACED 프레임워크를 공개했다. 결론부터가 통념과 어긋난다. 고지 여부에 대한 연구 결과가 일관되지 않아 보편적인 규칙은 없고, 어떤 연구에서는 고지가 신뢰 평가를 떨어뜨렸으며 어떤 연구에서는 측정 가능한 차이가 없었다는 것이다. 그래서 필요한 건 규칙이 아니라 판단 기준이라는 게 글의 출발점이다.

"사람들은 AI 사용을 밝힌 개인이나 기업을, 아무 말도 하지 않은 쪽보다 덜 신뢰했다."Nielsen Norman Group

왜 중요한가

이것이 이른바 고지의 역설이다. 사용자는 AI 사용을 밝혀달라고 말하면서도, 막상 밝힌 콘텐츠에는 감점을 준다. 다만 같은 연구에서 가장 낮은 신뢰를 받은 쪽은 숨기다 들킨 경우였다. 즉 침묵은 단기적으로 유리해 보이지만 적발 위험을 깔고 가는 선택이고, 고지는 초기 비용을 내고 그 위험을 없애는 선택이다. PACED는 이 손익을 다섯 축으로 쪼갠다. 법·플랫폼 규정(Policy), 청중의 기존 AI 인식(Audience), 인간의 기여가 얼마나 중요한 콘텐츠인가(Context), 사용자가 고지를 기대하는가(Expectations), AI가 실제로 얼마나 개입했는가(Degree)다.

실무 적용

실무에서 가장 쓸모 있는 갈래는 Context 축이다. 추천사·사과문·창작물처럼 사람 대 사람의 성격이 강한 콘텐츠일수록 고지에 대한 반발이 크고, 정보성·거래성 콘텐츠에서는 반발이 약하다. 그러니 사이트 전체에 일괄 배너를 다는 방식보다, 콘텐츠 유형별로 기준을 나누는 편이 낫다. 맞춤법 교정이나 코드 보조처럼 개입 정도가 낮은 작업까지 전부 표기하면 고지 자체가 소음이 되어 정작 중요한 고지의 신호값을 깎아먹는다.

교차 참고

• Nielsen Norman Group: How AI Works and How Users Think About It — 사용자가 AI의 작동 방식을 어떻게 이해하고 오해하는지, 신뢰와 채택이 그 멘털 모델에 어떻게 묶이는지 모은 학습 가이드다.
• Smashing Magazine: The Death Of The Button — 인터페이스가 AI 뒤로 숨을수록 사용자가 무엇이 자동으로 결정됐는지 알기 어려워진다는 문제를 다룬 글이다.

Wemeet의 관점

Wemeet은 고지를 윤리 문제보다 정보 설계 문제로 본다. 핵심 질문은 "밝힐 것인가"가 아니라 "이 독자가 이 글을 판단하는 데 AI 개입 사실이 필요한가"이기 때문이다. 웹사이트 제작에서도 마찬가지다. 고객 후기나 브랜드 서사처럼 사람의 목소리가 값어치인 영역은 AI 초안을 쓰더라도 사람이 다시 쓰는 편이 안전하고, 제품 사양이나 FAQ처럼 사실 전달이 목적인 영역은 표기보다 정확도 검증에 품을 들이는 게 낫다.