AI 설명은 역할마다 달라야 한다

Nielsen Norman Group이 기업에서 AI 도입이 겉도는 진짜 이유로 ‘설명(explanation)’을 지목했습니다. Katie Schmidt 등 연구진은 같은 AI 출력이라도 거버넌스 책임자, 이를 만드는 개발자, 실제로 쓰는 현업 전문가가 각기 다른 설명을 필요로 한다고 말합니다. 하나의 설명 화면을 모두에게 똑같이 들이미는 방식으로는 누구의 신뢰도 얻지 못한다는 것입니다.

"최선의 설명은 하나로 정해져 있지 않다 — 오직 적절한 사용자에게, 적절한 순간에 맞는 설명이 있을 뿐이다."Nielsen Norman Group

왜 중요한가

글은 역할을 세 층으로 나눕니다. 거버넌스 리더에게는 개별 판단이 아니라 배포 전반의 추세·예외·규제 준비 상태를 보여주는 시스템 수준의 설명이 필요합니다. 개발자에게는 입력과 출력의 관계, 설정 변경이 미치는 영향을 실시간으로 파고들 수 있는 인터랙티브한 디버깅 도구가 필요합니다. 현업 전문가에게는 전문 용어를 걷어내고 익숙한 업무 흐름과 과거 선례에 빗댄 평이한 설명이 필요합니다.

실무 적용

AI 기능을 붙일 때 ‘설명 화면 하나’로 끝내지 말고, 보는 사람의 역할부터 물어야 합니다. 관리자용 화면에는 집계·이상치·감사 로그를, 개발자용 화면에는 프롬프트·임계값이 결과를 어떻게 바꾸는지 보여주는 도구를, 현업용 화면에는 ‘왜 이 결과인가’를 선례와 함께 풀어 주는 설명과 가벼운 피드백 버튼을 둡니다. 신뢰는 투명성의 ‘양’이 아니라 역할에 맞춘 ‘정확도’에서 나온다는 것이 핵심입니다.

교차 참고

• Smashing Magazine: Designing With Uncertainty — AI의 확률적 판단을 사용자에게 이해시키는 설계 관점을 보완합니다.
• Nielsen Norman Group: Context Architecture — 시스템이 맥락을 해석해 사용자와 어긋나지 않는 출력을 내도록 정보를 설계하는 관점을 함께 보여줍니다.

Wemeet의 관점

AI를 신뢰하게 만드는 것은 더 많은 설명이 아니라 ‘그 사람에게 맞는’ 설명입니다. Wemeet은 AI 기능을 설계할 때 화면을 보는 사람이 누구인지부터 나누고, 관리자·개발자·사용자가 각자 판단에 필요한 만큼만 보도록 설명의 깊이와 언어를 달리 설계합니다.