인간과 생성형 AI가 함께 만들어내는 방식, 결국 “인센티브”가 좌우한다

HCI 관점에서 읽을 만한 이유

이 글은 생성형 AI가 단지 ‘좋은 답’을 만드는 도구가 아니라, 사람들이 어떻게 쓰고 어디까지 믿고 개입하느냐에 따라 결과가 달라지는 인터랙션 문제임을 잘 보여줍니다. 특히 동일한 AI라도 보상 구조와 사용 전략에 따라 창의성의 다양성이 달라진다는 점은 UX 설계와 평가 기준을 함께 봐야 한다는 신호입니다. 실무자에게는 기능보다 행동 설계가 중요하다는 교훈을, 연구자에게는 인간-AI 협업을 더 현실적으로 측정할 질문을 줍니다.

CIT의 코멘트

흥미로운 점은 AI의 ‘동질화’가 모델의 고정된 성질이라기보다, 사용자가 어떤 목표를 갖고 얼마나 선택적으로 받아들이느냐에 따라 달라진다는 부분입니다. 이건 안전이 중요한 시스템에서 자주 보이는 현상과 닮아 있는데요. 자동화가 똑똑해질수록 오히려 인터페이스가 사용자의 개입 경로와 실패 모드를 더 명확히 드러내야 합니다. 다만 실제 제품에선 ‘원하는 다양성’과 ‘빠른 완료’가 늘 충돌합니다. 그래서 보상 구조, 추천의 표현 방식, 수정이 쉬운 피드백 경로를 함께 설계해야 합니다. 또 여기서 쌓이는 로그는 단순 성능 평가보다, LLM으로 사용자 전략과 UX 지표를 더 엄밀하게 읽어내는 연구 질문으로도 이어질 수 있습니다.

원문을 읽으면서 던질만한 질문

• Q.AI를 많이 쓰는 사람일수록 결과가 더 획일적이 되는 이유가, 모델 품질 때문인지 인터페이스의 기본값 때문인지 어떻게 더 잘 분리해 볼 수 있을까요?
• Q.실제 제품에서는 ‘원본성’과 ‘완성도’가 동시에 중요할 때가 많은데, 이 둘의 보상 구조를 어떻게 설계해야 사용자 행동이 한쪽으로 과도하게 쏠리지 않을까요?
• Q.생성형 AI의 사용 로그를 활용해 다양성, 개입 정도, 신뢰를 측정할 때 어떤 지표가 가장 유용하고, 어떤 지표는 오히려 사용자의 실제 경험을 왜곡할까요?