ALTK‑Evolve: AI 에이전트가 일을 하면서 배우는 방법

HCI 관점에서 읽을 만한 이유

이 글은 AI 에이전트를 ‘똑똑한 답변기’가 아니라, 경험을 쌓으며 더 나아지는 작업 파트너로 보는 관점을 보여줍니다. HCI와 UX 실무자에게는 모델 성능보다도 상호작용의 기록을 어떻게 지식으로 바꾸고, 언제 개입할지 설계하는지가 더 중요하다는 점을 생각하게 합니다. 특히 실패를 줄이는 피드백 구조와 신뢰 가능한 에이전트 경험을 만드는 데 참고가 됩니다.

CIT의 코멘트

흥미로운 지점은 ‘기억’을 단순한 로그 저장이 아니라, 다음 행동을 바꾸는 인터랙션 설계 문제로 다룬다는 점입니다. transcript를 다시 읽히는 방식은 노트를 책상 위에 쌓아두는 것과 비슷하고, 여기서는 그 노트에서 핵심 원칙만 뽑아 다시 쓰는 식인데요. 이런 접근은 실제 프로덕트에서 매우 유용하지만, 동시에 어떤 규칙이 남고 어떤 규칙이 사라지는지에 대한 설명 가능성과 오류 전파 관리가 중요해집니다. 특히 안전이 중요한 에이전트일수록 ‘더 많은 기억’보다 ‘언제 개입하고, 언제 멈출지’를 보여주는 투명성이 핵심입니다. 또한 LLM으로 지침을 추출하고 요약하는 방식은 편리하지만, 평가 도구 자체의 타당성을 함께 검증해야 합니다. HCI 연구 관점에서는 성능 향상뿐 아니라 사용자가 그 향상을 어떻게 체감하고 신뢰하는지까지 측정해야 의미가 커집니다.

원문을 읽으면서 던질만한 질문

• Q.업무 경험에서 추출된 guideline이 실제로는 얼마나 일반화되는지, 그리고 어떤 조건에서 잘못된 습관을 강화하는지 어떻게 구분하셨나요?
• Q.사용자에게 에이전트의 현재 상태와 기억이 어떻게 반영됐는지 보여주는 인터페이스는 어느 수준까지 투명해야 할까요?
• Q.LLM을 사용해 UX 측정이나 행동 패턴을 자동 분류할 때, 사람 평가와의 일치도는 어떤 방식으로 검증하고 계신가요?