Agentic Workflow 설계: 사람의 승인 지점을 어디에 둘 것인가

핵심 개념

좋은 Agentic Workflow는 완전 자율 직원이 아니라 통제 가능한 운영 패턴이다.

중요한 질문은 모든 것을 사람이 검토해야 하는지가 아니다. 어느 지점에서 사람의 판단이 가장 큰 리스크 감소 효과를 만드는지가 핵심이다.

승인이 필요한 위치

외부 커뮤니케이션, 금전적 약속, 고객에게 보이는 결과물, 컴플라이언스 판단, 되돌리기 어려운 시스템 변경 전에는 사람의 승인이 필요하다.

분류, 요약, 초안 작성, 체크리스트 준비처럼 낮은 리스크의 중간 단계는 먼저 자동화 후보가 될 수 있다.

운영 패턴

실무형 워크플로는 트리거, 입력 검증, 컨텍스트 조립, 초안 생성, 신뢰도와 예외 확인, 리뷰어 라우팅 순서로 설계한다.

각 단계는 어떤 원천 데이터가 쓰였는지, 어떤 규칙이 적용됐는지, 누가 승인했는지, 어떻게 되돌릴 수 있는지를 기록해야 한다.

구현 체크리스트

Agentic Workflow를 프로토타입 밖으로 확장하기 전 최소한 다음 항목을 확인한다.

• 승인 없이 수행 가능한 작업을 정의한다.
• 항상 승인이 필요한 작업을 정의한다.
• 원천 ID, 생성 결과, 검토자, 시각, 최종 결정을 기록한다.
• 누락 데이터, 충돌 값, 낮은 신뢰도는 예외 큐로 보낸다.
• 긴급 업무를 위한 수동 우회 경로를 유지한다.

리스크와 다음 단계

가장 큰 위험은 조용한 자동화다. 효율적으로 보이지만 원천 품질, 검토 책임, 예외 처리를 숨기는 구조는 운영 리스크가 된다.

작은 업무 범위를 선택하고 입력, 출력, 검토, 예외가 모두 보이는 하네스부터 설계해야 한다.

용어 정리

Agentic Workflow

목표 달성을 위해 여러 단계를 계획하고 수행하며, 필요하면 도구를 호출하는 업무 자동화 구조

Human-in-the-loop

중요한 판단, 승인, 거절, 재검토를 사람이 수행하도록 워크플로 안에 명시적으로 배치하는 통제 방식

출처와 참고 자료

• NIST AI Risk Management Framework · NIST