누가 에이전트를 검증하는가?

에이전트가 실수했을 때

AI 에이전트가 호텔 예약을 잘못 했다. 취소 불가 조건을 확인하지 않은 채 비환불 요금제를 선택했다. 또는 사용자가 명시적으로 승인하지 않은 구독 서비스에 결제를 진행했다. 또는 환율 조건이 불리한 시점에 외화 결제를 실행했다.

이 상황에서 책임은 누구에게 있는가. 에이전트를 위임한 사용자인가. 에이전트를 제공한 플랫폼인가. 에이전트 거래를 수락한 판매자인가. 현재 그 어느 규제 체계도 이 질문에 명확한 답을 주지 못한다.

에이전트 거래 책임 구조의 미해결 문제

👤 사용자 에이전트를 위임한 주체

책임 귀속?

?

책임 귀속?

💻 플랫폼 에이전트를 제공한 주체

🏪 판매자 에이전트 거래를 수락한 주체

그림: 에이전트 오류 시 책임이 세 주체 사이에서 어떻게 배분되는지 현재 어떤 규제 체계도 명확한 답을 제시하지 않는다.

이것은 이론적 논제가 아니다. 에이전트 거래가 규제 산업, 즉 금융, 의료, 복잡한 환불 규정이 적용되는 여행 분야에서 확대될수록 이 질문은 실제 분쟁 해결과 규제 허가의 기준이 된다. 명확한 감사 추적과 책임 체계 없이는 규제 산업에서 에이전트의 자율 거래를 허용하는 것이 구조적으로 불가능하다.

핵심 논제

에이전트 거버넌스의 중심 질문은 기술 문제가 아니라 책임 배분 문제다. 누가 에이전트의 결정을 보증하고, 그 결정이 잘못되었을 때 누가 책임을 지는지를 정의하는 체계가 없으면 규제 산업은 에이전트 자율 거래를 열어줄 수 없다.

감사 추적의 부재

현재 대부분의 AI 에이전트 아키텍처는 결정 로그를 사람이 읽을 수 있는 형태로 생성하지 않는다. 에이전트가 왜 특정 호텔을 선택했는지, 어떤 기준으로 가격을 비교했는지, 어떤 시점에 사용자의 위임 권한을 어떻게 해석했는지가 감사 가능한 방식으로 기록되지 않는다.

금융 규제 환경에서 요구하는 감사 추적은 다음 조건을 충족해야 한다. 결정의 인과 경로가 추적 가능해야 하고, 그 경로가 자연어로 설명 가능해야 하며, 결정 시점의 맥락 정보가 보존되어 있어야 하고, 이의 제기 시 독립적으로 검증할 수 있어야 한다. 현재 대부분의 LLM 기반 에이전트는 이 네 가지 조건 중 하나도 완전히 충족하지 못한다.

왜 결정 로그가 부재하는가

LLM 기반 에이전트의 결정은 확률적 과정을 통해 생성된다. 동일한 입력에 대해 동일한 출력이 보장되지 않으며, 결정의 내부 경로는 모델의 가중치 공간 안에 존재하고 외부에서 직접 접근할 수 없다. 에이전트가 "왜 그 결정을 내렸는가"라는 질문에 대한 답은 사후에 재구성한 설명일 뿐, 결정 당시의 실제 경로가 아니다.

이것이 규제 산업에서 AI 에이전트의 자율 거래가 멈춰 서는 구조적 이유다. 감사 추적이 없으면 분쟁 해결이 불가능하고, 분쟁 해결이 불가능하면 책임 귀속이 불가능하며, 책임 귀속이 불가능하면 규제 허가가 나지 않는다.

이 문제는 에이전트가 규제 산업에서 확산하는 속도를 직접적으로 제한한다. 금융 서비스, 의료 서비스, 복잡한 계약 조건이 포함된 여행 상품은 모두 거래에 대한 결정 근거가 사후 검증 가능해야 한다는 규제 요건을 공유한다. 에이전트 아키텍처가 이 요건을 충족하지 못하는 한 해당 영역에서의 자율 에이전트 거래는 규제 허가를 받지 못한다.

카드 네트워크의 접근: 기록과 등록

카드 네트워크는 이 문제의 일부에 답하기 시작했다. Mastercard는 2026년 3월 5일 Google과 함께 Verifiable Intent를 발표했고, Visa는 2026년 7월 2일 유럽에서 30개 이상의 카드 발급사와 함께 에이전트 거래를 실제 운영 환경에서 시작하면서 Trusted Agent Protocol과 Agent Directory를 도입했다 (Q1, Q18). 둘 다 결제 네트워크가 만든 장치이며, 각자의 네트워크 안에서 작동한다.

2026년 3월 발표

Mastercard Verifiable Intent

계정 보유자의 신원, 에이전트에게 준 지시, 실행된 거래를 하나의 변조 방지 기록으로 연결한다. 거래에 이의가 제기되면 모든 당사자가 같은 기록을 근거로 분쟁을 처리할 수 있다 (Q18). 그러나 에이전트가 산 것이 사용자가 원한 것이었는지는 이 기록이 판단하지 않는다.

분쟁 처리용 기록

2026년 7월 유럽 운영 시작

Visa Trusted Agent Protocol

Trusted Agent Protocol과 Agent Directory를 통해 가맹점은 결제를 시도하는 에이전트가 등록되고 발급사의 승인을 받은 주체인지 확인할 수 있다 (Q1). 이는 등록 시점의 확인이며, 몇 달 뒤 거래를 실행하는 순간의 에이전트 상태를 보증하지는 않는다.

에이전트 등록과 확인

이 두 메커니즘이 공유하는 논리는 동일하다. 에이전트 거래에서 "검증 가능한 의도 사슬"을 만드는 것이다. 사용자가 에이전트에게 무엇을 위임했는지, 에이전트가 그 위임을 어떻게 해석했는지, 실행된 거래가 그 해석의 범위 안에 있었는지를 사후에 독립적으로 검증할 수 있는 기록이 있어야 한다는 것이다.

두 장치 모두 거래와 등록을 검증한다. 에이전트가 산 물건이 사용자가 원한 물건이었는지, 그 판단에 이해 상충이 없었는지는 아직 누구도 검증하지 않는다. 그럼에도 이 방향은 에이전트 거버넌스 문제에 대한 업계의 가장 구체적인 현재 답변이며, 한국 시장을 포함한 각국 규제 논의의 참조점이 될 가능성이 높다.

두 장치가 주는 시사점

두 장치는 에이전트 거버넌스 문제를 기술적으로 해결하려는 것이 아니라, 책임 귀속이 가능한 기록 구조를 만들려는 시도다. 이 접근이 어떤 형태로든 표준화된다면, 그 표준을 충족하는 에이전트 인프라를 갖춘 기업이 규제 산업에서 에이전트 거래를 먼저 허가받는 위치에 서게 된다.

한국 금융 감독의 맥락

한국에서 AI 에이전트가 금융 거래를 자율적으로 실행하는 문제는 금융위원회(FSC)와 금융감독원(FSS)의 감독 영역에 걸쳐 있다. 이 글은 법적 조언을 제공하지 않으며, 아래 내용은 규제 당국이 검토하기 시작한 질문들을 중립적으로 정리한 것이다.

에이전트가 사용자를 대신해 금융 거래를 실행할 때 제기되는 핵심 질문들은 다음과 같다.

승인된 에이전트 거래의 정의

에이전트가 실행한 거래가 "사용자가 승인한 거래"로 간주되기 위한 요건은 무엇인가. 위임의 범위는 어떻게 정의되고 어디까지 유효한가. 사용자가 에이전트의 특정 결정을 사전에 알지 못했더라도 거래는 승인된 것으로 처리되는가.

에이전트 오류에 대한 책임 귀속

에이전트가 잘못된 금융 거래를 실행했을 때 책임은 사용자, 플랫폼, 금융기관 중 어디에 귀속되는가. 현행 전자금융거래법과 자본시장법 체계에서 에이전트 거래의 오류가 어떻게 처리되는지에 대한 명확한 기준이 존재하는가.

에이전트 결정 로그의 규제 요건

금융 감독 목적의 감사를 위해 에이전트의 결정 로그는 어떤 형식으로, 얼마나 오래, 어떤 방식으로 보관되어야 하는가. LLM 기반 에이전트의 확률적 결정 구조가 현행 금융 감사 요건과 어떻게 양립하는가.

이 질문들은 현재 명확한 답이 없다. 금융위원회는 2026년 6월, 상품 추천을 넘어 가입과 결제까지 수행하는 AI 서비스 확산에 맞춰 망분리와 데이터 활용 규제를 정비하고 책임 소재와 권한 범위를 검토하겠다는 방향을 밝힌 것으로 보도되었다 (Q24). 그러나 에이전트 자율 거래에 특화된 규제 지침은 아직 공개된 바 없다. 기업이 이 영역에서 의사결정을 해야 한다면 규제 당국의 공식 지침과 법률 전문가의 조언을 구하는 것이 필요하다.

다만 한 가지는 분명하다. 규제 당국이 이 질문들을 검토하기 시작했다는 것은 에이전트 거버넌스 체계를 갖추지 않은 기업에게 시간이 많지 않다는 신호다. 규제가 구체화되기 전에 내부 체계를 갖춘 기업이 허가 취득과 규제 대응에서 유리한 위치에 서게 된다.

기업이 지금 구축해야 하는 것

거버넌스 체계 없이 에이전트를 규제 산업에 도입하는 것은 책임이 어디에 있는지 모른 채 거래를 열어주는 것과 같다. 에이전트를 운영하거나 에이전트 거래를 수락하는 기업이 지금 구축해야 할 것은 세 가지다.

1

감사 요건을 충족하는 에이전트 결정 로그

에이전트의 모든 거래 결정에 대해 결정 시점, 입력 맥락, 실행 근거, 위임 범위와의 일치 여부를 인간이 읽을 수 있는 형태로 기록하는 시스템을 구축한다. 이 로그는 LLM의 내부 추론을 그대로 노출하는 것이 아니라, 에이전트의 결정을 감사 가능한 구조화된 형식으로 래핑하는 별도 레이어를 통해 생성되어야 한다. 규제 당국이 요구하는 감사 기준이 확정되기 전에 내부 기준을 선제적으로 수립하는 것이 기업의 전략적 이점이 된다.

2

취소 가능한 명확한 사용자 위임 체계

에이전트에게 부여되는 위임 권한은 범위, 기간, 거래 한도, 허용 카테고리가 명시적으로 정의되어 있어야 하고, 사용자가 언제든 이 위임을 취소하거나 범위를 변경할 수 있어야 한다. 위임이 있었다는 사실과 그 위임의 구체적 내용이 모두 기록되어 있어야 분쟁 발생 시 책임 귀속의 근거가 된다. 포괄적 위임이 아닌 구체적 위임이 거버넌스의 기본 단위다.

3

에이전트 거래를 위한 분쟁 처리 및 취소 절차

사람이 시작한 거래를 전제로 설계된 현행 분쟁 처리 절차는 에이전트가 시작한 거래에 그대로 적용하기 어렵다. 에이전트 거래에서 분쟁이 발생했을 때 어느 당사자가 어떤 증거를 제시해야 하는지, 취소와 환불의 절차가 어떻게 달라지는지, 판매자와 플랫폼 사이의 책임 경계가 어디에 있는지를 미리 정의하는 절차를 지금 설계해야 한다. 이 절차가 없으면 첫 번째 에이전트 거래 분쟁이 기업의 거버넌스 공백을 직접 드러낸다.

출처

주: 모든 출처는 2026년 10월 24일 원문으로 확인했다. 이 글은 법적 조언을 제공하지 않는다. 한국 규제 관련 내용은 공개된 정보와 업계 논의를 바탕으로 한 분석이며, 실제 규제 판단을 위해서는 해당 당국의 공식 지침과 법률 전문가의 조언을 구해야 한다.