EU AI법과 음성 에이전트: 투명성 의무 기초
EU AI법의 투명성 의무가 전화를 받거나 거는 음성 에이전트에 의미하는 것과, AI임을 알리기 위한 체크리스트를 정리했습니다.
이제 음성 에이전트는 고객이 상대가 사람이 아니었다는 사실을 모른 채 대화를 마칠 수 있을 만큼 발전했습니다. 유럽 입법자들도 이를 주목했습니다. EU 인공지능법(규정 (EU) 2024/1689)에는 사람과 상호작용하는 시스템을 정면으로 겨냥한 투명성 규칙이 있으며, 전화 에이전트는 그 전형적인 예입니다.

이 가이드는 투명성 의무의 내용, 의무를 지는 주체, 수신·발신 통화에 미치는 의미, 통화 흐름에 반영하는 방법을 쉬운 말로 설명합니다. 운영팀과 제품팀을 위한 개요이며 법률 의견이 아닙니다. 고객에게 AI 사용을 알리는 일 전반은 고객에게 AI와 통화 중임을 알리기를 참고하십시오.
1분 만에 보는 AI법
AI법은 AI 시스템을 위험 수준에 따라 분류하고 단계별로 의무를 부과합니다. 소수의 관행은 금지됩니다. 정해진 고위험 용도 목록에는 무거운 의무가 따릅니다. 사람과 직접 상호작용하거나 합성 음성, 이미지, 영상을 생성하는 시스템에는 더 가벼운 투명성 의무가 부과됩니다. 대부분의 일반적인 업무 용도는 고위험 목록에 해당하지 않습니다.
고객 서비스용 음성 에이전트는 대개 고위험이 아니라 투명성 단계에 속합니다. 그렇다고 규제가 없는 것은 아닙니다. 개인정보 보호 규칙이나 소비자법 같은 다른 법률은 여전히 적용됩니다. 다만 이런 시스템에 대한 AI법 자체의 요구 사항은 주로 정직성에 관한 것입니다.
음성 에이전트의 위치
- 금지된 관행조작적이거나 착취적인 용도는 전면 금지됩니다. 일반적인 접수 담당이나 지원 에이전트는 이런 용도로 설계되지 않지만, 프롬프트와 스크립트가 그쪽으로 흘러가지 않게 해야 합니다.
- 고위험 시스템고용, 신용, 필수 서비스에 관한 특정 결정처럼 정해진 용도 목록입니다. 통화 흐름이 그런 결정을 내리거나 크게 좌우하는지 확인하십시오.
- 투명성 의무대부분의 전화 에이전트가 속하는 단계입니다. 사람들에게 AI 시스템과 상호작용하고 있다고 알려야 하며, 합성 음성에는 표시를 해야 합니다.
- 그 밖의 모든 것개인정보 보호, 녹음 규정, 소비자 보호 등 다른 법률은 여전히 적용됩니다.
투명성 의무의 내용
쉽게 말해, 법의 투명성 조항은 몇 가지 예외를 제외하고 다음을 요구합니다.
- AI와 대화 중임을 알리기. 사람과 직접 상호작용하는 AI 시스템의 제공자는, 합리적으로 정보를 갖춘 사람에게 상황상 명백한 경우가 아니라면 상대가 이를 알 수 있도록 시스템을 설계해야 합니다.
- 합성 음성 표시. 합성 음성, 이미지, 영상, 텍스트를 생성하는 시스템의 제공자는 기술적으로 가능한 경우 출력물에 기계 판독 가능한 표시를 하고 인공적으로 생성되었음을 감지할 수 있게 해야 합니다.
- 딥페이크 고지. 실제 사람, 장소, 사건과 닮은 콘텐츠를 생성하거나 변형하는 시스템의 배포자는 그것이 인공적임을 밝혀야 합니다.
- 감정 인식 고지. 감정 인식이나 생체 정보 분류 시스템의 배포자는 그 대상이 되는 사람에게 알려야 합니다.
원래 일정에 따르면 투명성 의무는 2026년 8월부터 적용될 예정입니다. 법의 일부 시행 일정이 EU 차원에서 논의되어 왔으므로, 이 글을 읽는 시점에 적용되는 날짜를 확인하십시오.
명백한 경우가 있을까요?
법은 합리적으로 정보를 갖춘 사람에게 AI와 대화하고 있다는 것이 명백한 경우 예외를 허용합니다. 전화에서는 이에 기대지 마십시오. 자연스러운 목소리, 사람 같은 이름, 친근한 어조는 결코 명백하지 않게 만듭니다. 확실하지 않다면 알리십시오.
제공자와 배포자: 누가 어떤 의무를 지는가
법은 AI 시스템을 개발하거나 개발하게 해서 자기 이름으로 시장에 내놓는 제공자와, 자신의 권한 아래 시스템을 사용하는 배포자를 구분합니다. 플랫폼에서 음성 에이전트를 설정해 자사 전화 회선에 올리는 기업은 대개 배포자이고, 플랫폼 업체는 제공자에 가깝습니다. 많은 의무가 제공자에게 있지만, 배포자도 시스템을 의도대로 사용하고, 필요한 경우 사람들에게 알리며, 안전장치를 제거하지 않아야 합니다.
제공자와 배포자 비교
| 제공자(시스템을 만들거나 판매) | 배포자(시스템을 사용) | |
|---|---|---|
| 대표적인 예 | 음성 에이전트 플랫폼 업체 | 자사 회선에서 음성 에이전트를 운영하는 의원, 소매점, 서비스 데스크 |
| 사람들에게 알리기 | AI와 대화 중임을 알릴 수 있도록 시스템을 만듦 | 회선이 실제로 알맞은 위치와 문구로 고객에게 알리도록 함 |
| 합성 음성 표시 | 기술적으로 가능한 경우 표시 기능을 내장 | 이를 제거하거나 끄지 않음 |
| 일상적인 관리 | 문서와 설계 | 스크립트, 상담원 연결, 모니터링, 기록 보관 |
어느 역할인지 확실하지 않다면 최소한 배포자의 의무는 있다고 가정하고, 플랫폼이 무엇을 대신해 주는지 업체에 물어보십시오.
수신 통화와 발신 통화
수신 통화는 비교적 간단합니다. 고객이 스스로 전화했으므로, 에이전트가 응대하기 전에 짧은 안내로 시작할 수 있습니다. 발신 통화는 상대가 대화를 선택하지 않았으므로 더 주의해야 합니다. 누가 왜 전화했는지와 함께 첫 한두 문장 안에 알려야 합니다.
AI가 응대하는 통화의 투명한 시작
- 회사 이름 밝히기"안녕하세요, 하버 물리치료원 예약 안내입니다."
- AI임을 알리기"저는 사람이 아닌 자동 음성 안내입니다."
- 할 수 있는 일 말하기"메시지나 예약 요청을 받아 드릴 수 있습니다."
- 사람 연결 제안"직원과 통화를 원하시면 말씀만 해 주세요."
- 해당되면 녹음 고지"품질 관리를 위해 통화가 녹음될 수 있습니다."
이 예시는 가상이므로 자사에 맞게 고쳐 쓰십시오. 발신 캠페인에서는 자동 발신 전화와 동의에 관한 별도 규칙도 지켜야 하며, 요약은 자동 발신 전화 규제 개요에 있습니다.
합성 음성과 복제 음성
TTS 음성은 합성 음성이며, 복제 음성은 실제 사람을 흉내 낸다는 점에서 한 걸음 더 나아갑니다. 표시 의무는 주로 제공자에게 있지만, 배포자로서 플랫폼이 무엇을 하는지 이해해야 하며, 실제 사람의 명확한 허락 없이 그 사람의 복제 음성을 써서는 안 됩니다. 에이전트가 잘 알려진 직원의 목소리로 말한다면, 그 직원이 아니라 AI 음성이라고 고객에게 알리십시오.
- 고객이 오해할 수 있다면 AI 에이전트에 사람으로 보이는 직함이나 개인 이름을 붙이지 마십시오.
- 고객이 진지하게 사람과 통화 중인지 물으면 매번 사실대로 답하십시오.
- 각 회선이 어떤 음성과 문구를 쓰는지 서면으로 기록해 두십시오.
음성에 관한 더 자세한 내용은 비즈니스용 음성 복제: 동의와 한계를 참고하십시오.
고지를 넘어: 함께 설계할 것
투명성은 최저선이지 상한선이 아닙니다. 잘 운영되는 음성 에이전트에는 다음도 필요합니다.
고지와 함께 갖출 실무 안전장치
- 사람에게 가는 길사람을 요청한 고객은 실랑이 없이 사람에게 연결되거나 콜백이나 메시지 남기기를 제안받아야 합니다.
- 발언 범위 제한에이전트가 답을 지어내거나 역할 밖의 조언을 하지 않도록 하는 가드레일입니다.
- 데이터 보호통화에 필요한 것만 수집하고, 녹음과 전사본을 어떻게 쓰는지 고객에게 알립니다.
- 사람의 감독누군가 전사본을 검토하고, 상담원 연결 요청을 처리하며, 에이전트를 끌 수 있어야 합니다.
설계 측면은 음성 AI 에이전트 가드레일과 음성 AI를 위한 개인정보 중심 설계를 참고하십시오.
실무 준비 체크리스트
AI 음성 에이전트가 실제 통화를 받기 전에
- 이 시스템에서 자사가 제공자인지, 배포자인지, 둘 다인지 정했다
- 고지 문구를 쉬운 말로 작성하고 모든 통화 유형의 맨 앞에 배치했다
- 고객이 사람, 콜백, 메시지 남기기 중 하나에 닿을 수 있다
- 합성 음성 표시 방식을 업체에 확인했다
- 개인정보 보호 및 녹음 고지도 갖춰져 있다
- 사용한 문구와 변경 날짜를 기록해 둔다
- 매주 실제 통화 일부를 검토하고 AI임을 숨긴 통화를 바로잡는다
- 출시 전 공식 자료에서 일정 변경을 다시 확인했다
Call에서 적용하기
Call에서는 운영자가 관리자 > 전화와 AI에서 필수 고지를 등록할 수 있습니다. 라벨, 고지로 인정되는 문구, 그리고 몇 초 안에 말해야 하는지를 지정합니다. 고객이 그에 대해 묻는 말이 아니라 에이전트 자신의 발화만 인정됩니다. 전화 회선에서는 고객이 녹음 및 모니터링 안내를 들을지도 선택할 수 있으며, AI 통화에서는 이 안내가 인사말보다 먼저 나옵니다. 고객은 사람을 요청할 수 있고 AI 에이전트는 통화를 넘겨줄 수 있습니다. 'Call에서 AI 에이전트의 통화를 사람에게 넘기기'를 참고하십시오. 이러한 설정이 특정 법적 의무를 충족하는지는 귀사와 자문 전문가가 판단할 사항입니다.
자주 묻는 질문
회사가 EU 밖에 있어도 EU AI법이 적용됩니까?
적용될 수 있습니다. 시스템의 출력물이 EU 안에서, 예를 들어 그곳에 있는 고객에게 사용되면 EU 밖의 제공자와 배포자에게도 법이 미칩니다. EU 고객이 있다면 자문을 받으십시오.
음성 에이전트는 항상 AI라고 말해야 합니까?
투명성 규칙은 합리적으로 정보를 갖춘 사람에게 명백하지 않은 한 AI 시스템과 상호작용 중임을 알리도록 요구합니다. 전화에서는 명백한 경우가 드물기 때문에, 모든 통화의 시작 부분에서 알리는 습관이 안전합니다.
투명성 규칙은 언제부터 적용됩니까?
원래 일정에 따르면 2026년 8월부터 적용될 예정이지만, 법 일부의 일정이 논의되어 왔습니다. 이 글을 읽는 시점에 시행 중인 날짜는 유럽연합 집행위원회 페이지에서 확인하십시오.
TTS 인사말도 AI 시스템입니까?
상호작용하지 않는 고정된 녹음 또는 합성 인사말은 대화를 나누는 에이전트와는 다릅니다. 그래도 합성 음성 표시 의무와 관련될 수 있으므로, 업체가 이를 어떻게 처리하는지 물어보십시오.
AI라고 밝히면 고객이 전화를 끊지 않습니까?
일부는 끊을 수 있지만, 정직한 고지는 신뢰를 쌓고, 남은 고객은 원하는 것을 더 분명하게 말하는 경향이 있습니다. 친근한 시작과 사람에게 쉽게 가는 경로가 이탈을 줄입니다.
음성 에이전트에 중요한 법은 AI법뿐입니까?
아닙니다. 개인정보 보호, 통화 녹음, 마케팅과 동의 규칙, 업종별 규칙도 여전히 적용됩니다. AI법은 이를 대체하는 것이 아니라 더해지는 것입니다.