“AI 기본법에 신원확인을 하라는 조항이 직접 있나요?”
“본인인증을 꼭 도입해야 한다고 법에 쓰여 있나요?” 결론부터 말하면 그렇지 않습니다. AI 기본법에는 ‘신원확인을 도입해야 한다’거나 ‘본인인증 솔루션을 사용해야 한다’와 같은 기술 명시 조항은 존재하지 않습니다. 이는 GDPR이나 전자금융거래법과 유사하게, 특정 기술을 강제하기보다 결과와 책임을 기준으로 의무를 설계하는 법의 구조 때문입니다. 법은 “무엇을 써라”라고 말하지 않고, “어떤 책임을 져야 하는가”를 묻고 있습니다. 그럼에도 불구하고 AI 기본법 논의에서 신원확인이 자주 언급되는 이유는 분명합니다. AI 기본법은 투명성 확보 의무와 고영향 AI의 위험 관리 의무를 중심으로, AI로 인해 발생할 수 있는 오작동·기만·부정행위에 대한 관리 책임을 사업자에게 명확히 귀속시키고 있기 때문입니다. 다시 말해, AI로 인해 사람이 속거나 잘못된 판단이 발생할 수 있는 구조를 인지하고도 적절한 조치를 하지 않았다면, 그 책임은 AI를 운영하는 기업이 지게 됩니다. 이러한 책임 구조를 바탕으로 보면, AI 기본법은 단순한 규제 법안이 아니라 기업의 운영 방식과 리스크 관리 수준을 점검하는 기준에 가깝습니다.
AI 기본법이 요구하는 것은 ‘기술’이 아니라 ‘책임 구조’
AI 기본법은 제22조를 통해 ‘투명성 확보 의무’를 통해 ‘고영향 인공지능의 위험 관리 의무’를 규정합니다. 이 두 조항의 공통점은, AI가 만들어내는 결과가 사회적으로 어떤 영향을 미칠 수 있는지 사업자가 사전에 인식하고 이를 관리해야 한다는 점입니다. 이 구조에서는 “AI가 만들었다고 표시했다”는 사실만으로 책임이 면제되지 않습니다. 만약 AI 생성물이 실제 사람의 행위나 존재처럼 오인되어 타인에게 피해를 주는 구조라면, 그 구조 자체를 방치한 책임이 문제 될 수 있습니다. 이 지점에서 신원확인은 ‘기술 옵션’이 아니라 리스크를 통제하기 위한 수단으로 다시 검토되기 시작합니다.딥페이크 확산과 투명성 확보 의무의 관계?
고영향 AI 사업자에게 요구되는 ‘위험 관리’의 수준은 어느 정도일까?
AI 기본법은 사람의 생명, 안전, 기본권에 영향을 미칠 수 있는 AI를 ‘고영향 AI’로 분류하고, 해당 AI를 운영하는 사업자에게 보다 높은 수준의 관리 책임을 요구합니다. 이 범주에는 에듀테크 기업이나 시험 주관사가 운영하는 온라인 시험, HR 테크 기업의 AI 면접·채용 평가, 금융권의 AI 신용평가·비대면 대출 심사 등이 포함될 가능성이 큽니다. 이러한 서비스에서 AI가 합격과 불합격, 승인과 거절 같은 중대한 결정을 내린다면, 그 판단의 전제는 평가 대상자가 서류상 인물과 실제 동일인인지 여부입니다. 만약 AI 면접 과정에서 대리 응시자가 정교한 딥페이크 가면을 쓰고 시험을 치르는데도 이를 걸러내지 못했다면, 이는 단순한 부정행위를 넘어 AI 시스템의 신뢰성과 관리 체계가 미흡하다고 평가될 수 있습니다. 이 경우 사업자는 시정 명령과 함께 최대 3,000만 원 이하의 과태료를 부과받을 수 있으며, 채용 비리나 부정 대출 이슈로 확산될 경우 AI 서비스 운영 자체가 중단되는 강력한 행정 처분으로 이어질 가능성도 배제하기 어렵습니다.AI 기본법이 바꾼 책임 구조, 어떤 산업에서 신원확인이 중요할 수 있을까?
이러한 책임 구조를 종합해보면, AI 기본법 시행 이후 신원확인 수요가 가장 먼저 나타날 가능성이 높은 산업군도 비교적 분명해집니다. 딥페이크로 인한 기망 위험이 직접적인 플랫폼 산업(C2C·중고거래, SNS, 데이팅, 콘텐츠 플랫폼), AI가 합격·승인·평가를 대신하는 고영향 AI 기반 산업(에듀테크, HR 테크, 금융·핀테크), 그리고 한국 이용자를 상대하면서 역외 적용 리스크를 안고 있는 글로벌 서비스 기업(해외 게임, 디자인 툴, 구독형 SaaS, 매칭 서비스) 역시 해당 될 수 있습니다. 이들 산업은 모두 “실제 사람인지 여부”가 서비스 신뢰와 법적 책임의 출발점이 되는 구조를 가지고 있어, AI 기본법 시행 이후 정확한 신원확인 체계를 사전적으로 검토해야 할 필요성이 가장 높은 영역으로 볼 수 있습니다. 특히 고영향 AI를 도입했거나 도입을 검토 중인 기업의 법무·컴플라이언스 팀, 인사·금융·리스크 관리 조직은 이제 AI를 기능이 아닌 책임의 관점에서 다시 바라볼 필요가 있습니다. 오늘은 AI 기본법이 바꾼 책임 구조를 중심으로, 왜 특정 산업에서 신원확인이 중요한 이슈로 떠오르고 있는지 살펴보았습니다. AI 기본법은 특정 기술을 도입하라고 요구하지는 않지만, AI로 인해 발생할 수 있는 위험을 어떻게 관리하고 책임질 것인지를 기업에게 묻고 있습니다. 이러한 흐름 속에서 신원확인은 단순한 인증 절차를 넘어, 서비스 신뢰와 법적 리스크를 함께 관리하기 위한 하나의 기준으로 다시 주목받고 있습니다. AI를 활용하는 B2B 기업이라면 이번 기회를 통해 우리 서비스가 어떤 책임 구조 위에 놓여 있는지 점검해보고, 향후 규제 환경 변화에 대비한 준비 방향을 고민해보는 계기가 되기를 바랍니다.