기업 내부용 AI와 외부 상용 서비스의 법적 경계 명확화 요구

기업 내부 인력이나 계열사 간에 활용되는 인공지능(AI)을 일반 고객에게 제공되는 상용 서비스와 별도로 구분해야 한다는 경제계의 목소리가 나왔다. 또한 AI를 직접 개발하는 기업과 이를 실제 서비스에 적용하는 이용 기업 사이의 책임 소재도 각자의 역할에 맞춰 재정립해야 한다는 주장이다.

한국경제인협회(한경협)는 회원사들의 의견을 종합하여 'AI 기본법 개선과제' 19건을 과학기술정보통신부에 전달했다고 29일 밝혔다. 지난 1월 22일 AI 기본법이 본격 시행되었음에도 불구하고, 규제 대상이나 책임의 범위가 명확하지 않아 기업들이 AI를 개발하고 활용하는 과정에서 상당한 혼선을 겪고 있다는 판단에서 비롯됐다.

이번 건의 사항은 총 5개 분야에 걸쳐 총 19건의 과제로 구성되었다. 주요 내용은 AI 사업자와 법 적용 범위의 명확화, 생성형 AI의 고지 및 표시 의무에 대한 합리화, 고성능·고영향 AI 규제의 구체화, 학습 데이터 활용 기준의 정비, 그리고 AI 규제 확대에 따른 예측 가능성 확보 등이다.

역할에 따른 책임 분담과 연구 지원 AI 가이드라인 제안

한경협은 무엇보다 기업이 자체적으로 구축해 임직원 업무에 투입하는 AI의 법적 지위를 분명히 할 것을 강조했다. 현행법 체계에서는 사내 업무용 AI가 외부 상용 서비스와 동일한 사업자 의무를 지는지 판단하기 어렵고, 특히 지주사와 계열사가 AI를 공동으로 구축해 사용할 경우 적용 기준이 더욱 모호해진다는 지적이다. 이에 따라 보안과 관리 요건을 충족한 계열사 간 공동 활용은 내부 업무로 간주하고, 일반적인 사내용 AI는 고영향 AI가 아닌 별개의 범주로 구분해 달라고 요청했다.

AI를 개발한 주체와 이를 활용해 제품을 만드는 주체 간의 책임 분리도 핵심 요구 사항이다. 예를 들어 일반 업무용 AI를 공급받은 기업이 이를 인명 안전에 직결되는 고영향 용도로 변경해 사용할 경우, 용도를 바꾼 기업이 위험 관리 책임을 져야 한다는 논리다. 이는 기존 AI의 목적을 변경해 고위험 AI로 만든 사업자에게 의무를 부과하는 유럽연합(EU)의 AI법 사례와도 궤를 같이한다.

제약 및 바이오 산업의 연구 지원 AI에 대해서도 명확한 판단 기준을 요구했다. 전임상 단계의 독성 예측이나 의료기기 개발용 코딩 지원, 연구 데이터 분석 등이 고영향 AI에 해당하지 않는다는 점을 가이드라인에 명시해 달라는 것이다. 아울러 관계 부처의 의견을 통합적으로 확인할 수 있는 원스톱 창구의 마련도 함께 제안했다.

안전관리 기준의 조속한 확정과 데이터 활용 규정 정비

AI 안전관리에 관한 세부적인 의무 기준을 빠르게 확정해야 한다는 목소리도 높다. 고영향 AI의 위험 관리 및 이용자 보호 방안, 고성능 AI의 안전성 확보 의무 등을 담은 고시는 행정예고를 마쳤으나, 지난 14일 기준으로도 아직 제정되지 않은 상태다. 이로 인해 기업들은 의무 이행을 위해 구체적으로 무엇을 준비해야 하는지 판단하는 데 어려움을 겪고 있다.

이와 함께 학습용 데이터와 관련된 저작권 및 개인정보 기준을 통합한 가이드라인 마련을 요구했다. 특히 AI의 개발과 검증, 성능 개선을 위한 연구 활동이 가명정보를 사용할 수 있는 '과학적 연구' 범위에 포함된다는 점을 법률에 명시해 달라고 건의했다.

권혁민 한경협 성장전략실장은 "AI 기본법이 거둘 실질적인 성과는 기업들이 현장에서 AI를 신뢰하고 활용하는 사례가 얼마나 늘어나는지에 달려 있다"며, "실제 위험과 기업의 역할에 맞게 의무를 구체화해 기업이 안전한 AI 활용과 혁신에 집중할 수 있도록 해야 한다"고 말했다.