규제 대상과 책임 소재의 불분명함 지적
한국경제인협회(한경협)가 인공지능(AI) 기본법의 적용 범위를 재정립하고 기업이 짊어져야 할 책임의 경계를 확실히 규정할 것을 촉구했다. 한경협은 사내 업무용으로 쓰이는 AI와 대외 고객용 서비스를 분리하고, 기업이 실질적으로 통제할 수 있는 위험 수준에 맞춰 의무 사항을 차등 적용해야 한다는 입장이다.
한경협은 지난 29일, 올해 1월 22일부터 본격 시행된 AI 기본법과 관련해 회원사들의 의견을 바탕으로 정리한 19건의 개선 과제를 과학기술정보통신부에 전달했다고 밝혔다. 이번 건의 사항은 규제 대상 및 적용 범위의 명확화, AI 사용 사실에 대한 고지 및 표시 의무의 합리화, 고성능·고영향 AI 규제의 구체화, 학습 데이터 활용 기준의 정비, 그리고 규제 확장에 따른 예측 가능성 확보 등 총 5개 핵심 분야를 포괄하고 있다.
사내 AI와 외부 서비스의 분리 및 역할 분담 요구
우선 한경협은 기업 내부에서만 활용되는 AI의 법적 지위가 모호하다는 점을 문제로 삼았다. 자체적으로 개발한 AI를 임직원이나 계열사가 공동으로 사용할 때, 이를 외부 고객 대상 서비스와 동일한 잣대로 사업자 의무를 적용할지 판단하기 어렵다는 것이다. 이에 따라 고영향 AI가 아닌 일반적인 사내 업무용 AI는 외부 제공 서비스와 명확히 구분해야 한다고 제안했다. 특히 계열사 간 공동 활용 모델이라도 내부 사용자에게만 한정되고 보안 관리나 접근 권한 요건을 갖췄다면 내부 업무로 인정해야 한다는 논리다.
AI 기술을 직접 만드는 개발 기업과 이를 활용해 제품을 선보이는 이용 기업 간의 책임 구분도 주요 쟁점이다. 기술적 특성이나 개발 과정에서 발생하는 위험은 개발사에, 실제 운영 및 활용 단계의 위험은 이용사에 배분하자는 취지다. 만약 일반 업무용 AI를 가져와 인명 안전에 영향을 주는 고영향 AI로 용도를 변경해 제공한다면, 그에 따른 위험 관리 책임은 용도 변경을 수행한 기업이 지도록 해야 한다. 한경협은 이러한 책임 소재를 법령에 반영하기 위해 관련 가이드라인의 안내 내용을 명문화할 것을 강조했다.
연구 지원 AI 기준 정비 및 데이터 통합 지침 건의
제약 및 바이오 산업 분야에서는 연구 지원용 AI가 고영향 AI에 해당하는지를 가늠할 구체적인 기준 마련을 요구했다. 현행 가이드라인은 연구개발 도구로 쓰이는 AI가 고영향 AI 의무 대상이 아니라고 설명하고 있으나, 이것만으로는 다양한 형태의 연구 지원 AI를 구분하기에 부족하다는 지적이다. 한경협은 전임상 단계의 연구나 의료기기 개발용 코딩 지원, 연구 데이터 분석 등을 고영향 AI가 아닌 사례로 명시할 것을 제안하며, 보건복지부와 식품의약품안전처 등 관계 부처의 의견을 한눈에 볼 수 있는 '원스톱 확인 창구' 마련도 함께 요청했다.
기업의 안전관리 의무를 규정하는 고시 제정 속도에 대해서도 촉구의 목소리가 나왔다. 14일 기준 현황을 보면 고성능 AI의 안전성 확보 방안과 고영향 AI 사업자의 책무를 정하는 고시가 각각 3월과 7월에 행정예고되었으나 아직 최종 제정되지 않은 상태다. 한경협은 생성형 AI 정의에서 예측, 추천, 결정을 주 목적으로 하는 AI를 제외하고, 생성물의 표시 위치를 서비스 내부와 외부 반출물로 구분해 고지 책임을 구체화할 것을 제안했다. 아울러 딥페이크 관련 고지 의무의 중복 적용 문제도 해소해야 한다는 입장이다.
학습 데이터와 관련해서는 개인정보와 저작권, 계약 조건 등이 얽힌 기준을 연계한 통합 지침이 필요하다고 강조했다. 또한 AI의 개발과 검증, 성능 개선 연구가 가명 정보를 사용할 수 있는 '과학적 연구' 범주에 포함됨을 법률에 명시할 것을 건의했다. 권혁민 한경협 성장전략실장은 AI 기본법의 실질적 성과는 기업들이 현장에서 AI를 신뢰하고 활용하는 정도에 달려 있다며, 기업이 혁신에 집중할 수 있도록 위험에 맞춘 구체적인 의무 설정이 필요하다고 덧붙였다.