불투명한 AI 규제 기준, 기업 현장 부담 가중
인공지능(AI) 기술의 산업 현장 도입이 가속화되는 가운데, 규제 대상과 책임 소재를 둘러싼 불확실성이 기업들의 경영 부담으로 이어지고 있다. 한국경제인협회(이하 한경협)는 지난 1월부터 시행된 AI 기본법과 관련하여 회원사들의 목소리를 수렴한 결과, 총 19건의 개선 과제를 도출해 과학기술정보통신부에 전달했다고 29일 밝혔다.
현장의 기업들은 AI 활용 범위가 급격히 넓어지고 있음에도 불구하고, 법적 규제가 적용되는 기준과 책임의 경계가 명확하지 않아 혼란을 겪고 있다는 입장이다. 이에 한경협은 기업들이 안정적인 환경에서 AI 기술을 개발하고 활용할 수 있도록 명확한 가이드라인을 마련해야 한다고 주장했다. 주요 건의 사항으로는 AI 규제의 적용 범위와 대상의 명확화, 고성능 및 고영향 AI에 대한 규제 구체화, 학습 데이터 활용 기준의 정비, AI 사용 사실의 고지 및 표시 의무의 합리화, 그리고 규제 확대에 따른 예측 가능성 확보 등이 포함됐다.
사내 업무용 AI의 법적 지위 및 책임 분리 필요성
한경협이 제기한 핵심 과제 중 하나는 사내 업무용으로 쓰이는 AI의 법적 지위를 정립하는 일이다. 최근 많은 기업이 임직원이나 계열사 간에 자체 개발한 AI를 공유하는 사례가 늘고 있으나, 내부용 AI에도 외부 상용 서비스와 동일한 수준의 인공지능사업자 의무가 부여되는지가 불분명한 상태다. 특히 지주사가 계열사와 함께 시스템을 구축해 공동으로 사용할 경우, 이를 어떻게 판단할지에 대한 기준이 모호하다는 설명이다.
현행법상 인공지능사업자는 AI의 종류나 법령 요건에 따라 이용자 보호, 안전성 확보, 위험 관리 등의 의무를 져야 한다. 이에 한경협은 인권이나 신체 안전에 위협을 줄 수 있는 '고영향 AI'와 일반적인 사내 업무용 AI를 엄격히 구분해야 한다고 제안했다. 또한 보안 및 관리 요건을 충족한 계열사 간 공동 활용 모델은 내부 업무의 연장선으로 인정해달라고 요청했다.
또한 AI 개발사와 이를 활용해 서비스를 운영하는 기업 간의 의무를 분리해야 한다는 지적도 나왔다. 현재는 개발사와 서비스 제공사 모두에게 위험 관리 및 고지 의무가 부과되어 있으나, 각자의 역할과 관리 범위에 맞춰 책임을 배분해야 한다는 논리다. 예를 들어 일반 업무용 AI를 가져와 고영향 AI로 용도를 변경해 서비스를 제공하는 경우, 그에 따른 위험 관리 책임은 실제 용도를 바꾼 기업이 지는 것이 타당하다는 것이다. 한경협은 이러한 내용을 과학기술정보통신부의 '고영향 AI 판단 가이드라인'에 반영할 것을 강조했으며, 이는 이미 고위험 AI의 제공자에게 의무를 부과하는 유럽연합(EU)의 규정 사례와도 맥을 같이 한다.
제약·바이오 산업의 구체적 가이드라인 요구
산업별 특수성을 고려한 세부 기준 마련도 촉구했다. 특히 제약 및 바이오 분야에서는 신약 후보물질을 찾거나 독성을 예측하는 등 연구개발(R&D) 전반에 AI가 쓰이고 있으나, 해당 기술이 규제 대상인 고영향 AI에 해당하는지 판단하기 어렵다는 고충이 있다. 현재 가이드라인은 연구 도구로 쓰이는 AI를 고영향 AI 의무 대상에서 제외한다고 명시하고 있지만, 현장에서는 이를 판단하기에 설명이 충분치 않다는 평가다.
한경협은 세포나 동물 실험을 위한 전임상 단계의 독성 예측 AI, 의료기기 개발을 돕는 기초 코딩 지원, 연구 데이터 분석용 AI 등을 고영향 AI가 아닌 사례로 가이드라인에 명확히 명시해달라고 요청했다. 아울러 보건복지부나 식품의약품안전처 등 여러 관계기관의 의견을 한 번에 확인할 수 있는 '원스톱 확인 창구' 설치도 제안했다. 기업들이 안전관리 의무를 어떻게 이행해야 하는지 구체적으로 알 수 있도록 세부 기준과 방법이 담긴 고시도 조속히 마련되어야 한다는 입장이다.
권혁민 한경협 성장전략실장은 AI 기본법이 실질적인 성과를 거두려면 기업들이 현장에서 AI를 신뢰하고 활용할 수 있는 환경이 조성되어야 한다고 강조했다. 그는 실제 위험도와 기업의 역할에 맞춰 의무 사항을 구체화함으로써, 기업들이 안전한 AI 활용과 기술 혁신에 전념할 수 있도록 지원해야 한다고 덧붙였다.