신약 개발부터 업무 자동화까지, 모호한 AI 규제 기준
제약 및 바이오 산업계에서는 신약 후보 물질을 찾아내거나 독성을 예측하는 등 연구개발의 전 과정에 인공지능(AI)을 적극 도입하고 있다. 현행 법률 체계상 연구개발 단계의 도구로 쓰이는 AI는 사람의 생명이나 신체 안전, 혹은 기본권에 중대한 위협을 가할 가능성이 있는 '고영향 AI' 의무 대상에 해당하지 않는다. 그러나 실제 산업 현장에서는 특정 AI가 규제 대상인지 여부를 판단하는 기준이 매우 모호하다는 문제가 제기되고 있다.
기업들의 AI 활용 폭이 급격히 넓어지는 추세임에도 불구하고, 규제가 적용되는 범위와 책임의 한계가 명확히 설정되지 않아 현장의 혼란과 부담이 가중되고 있다는 목소리가 높다. 기업들이 불확실성 없이 안심하고 AI 기술을 개발하고 실무에 적용할 수 있도록 관련 법적 기준을 구체화해야 한다는 주장이 힘을 얻고 있다.
한경협, AI 기본법 개선을 위한 19개 과제 건의
한국경제인협회(한경협)는 지난 29일, 올해 1월 22일부로 시행된 'AI 기본법'과 관련해 회원사들의 의견을 종합한 19건의 개선 과제를 과학기술정보통신부에 전달했다고 밝혔다. 이번 건의 내용은 총 5개 핵심 분야로 나뉜다. 구체적으로는 AI 규제 대상 및 적용 범위의 명확화, AI 사용 사실에 대한 고지 및 표시 의무의 합리적 조정, 고성능 및 고영향 AI 규제의 구체화, 학습 데이터 활용 기준의 정비, 그리고 AI 규제 확대에 따른 예측 가능성 확보 등이 포함됐다.
여기서 고성능 AI란 기술 수준이나 위험도, 학습에 투입된 누적 연산량 등 법정 요건을 모두 충족해 안전성 확보 의무를 지게 되는 AI를 뜻한다. 또한 고영향 AI는 법정 영역에서 작동하며 인간의 신체 안전이나 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 기술을 의미한다.
사내 업무용 AI의 법적 지위 정립 필요성
한경협은 규제 범위를 명확히 하기 위한 핵심 과제로 '사내 업무용 AI'의 불분명한 법적 지위부터 바로잡아야 한다고 지적했다. 최근 기업들은 업무 효율을 극대화하기 위해 자체적으로 개발한 AI를 임직원이나 계열사 간에 공유하는 사례가 늘고 있다. 하지만 현행법상 이러한 내부용 AI가 규제 대상인지에 대한 기준이 불분명해 현장에서는 큰 혼선을 겪고 있다.
특히 회사 내부용 AI가 외부 고객을 대상으로 하는 상용 서비스와 동일하게 인공지능사업자의 의무를 지는지 여부가 불투명하다. 지주사가 계열사와 함께 AI 시스템을 공동으로 구축하여 사용하는 경우, 적용 기준을 판단하기는 더욱 까다로워진다. 인공지능사업자는 AI를 개발해 제공하거나 이를 활용해 제품 및 서비스를 제공하는 자를 말하며, 법령에 따라 위험 관리와 이용자 보호, 안전성 확보 등의 의무를 이행해야 한다.
책임 소재 명확화와 구체적 가이드라인 마련 촉구
이에 한경협은 고영향 AI가 아닌 일반적인 사내 업무용 AI는 외부 서비스와 엄격히 구분해야 한다고 제안했다. 또한 보안 및 관리 요건을 충족한 계열사 간의 공동 활용은 내부 업무로 인정해 달라는 의견을 냈다. 아울러 AI 개발사와 이를 활용해 서비스를 제공하는 기업 간의 책임 배분 문제도 해결해야 한다. 현행법은 개발사와 서비스 제공사 모두에게 위험 관리와 고지 의무를 부여하고 있으나, 한경협은 각 기업의 역할과 실제 관리 가능한 범위를 고려해 의무를 나누어야 한다고 설명했다.
더불어 기업들이 안전관리 의무를 어떻게 이행해야 하는지 알 수 있도록 구체적인 방법과 기준을 담은 고시를 조속히 마련할 것을 요청했다. 권혁민 한경협 성장전략실장은 AI 기본법의 실질적인 성과는 기업들이 현장에서 AI를 신뢰하고 활용하는 사례가 얼마나 늘어나는지에 달려 있다고 언급하며, 기업이 혁신에 집중할 수 있도록 실제 위험도와 역할에 맞춘 구체적인 의무 설정이 필요하다고 강조했다.