AI 기본법 개선을 위한 19개 과제 제출
한국경제인협회(한경협)는 회원사들의 다양한 목소리를 바탕으로 인공지능(AI) 기본법의 개선이 필요한 19가지 과제를 정리하여 과학기술정보통신부에 전달했다고 29일 발표했다. 이번 건의 사항은 크게 다섯 가지 영역으로 나뉜다. 구체적으로는 AI 규제의 적용 범위와 대상에 대한 명확한 기준 마련, AI 사용 여부를 알리는 고지 및 표시 의무의 합리화, 고성능 혹은 고영향 AI에 대한 규제 내용의 구체화, 학습 데이터 활용을 위한 기준 정비, 그리고 AI 규제 확대에 따른 예측 가능성 확보 등이 포함되었다.
사내 업무용 AI와 외부 서비스의 구분 필요성
협회는 현재 사내에서 운용되는 업무용 AI의 법적 지위가 불분명하다는 점을 주요 문제로 꼽았다. 기업 내부에서만 활용되는 AI가 상용 서비스와 똑같이 인공지능사업자의 의무 대상에 포함되는지가 불명확하기 때문이다. 만약 사내 AI가 규제 대상에 포함될 경우, AI의 특성과 요건에 따라 이용자 보호와 안전성 확보, 위험 관리 등의 막중한 의무를 수행해야 하는 상황이 발생한다. 이에 한경협은 일반적인 사내 업무용 AI를 외부 제공용 서비스와 확실히 구분할 것을 요청했다. 또한, 일정한 보안 체계와 관리 기준을 충족한 상태에서 계열사들이 공동으로 사용하는 경우도 내부 업무의 범주로 인정해 달라고 건의했다.
개발사와 서비스사 간 책임 소재 명확화
AI를 직접 개발한 주체와 이를 이용해 서비스를 운영하는 주체 사이의 역할 및 책임을 분명히 나누어야 한다는 주장도 제기되었다. 현재의 법 체계는 개발사와 서비스 운영사 모두에게 위험 관리와 고지 및 표시 의무를 동시에 부과하고 있다. 예를 들어, 일반 업무 목적으로 개발된 AI를 특정 기업이 가져가서 고영향 AI로 용도를 변경해 서비스를 제공할 경우, 그에 따른 위험 관리 책임은 용도를 바꾼 기업이 지는 것이 논리적으로 타당하다는 설명이다. 여기서 고영향 AI란 법정 영역에서 활용되어 인간의 신체적 안전이나 생명, 혹은 기본권에 심각한 영향을 주거나 위험을 유발할 가능성이 있는 인공지능을 의미한다.
산업별 기준 구체화 및 제도적 준비 촉구
협회는 제약 및 바이오 분야의 연구를 지원하는 AI를 고영향 AI로 판단할 때 적용할 구체적인 기준을 마련해 달라고 요청했다. 아울러 기업들이 AI 안전관리 의무를 차질 없이 이행할 수 있도록, 구체적인 실행 방법과 기준을 명시한 고시를 조속히 확정해 줄 것을 건의했다. 권혁민 경제인협회 성장전략실장은 AI가 가진 실질적인 위험성과 기업의 실제 역할을 반영하여 의무 사항을 구체화해야 한다고 강조하며, 이를 통해 기업들이 혁신과 안전한 AI 활용에 전념할 수 있는 환경이 조성되어야 한다고 말했다. 한편, 대한민국은 오는 22일 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'을 시행할 예정이며, 이는 전 세계 국가 중 AI 규제법을 전면적으로 도입하는 첫 사례가 될 전망이다.