한경협, AI기본법 개선 건의…"인공지능사업자 의무 대상 명확히 해야"

회원사 의견 수렴해 과기정통부에 건의

사내 AI 적용범위·연구지원 AI 기준 정비

안전관리 고시 확정·데이터 통합지침 요구

한국경제인협회 표지석.ⓒ한국경제인협회

한국경제인협회(한경협)가 인공지능(AI)기본법의 규제 적용 대상과 기업의 책임 범위를 명확히 할 것을 요구했다. 사내 업무용 AI와 외부 고객용 서비스를 구분하고 기업이 실제로 통제할 수 있는 위험에 맞춰 의무를 나눠야 한다는 주장이다.

한경협은 올해 1월22일부터 시행된 AI기본법과 관련해 회원사 의견을 수렴한 개선과제 19건을 과학기술정보통신부에 건의했다고 29일 밝혔다.

건의는 규제 대상·적용범위 명확화, AI 사용 사실 고지·표시 의무 합리화, 고성능·고영향 AI 규제 구체화, 학습데이터 활용기준 정비, 규제 확대의 예측가능성 확보 등 5개 분야로 구성됐다.

한경협은 우선 기업 내부에서만 사용하는 AI의 법적 지위가 불분명하다고 지적했다. 자체 개발한 AI를 임직원이나 계열사가 함께 사용하는 경우에도 외부 고객에게 제공하는 서비스와 같은 사업자 의무를 적용받는지 판단하기 어렵다는 것이다.

이에 고영향 AI가 아닌 일반 사내 업무용 AI는 외부 제공 서비스와 구분하도록 건의했다. 계열사 간 공동 활용도 외부 제공 금지와 내부 사용자 한정, 접근권한·보안 관리 등의 요건을 충족하면 내부 업무로 인정해야 한다는 입장이다.

AI 개발기업과 이를 활용해 제품·서비스를 제공하는 이용기업의 책임도 역할에 맞게 구분할 것을 요구했다. 개발 과정과 기술적 특성에 관한 위험은 개발기업이 관리하고 실제 활용·운영 과정의 위험은 이용기업이 관리하도록 하자는 취지다.

일반 업무용으로 개발된 AI를 다른 기업이 사람의 안전에 영향을 미치는 고영향 AI로 바꿔 제공한다면 용도를 변경한 기업이 그에 따른 위험관리 책임을 지도록 제안했다. 한경협은 관련 가이드라인의 안내를 법령에 반영해 책임 소재를 명확히 해야 한다고 강조했다.

제약·바이오 분야에서는 연구지원 AI의 고영향 AI 해당 여부를 판단할 기준을 구체화하도록 건의했다. 현행 가이드라인은 연구개발 단계에서 도구로 활용하는 AI가 고영향 AI 의무 대상이 아니라고 안내하지만 이 설명만으로 다양한 연구지원 AI를 판단하기 어렵다는 지적이다.

한경협은 전임상 단계 연구지원과 의료기기 개발에 필요한 기본적인 코딩 지원, 연구데이터 분석 등을 고영향 AI에 해당하지 않는 사례로 명시하도록 제안했다. 보건복지부·식품의약품안전처 등 관계기관의 의견을 한곳에서 확인할 수 있는 '원스톱 확인 창구'도 요구했다.

기업의 안전관리 의무를 구체화하는 고시 마련도 촉구했다. 한경협이 제시한 14일 기준 현황에 따르면 고영향 AI 사업자의 책무와 고성능 AI의 안전성 확보 방법 등을 정하는 고시는 각각 3월과 7월 행정예고됐지만 아직 제정되지 않았다.

생성형 AI 분야에서는 예측·추천·결정을 주목적으로 하는 AI를 생성형 AI 정의에서 제외하고 고지·표시 책임을 구체화할 것을 제안했다. 서비스 안에서 제공하는 생성물과 다운로드·공유 등으로 외부에 반출하는 생성물의 표시 위치를 구분하고 딥페이크 고지·표시 의무의 중복 적용도 해소하도록 했다.

학습데이터에 대해서는 개인정보·저작권·계약 조건 등에 흩어진 기준을 연계한 통합지침 마련을 요구했다. AI 개발·검증·성능개선 연구가 가명정보를 활용할 수 있는 '과학적 연구'에 해당한다는 점을 법률에 명시하는 방안도 담았다. 고영향 AI 범위를 확대할 때는 적용 원칙과 유예기간을 사전에 제시하도록 건의했다.

권혁민 한경협 성장전략실장은 "AI 기본법의 성과는 기업 현장에서 AI를 믿고 활용하는 사례가 얼마나 늘어나는지에 달려 있다"며 "AI의 실제 위험과 기업의 역할에 맞게 의무를 구체화해 기업이 안전한 AI 활용과 혁신에 집중할 수 있도록 해야 한다"고 강조했다.