▲11일 오전 국회의원회관에서 열린 '국민의 안전, 인권 및 민주주의와 AI 공존을 위한 제정 방향'이라는 주제의 토론회가 열렸다. ⓒ 윤종은
인공지능이 초래할 위험에 대비 필요
생성형 AI(인공지능), 챗 GPT의 등장으로 AI에 관한 기대가 높아지면서 AI를 활용한 서비스와 상품이 사회 곳곳에서 쓰이고 있어 국내 기업들이 글로벌 AI 경쟁에서 밀리지 않도록 육성이 필요하다는 요구가 높아지고 있다.
지난 국회에서 AI 육성 위주의 법안이 다수 발의됐으나 세계의 주요 국가들은 AI가 편익과 효율을 주는 이면에 편향과 차별, 개인정보와 프라이버시 침해, 소비자권리 침해, 노동 착취, 환경문제 등을 초래한다는 사실에도 주목해 적절한 규제를 모색하고 있다
한국의 AI 기본법도 세계적 추세를 참고하고 인공지능이 초래할 수 있는 위험에 대비할 수 있도록 제정될 필요가 있다. 국민의 안전과 인권 및 민주주의와 함께 가는 신뢰할 수 있는 AI 규범 마련의 방향을 모색하는 정책토론회가 개최됐다.
11일 오전 10시 국회의원회관 제5간담회실에서 열린 '국민의 안전, 인권 및 민주주의와 AI 공존을 위한 제정 방향'라는 주제의 토론회는 많은 국회의원들과 관련 시민단체들이 공동 주관하고 여러 전문가들과 정부 부처 담당자들도 참석해 성황을 이뤘다.
▲국회의원회관에서 열린 '국민의 안전, 인권 및 민주주의와 AI 공존을 위한 제정 방향'라는 주제의 토론회에서 오병일 진보네트워크센터 대표가 '인공지능 규범의 국제적 흐름과 시사점'이라는 주제발표를 했다. ⓒ 윤종은
EU 및 미국 등 국제적 규제 강화 추세
한상희 참여연대 공동대표가 사회를 맡은 가운데 오병일 진보네트워크센터 대표가 '인공지능 규범의 국제적 흐름과 시사점'이라는 주제발표를 했다. 그의 발언을 요약하면 고위험 AI 규제 필요성에 대한 국제적 인식이 확산 중이다.
유엔은 2020년 3월 '신기술 역할 보고서'를 통해 AI 사용에 대한 책임성 보장에 관한 규정을 권고한 이후 단계적으로 책임성을 강화하는 조치를 보여왔고 금년 3월 신뢰 가능한 안전성과 보안성을 증진하는 결의안을 채택했다. 작년 11월에는 영국 AI 안전 정상회의에서 범용 AI의 위험성에 대해 악의적인 사용위험, 오작동 위험, 시스템적 위험으로 정의하는 국제과학보고서를 채택했다.
EU의 AI 법안은 2019년 4월 AI 윤리 가이드라인을 발표한 이후 규정을 강화시켜오다 작년 3월 'AI Act'를 유럽의회에서 공식 통과시켰고 이는 금년 7월 발효 예정이다. 유럽 AI Act의 시사점은 세계 최초로 AI를 포괄적으로 규율하는 법으로서 AI의 혁신을 촉진하면서도 시민의 안전과 인권에 중심을 두었다는 점이다.
미국의 경우 2019년 2월 트럼프 정부가 '미국의 AI 리더십 유지 행정명령'을 발표한 이후 점차 규제를 강화해오다 금년 5월 상원에서 AI 정책로드맵을 발표했다. 미국 행정명령의 시사점은 트럼프 정부는 AI 활용과 윤리 원칙에 관한 반면 바이든 정부는 보안과 안전에 대한 대책에 중점을 두었다는 점이다.
국제동향을 종합하면 유럽, 미국을 비롯 AI 위험성에 대해 차별적인 규제를 적용하면서 규제 방식이 유럽은 포괄적인데 미국은 부문별이고, 최소한의 책임성을 위한 법적 규제를 하고있다. 또 AI 안전성을 기반으로 AI 성장도 가능하고 인권, 안전, 민주주의에 기반한 AI 거버넌스가 필요하다고 보고 있다.
▲국회의원회관에서 열린 정책토론회에서 유승익 한동대 교수가 '22대 국회 인공지능법 입법 방향'이라는 주제발표를 했다. ⓒ 윤종은
실효성 있는 다양한 수준의 제재 규정 포함해야
이어서 유승익 한동대 교수가 '22대 국회 인공지능법 입법 방향'이라는 주제발표를 했다. 그의 발언을 요약하면 제 22대 국회에서 총 5건의 인공지능법이 발의되었는데 이전 논의되던 법률안의 취지와 내용을 답습하고 인공지능을 산업 진흥의 관점에서 접근함으로써 인공지능이 갖는 위험성을 간과하고 있다는 지적이다.
이 법률안들은 AI산업 육성 도모와 신뢰기반 조성이 주 내용이고 AI의 고유한 특성, 다양한 수준의 자율성과 그 변화 양상을 포괄하지 못하고 있다. 안전 및 인권에 미치는 위험을 체계적으로 규율하기보다 산발적, 제한적으로 규정하고 있어 국민의 권리를 침탈하거나 민주적 기본질서에 위협이 되는 금지 인공지능을 사실상 용인하고 있다.
앞으로 제정될 인공지능법은, 유럽연합의 AI Act나 미국의 AI 행정명령 등 국제적 표준을 준용해서 금지 인공지능, 고위험 인공지능 등을 정의하고 이를 금지하며 차등화된 의무를 부과하여야 한다. 또한 실효성을 확보하기 위하여 다양한 수준의 제재 규정을 포함하여야 한다.
한편, 인공지능 감독을 위한 국가-지역 거버넌스 구축에서 독립성과 통합성이 고려되어야 한다. 감독 거버넌스는 상충하는 이해관계를 조정하고 범부처가 관여할 수 있는 새로운 국가 독립 감독기관을 구축할 필요가 있다.
▲국회의원회관에서 열린 정책토론회에서 차지호 국회의원이 발표하고 있다. ⓒ 윤종은
▲국회의원회관에서 열린 정책토론회에서 김우영 국회의원이 인사말을 하고 있다. ⓒ 윤종은
▲ 국회의원회관에서 열린 정책토론회에서 이훈기 국회의원이 인사말을 하고 있다. ⓒ 윤종은
인권 윤리와 산업 발전이 어우러진 기본법 필요
이어진 토론에서는 차지호 국회의원이 AI 미래 영향력 예측과 공공성 강화 방안을 제시했고, 민변의 김병욱 변호사는 산업 안전과 금융소비자 보호 등 다양한 관점과 전문성을 포괄하는 통합적인 규제 거버넌스 마련을 제시했다. 한국인터넷기업협회 김영규 실장은 AI기술에 대한 우선허용-사후규제 원칙 적용, 사회적 약자에 대한 교육 지원을 주장했다.
정부를 대표해 참석한 과기부 인지능정책과기반과 남철기 과장은 AI 발전 및 신뢰 기반 조성을 균형있게 고려한 AI기본법 제정을, 공정거래위원회 이준헌 과장은 과잉 규제 대신 반독점 제한 적용을, 개인정보보호위원회 김직동 과장은 일률적 형식적 규율 대신 원칙 기반에서 기업들의 불확실성 감소를, 국가인권위원회 이진석 사무관은 AI의 인권침해 영향의 법제화와 제3의 감독기구 설립을 각각 주장했다.
토론이 끝난 후 김남근 국회의원은 "해외에서 인공지능을 둘러싼 소송전이 격화되고 국내에서도 기술을 둘러싸고 이해자 간 갈등이 첨예해지면 한국 정치는 갈등의 중재자로 나서야 한다"고 말했다. 김용만 국회의원은 "인공지능에 대한 많은 논의가 이번 국회에서 결과를 내야 할 때다. 인권 윤리와 산업 발전이 함께 어우러진 탄탄한 인공지능 기본법이 만들어지길 바란다"고 말했다.
김우영 국회의원은 "국민의 안전과 인권, 민주주의가 함께 갈 수 있도록 핵심적인 역할을 하며 법과 제도적인 개선에 최선을 다하겠다"고 말했고, 박민규 국회의원은 "인공지능의 발전이 초래할 수 있는 다양한 윤리적, 사회적 문제들을 사전에 예방하고 국민의 안전과 인권을 보호할 수 있는 체계를 구축하는 것이 중요하다"고 강조했다.
▲국회의원회관에서 열린 정책토론회에서 과기부 인지능정책과기반과 남철기 과장이 발표하고 있다. ⓒ 윤종은
▲국회의원회관에서 열린 정책토론회에서 황정아 국회의원이 인사말을 하고 있다. ⓒ 윤종은
▲국회의원회관에서 열린 정책토론회에서 이강일 국회의원이 인사말을 하고 있다. ⓒ 윤종은