 ▲ 이상휘 의원 ©이상휘 의원실 |
【브레이크뉴스 포항】박영재 기자=국민의힘 이상휘 국회의원(포항 남·울릉)은 12일 생성형 인공지능(AI) 또는 인공지능시스템을 이용해 만들어진 결과물의 표시를 훼손·위조·변조하는 행위를 금지하는 내용을 담은 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법' 일부개정법률안을 대표 발의했다고 밝혔다.
현행법은 인공지능의 투명성 확보를 위해 인공지능사업자에게 생성형 인공지능이나 인공지능시스템을 활용해 제작한 결과물에 대해 표시 의무를 부과하고 있다. 그러나 해당 표시를 고의로 훼손하거나 위조·변조하는 행위에 대해서는 별도의 제재 규정이 없어, 인공지능으로 생성된 결과물이 사람의 직접 창작물이나 실제 존재하는 사실처럼 유통될 수 있다는 지적이 제기돼 왔다.
이 의원이 발의한 개정안은 이러한 규제 공백을 보완하는 데 초점을 맞췄다. 생성형 인공지능 또는 인공지능시스템을 이용한 결과물의 표시를 훼손·위조·변조하는 행위를 명시적으로 금지하고, 이를 위반할 경우 3천만원 이하의 과태료를 부과하도록 했다.
이를 통해 인공지능 결과물의 출처와 생성 방식을 명확히 해 허위·조작 정보 유통을 방지하고, 인공지능 투명성 확보 체계의 실효성을 강화하겠다는 취지다.
이 의원은 “생성형 AI 기술이 급속히 확산되는 상황에서 결과물의 출처를 명확히 하는 것은 사회적 신뢰를 지키기 위한 최소한의 안전장치”라며 “이번 개정안을 통해 인공지능에 대한 국민 신뢰를 제도적으로 뒷받침하겠다”고 밝혔다.
<구글 번역으로 번역한 영문 기사의 전문 입니다. 번역에 오류가 있을 수 있음을 밝힙니다.>
【Break News Pohang】Reporter Park Young-jae = People Power Party National Assemblyman Lee Sang-hwi (Pohang South/Ulleung) announced on the 12th that he had proposed a partial amendment to the "Framework Act on the Development of Artificial Intelligence and Creation of a Trust Foundation," which prohibits acts of damaging, falsifying, or altering labels of results created using generative AI or AI systems.
Current law requires AI businesses to label results created using generative AI or AI systems to ensure transparency in AI. However, there are no separate sanctions for intentionally damaging, falsifying, or altering such labels, leading to concerns that AI-generated results could be distributed as if they were human creations or real facts.
The amendment proposed by Representative Lee focuses on addressing this regulatory gap. It explicitly prohibits acts of damaging, falsifying, or altering labels of results created using generative AI or AI systems, and imposes fines of up to 30 million won for violations.
This aims to clarify the source and method of creation of AI results, thereby preventing the spread of false and manipulated information and strengthening the effectiveness of the AI transparency system.
Representative Lee stated, "With the rapid proliferation of generative AI technology, clarifying the source of results is the minimum safeguard to maintain social trust. Through this amendment, we will institutionally support public trust in AI."
원본 기사 보기:브레이크뉴스 대구경북
