AI 생성물 워터마크 표시 의무화 등 새로운 디지털 질서 정립 추진계획

정부에서는 최근 '새로운 디지털 질서 정립 추진계획'을 발표 및 '디지털 권리장전'을 구체화한 범부처 계획으로, 디지털 심화시대의 새로운 질서 정립과 디지털 쟁점 해결을 목표로 하고 있습니다.

주요 내용은 AI 생성물 워터마크 의무화, AI 안전성 확보, 사이버 위협 대응, 개인 디지털 권리 보장 등입니다.

 

AI 생성물 워터마크 표시 의무화 등

 

목차

• AI 혁신과 안전·신뢰의 균형
• 디지털 위협 대응 방안
• 디지털 포용성 제고 방안
• 디지털 포용성 제고 방안
• AI 저작권 제도 정비와 디지털 자산 규범 정립 등 12개 추가 과제
• 디지털 질서 정립 추진계획의 성과 창출을 위한 협업과 공론화
• 결론

AI 혁신과 안전·신뢰의 균형

정부는 AI 기술의 발전과 함께 안전성과 신뢰성 확보를 위한 균형을 모색하고 있습니다. 이를 위해 다음과 같은 주요 계획을 수립했습니다.

새로운 디지털 질서 정립 추진계획

 

AI 혁신을 위한 법제 정비

• 연내 AI 혁신과 안전·신뢰의 균형을 위한 법제 제정을 마무리할 계획입니다.
• 이를 통해 선도적인 AI 규범 체계를 정립하고, 글로벌 AI 규범·거버넌스 논의를 주도할 예정입니다.

AI 안전성 확보 방안

• AI 안전성을 검증·연구하는 전담조직을 설치하여 아태지역의 AI 안전 허브로 육성할 계획입니다.
• AI 생성물에 대한 워터마크 표시 의무화, 디지털서비스 안전법 제정 등을 통해 AI 안전성을 강화할 것입니다.
• 편향성, 환각, 불투명성, 일관성 결여 등 AI 기술의 한계를 극복하기 위한 노력도 병행할 예정입니다.

AI 윤리와 신뢰 확보

• AI 저작권 워킹그룹 운영을 통해 이해관계자 간 조정을 거쳐 AI 학습 이용 저작물에 대한 적정이용 대가 산정방안을 마련할 계획입니다.
• 개인 건강정보보호, 처방전 위·변조 방지 등 AI 기반 비대면 진료 서비스의 관리체계 개선 방안도 마련할 예정입니다.
• 디지털 기기와 서비스에 익숙하지 않은 소외계층을 위한 맞춤형 디지털 포용서비스를 강화하여 디지털 접근성을 높이겠습니다.

개인 디지털 권리 보장

• '연결되지 않을 권리'와 '잊힐 권리' 등 개인의 디지털 권리 향상을 위한 노력을 추진할 계획입니다.
• 특히 디지털 네이티브인 아동·청소년의 잊힐 권리 제도화와 지우개 서비스 확대를 통해 실현을 지원할 예정입니다.

 

종합적으로 정부는 AI 기술 혁신과 함께 안전성, 윤리성, 신뢰성 확보를 위한 균형을 모색하고 있습니다. 이를 위해 법제 정비, 안전성 확보, 윤리 기준 마련, 개인 디지털 권리 보장 등 다각도의 노력을 기울이고 있습니다.

 

디지털 위협 대응 방안

정부는 고도화·지능화되는 디지털 위협에 철저히 대비하기 위해 다음과 같은 대응 방안을 마련했습니다.

8대 핵심과제

 

디지털서비스 안전법 제정

• 디지털 위협에 대한 국가 차원의 대응체계를 확충하기 위해 '디지털서비스 안전법' 제정을 추진합니다.
• 이를 통해 디지털 서비스 분야의 안전성과 신뢰성을 제고할 계획입니다.

사이버 범죄 대응체계 정비

• 피싱, 디지털성범죄 등 민생 사이버 범죄에 대한 대응체계를 정비할 예정입니다.
• 이를 통해 국민의 디지털 생활 안전을 강화할 것입니다.

핵심 보안기술 개발 투자 확대

• 4대 핵심 보안기술 개발을 위한 투자를 대폭 늘려, 올해 1141억 원을 집중 투자할 계획입니다.
• 이를 통해 디지털 위협에 대한 선제적 대응 능력을 강화할 것입니다.

AI 생성물 워터마크 의무화

• AI 생성물에 대한 워터마크 표시 의무화를 추진하여 딥페이크 가짜뉴스 대응에 나설 것입니다.
• 관련 법령 제·개정을 통해 AI 생성물의 신뢰성과 투명성을 확보할 예정입니다.

AI 안전성 검증 전담조직 설치

• AI 안전성을 검증·연구하는 전담조직을 설치하여 아태지역의 AI 안전 허브로 육성할 계획입니다.
• AI 기술의 편향성, 환각, 불투명성 등 한계를 극복하기 위한 노력을 기울일 것입니다.

디지털 포용성 강화

• 소외계층을 대상으로 맞춤형 디지털 포용서비스를 제공하여 디지털 접근성을 높이겠습니다.
• 디지털 기기와 서비스에 익숙하지 않은 사람들을 위해 행정·금융 등 필수영역에서 디지털 대체 수단을 확대할 예정입니다.

종합적으로 정부는 디지털 위협에 대한 체계적인 대응 방안을 마련하고 있습니다. 법제 정비, 보안기술 투자, AI 안전성 확보, 디지털 포용성 강화 등 다각도의 노력을 통해 국민의 디지털 생활 안전을 보장하고자 합니다.

 

디지털 포용성 제고 방안

정부는 디지털 기술과 서비스에 소외되는 계층을 위해 다음과 같은 노력을 기울이고 있습니다.

AI 생성물'에 워터마크 의무화

 

맞춤형 디지털 포용서비스 제공

• 소외계층을 대상으로 한 맞춤형 디지털 포용서비스를 강화하여 디지털 접근성을 높이겠습니다.
• 이를 통해 모든 국민이 디지털 기술과 서비스를 공평하게 이용할 수 있도록 지원할 계획입니다.

디지털 대체 수단 확대

• 디지털 기기와 서비스에 익숙하지 않은 사람들을 위해 행정, 금융 등 필수 영역에서 디지털 대체 수단을 확대할 예정입니다.
• 이를 통해 디지털 소외계층의 불편을 해소하고 디지털 포용사회를 적극 구현해 나갈 것입니다.

비대면 진료 제도화

• 국민 건강 증진을 위해 비대면 진료를 본격적으로 제도화할 계획입니다.
• 의료법 개정을 통해 비대면 진료의 법적 근거를 마련하고, 디지털 혁신기술과 서비스의 비대면 진료 연계를 강화할 것입니다.
• 개인 건강정보 보호, 처방전 위·변조 방지 등 관리체계 개선 방안도 마련할 예정입니다.

디지털 권리 향상 노력

• '연결되지 않을 권리'와 '잊힐 권리' 등 개인의 디지털 권리 향상을 위한 노력을 본격적으로 추진할 계획입니다.
• 노·사·정 논의를 통해 연결되지 않을 권리에 대한 공론화를 시작하고, 디지털 기업의 자발적 인식개선을 유도할 것입니다.
• 디지털 네이티브인 아동·청소년의 잊힐 권리 제도화와 지우개 서비스 확대를 통해 실현을 지원할 예정입니다.

종합적으로 정부는 디지털 소외계층을 위한 맞춤형 서비스 제공, 디지털 대체 수단 확대, 비대면 진료 제도화 등 다양한 방안을 통해 디지털 포용성을 제고하고자 합니다. 또한 개인의 디지털 권리 향상을 위한 노력도 병행하고 있습니다.

이를 통해 모든 국민이 디지털 기술과 서비스를 공평하게 이용하고 누릴 수 있는 디지털 포용사회를 구현하고자 합니다.

 

개인 디지털 권리 보장 방안

정부는 디지털 심화시대에 더욱 중요해질 수 있는 개인의 디지털 권리 향상을 위해 다음과 같은 노력을 기울이고 있습니다.

 

'연결되지 않을 권리' 보장

• 노·사·정 논의를 통해 '연결되지 않을 권리'에 대한 공론화를 본격적으로 시작할 계획입니다.
• 원격·유연근무와 초과근무가 많은 디지털 기업부터 자발적인 인식개선을 유도할 것입니다.

'잊힐 권리' 제도화

• 디지털 네이티브인 아동·청소년의 경우 수많은 개인정보가 온라인에 누적되어 특별한 법적 보호가 요구됩니다.
• 이에 따라 이들의 '잊힐 권리'를 제도화하고, 지우개 서비스 확대를 통해 실현을 지원할 예정입니다.

개인정보 보호 강화

• 디지털 권리장전에 명시된 바와 같이, 개인정보 접근·통제권, 디지털 프라이버시 보호 등 개인정보 보호 강화를 위한 노력을 기울일 것입니다.
• 이를 통해 개인의 디지털 자기 결정권을 보장하고자 합니다.

디지털 자산 보호

• 개인의 투자와 노력으로 형성된 디지털 자산에 대한 정당한 보호와 거래의 공정성을 보장할 계획입니다.
• 디지털 자산의 규범 정립을 통해 개인의 디지털 자산권을 보호하고자 합니다.

종합적으로 정부는 '연결되지 않을 권리', '잊힐 권리', 개인정보 보호, 디지털 자산 보호 등 다양한 측면에서 개인의 디지털 권리 향상을 위해 노력하고 있습니다. 이를 통해 디지털 심화시대에 개인의 자유와 권리를 보장하고자 합니다.

 

AI 저작권 제도 정비와 디지털 자산 규범 정립 등 12개 추가 과제

AI 저작권 제도 정비와 디지털 자산 규범 정립 등 12개 추가 과제에 대해 자세히 알려드리겠습니다.

AI 저작권 제도 정비와 디지털 자산 규범 정립 등 12개 추가 과제

AI 저작권 제도 정비

• AI 기술 발전에 따라 AI 학습 이용 저작물에 대한 적정 이용 대가 산정 기준을 마련할 계획입니다. 
• AI 저작권 워킹그룹 운영을 통해 이해관계자 간 조정 결과와 연구 결과를 종합하여 연말까지 저작권법 등 제도 정비 방안을 마련할 예정입니다. 
• 최근 EU와 미국에서도 AI 관련 저작권 제도 정비가 이루어지고 있어, 국내에서도 이에 발맞추어 제도 개선이 필요한 상황입니다. 

디지털 자산 규범 정립

• 개인의 투자와 노력으로 형성된 디지털 자산에 대한 정당한 보호와 거래의 공정성을 보장하기 위해 디지털 자산의 규범 정립이 필요합니다. 
• 이를 통해 개인의 디지털 자산권을 보호하고 디지털 자산 거래의 투명성과 안전성을 확보할 수 있을 것으로 기대됩니다.

기타 12개 추가 과제

• 디지털 심화에 따른 노동·교육·사회 시스템 정비
• 디지털 자산의 안전한 거래 및 관리 체계 구축
• 디지털 기술 활용 확대에 따른 윤리 및 책임 체계 마련
• 디지털 기술 발전에 따른 법·제도 정비 등

정부는 이와 같이 AI 저작권, 디지털 자산, 디지털 기술 활용 등 다양한 분야에서 새로운 규범과 제도를 정립하여 디지털 심화시대에 발맞춰 나갈 계획입니다.

 

디지털 질서 정립 추진계획의 성과 창출을 위한 협업과 공론화

과기정통부는 정부가 발표한 '새로운 디지털 질서 정립 추진계획'의 성과 창출을 위해 다음과 같은 노력을 강조했습니다.

 

심층 정책연구와 협업

• 7월부터 고용부, 복지부, 여가부와 함께 심층 정책연구를 본격 착수하여 국내외 동향조사와 다양한 정책방안을 검토할 예정 관계부처가 협력하여 AI 안전·신뢰·윤리, 디지털 접근성 제고, 딥페이크 가짜뉴스 대응, 비대면 진료 안정화 등을 주제로 사회적 공론화를 집중 추진

국민 참여와 공론화

• 디지털 공론장을 통한 디지털 심화 쟁점별 투표, 정책 아이디어 공모전, 청소년·대학생 토론회 등을 새롭게 도입하여 일반 국민의 의견을 적극 청취하고 정책에 반영

시기	주제
5월 ~ 6월	AI 안전·신뢰·윤리 확보
7월 ~ 8월	디지털 접근성 제고
9월 ~ 10월	딥페이크를 활용한 가짜뉴스 대응
11월 ~ 12월	비대면 진료의 안정적 시행

국민 참여와 공론화

 

결론

 

정부의 이번 추진계획을 통해 AI 혁신과 안전·신뢰의 균형, 디지털 위협 대응, 디지털 포용성 제고, 개인 디지털 권리 보장 등을 종합적으로 추진, 디지털 구상인 '디지털 권리장전'을 구체화한 것으로, 디지털 심화시대에 대응하고 새로운 디지털 질서를 선도해 나갈 것으로 기대됩니다.