최근 국가사이버업무위원회, 국가발전개혁위원회, 교육부, 과학기술부, 공업정보화부, 공안부, 국가전파국 등 7개 부서 , Film and Television은 2023년 8월 15일부터 시행되는 "생성 인공 지능 서비스 관리를 위한 임시 조치"(이하 "임시 조치")를 공식 발표했습니다. 이 소식이 나오자마자 중국의 생성 인공 지능 분야에서 산업의 발전을 지도하고 감독하는 데 중요한 역할을 하고 혁신을 더 잘 촉진할 수 있는 규제 및 규범적 틀의 형성을 나타냅니다. 그리고 생성적 인공지능 기술의 적용.
실제로 '임시조치'는 올해 4월 11일 논평 초안으로 무대에 등장했다. 다만 당시는 의견을 수렴한 상태일 뿐 최종 문서가 아니었기에 아직은 '잠정조치'의 공식 초안을 설명하고 강조할 필요가 있다. Sa 자매의 팀은 독자와 친구들이 요점을 이해할 수 있도록 오늘 기사의 "임시 조치"를 해석하고 분석합니다. 또한 독자 및 오랜 지인들이 참고할 수 있도록 기사 말미에 "잠정 조치"의 원문을 첨부할 예정이며, 원문 뒤에 있는 "원문 읽기"를 클릭하시면 받아보실 수 있습니다.
01
"잠정 조치"와 "논평 초안"의 차이점
"생성 인공 지능 서비스 관리 조치(의견 초안)"(이하 "의견 초안")과 비교하여 중국 사이버 공간 관리국에서 발행한 "생성 인공 지능 서비스 관리 임시 조치"는 남아 있습니다. 전체적인 문체는 기본적으로 동일하고 일관성이 있으나 조항의 내용이 대대적으로 조정되었습니다. Sa 자매의 팀은 몇 가지 중요한 변화를 분석할 것입니다.
(1) 규제 대상
| "임시 조치" | "댓글 초안" |
| 제2조 이 방법은 중화인민공화국 영토 내에서 대중에게 서비스를 제공하기 위해 생성 인공 지능 제품의 연구, 개발 및 활용에 적용됩니다. 본 조치에서 언급하는 생성형 인공지능이란 알고리즘, 모델 및 규칙을 기반으로 텍스트, 그림, 사운드, 비디오, 코드 및 기타 콘텐츠를 생성하는 기술을 말합니다. | 제2조 이 방법은 중화인민공화국 영토 내에서 대중에게 텍스트, 그림, 오디오, 비디오 및 기타 콘텐츠를 생성하는 서비스(이하 인공 지능 생성 서비스라고 함)를 생성하는 인공 지능 기술을 사용하는 데 적용됩니다. ). 국가가 뉴스 출판, 영화 및 텔레비전 제작, 문학 및 예술 창작과 같은 활동에 참여하기 위해 생성 인공 지능 서비스를 사용하는 것에 대한 다른 규정이 있는 경우 해당 규정이 우선합니다. 인공지능 생성기술을 개발 및 적용하는 산업단체, 기업소, 교육과학연구기관, 공공문화기관 및 관련 전문기관은 국내 대중에게 인공지능 생성서비스를 제공하지 아니한다. 측정. |
이번 "임시 조치"는 "의견 요청 초안"과 비교할 때 먼저 규제 대상을 조정했으며 규제 목표는 더 명확하고 더 구체적입니다. "임시 조치" 제2조에 따르면 이 법은 중화인민공화국 영토 내에서 인공 지능 생성 기술을 사용하여 대중에게 서비스를 제공하는 사람에게만 적용되며 연구를 수행하는 사람에게는 더 이상 적용되지 않습니다. 인공지능 기술 또는 인공지능 서비스를 국내 대중에게 제공합니다. 이는 서비스 공급자의 요구 사항에 따라 개발을 제한하기보다는 생성 인공 지능의 연구 및 응용에 대한 국가의 지원 및 격려를 반영합니다.
(2) 산업 발전
| "임시 조치" | "댓글 초안" |
| 제5조 다양한 산업 및 분야에서 생성적 인공 지능 기술의 혁신적인 적용을 장려하고, 긍정적이고 건강하며 긍정적인 고품질 콘텐츠를 생성하고, 적용 시나리오를 탐색 및 최적화하고, 적용 생태계를 구축합니다. 산업 조직, 기업, 교육 및 과학 연구 기관, 공공 문화 기관 및 관련 전문 기관이 생성 인공 지능 기술 혁신, 데이터 리소스 구축, 변환 및 응용, 위험 방지에 협력하도록 지원합니다. 제6조 생성 인공 지능 알고리즘, 프레임워크, 칩 및 지원 소프트웨어 플랫폼과 같은 기본 기술의 독립적인 혁신을 장려하고 동등하고 호혜적인 기반에서 국제 교류 및 협력을 수행하며 생성 관련 국제 규칙 제정에 참여합니다. 인공 지능. 생성적 인공 지능 인프라 및 공공 교육 데이터 리소스 플랫폼의 구축을 촉진합니다. 컴퓨팅 파워 리소스의 공동 공유를 촉진하고 컴퓨팅 파워 리소스의 활용 효율성을 향상시킵니다. 공공 데이터 분류 및 분류의 질서 있는 개방을 촉진하고 고품질의 공공 훈련 데이터 자원을 확장합니다. 안전하고 신뢰할 수 있는 칩, 소프트웨어, 도구, 컴퓨팅 성능 및 데이터 리소스의 채택을 장려합니다. | 제3조 국가는 인공지능 알고리즘, 프레임워크 등 기본 기술의 자주적 혁신, 촉진 및 응용, 국제 협력을 지지하고 안전하고 신뢰할 수 있는 소프트웨어, 도구, 컴퓨팅, 데이터 자원의 우선 사용을 장려한다. |
한편으로는 산업 조직, 기업, 교육 및 과학 연구 기관, 공공 문화 기관 및 관련 전문 기관이 공동 건설을 기반으로 인공 지능을 개발하기 위해 협력하도록 권장하는 "임시 조치"가 제안되었습니다. "데이터"와 "인공 지능 인프라"의 조합은 데이터 분류 및 분류를 전제로 고품질 공공 교육 데이터 리소스를 확장합니다. 이는 생성 인공 지능 개발에 대한 국가의 낙관적 태도를 반영합니다. 기업 간의 데이터 장벽과 거대한 공개 데이터의 유휴 상태는 생성 인공 지능 개발의 두 가지 핵심 문제입니다. 위의 규정을 시행할 수 있다면 인공지능 훈련을 위한 데이터베이스를 크게 확장하고 우리나라의 인공지능 구축과 발전을 크게 촉진할 것으로 기대된다.
(3) 플랫폼 책임
| "임시 조치" | "댓글 초안" |
| 제9조 제공자는 법적으로 네트워크 정보 콘텐츠 생산자의 책임을 지고 네트워크 정보 보안 의무를 이행해야 한다. 개인정보와 관련된 경우에는 법령에 따른 개인정보처리자의 책임을 지며, 개인정보를 보호할 의무를 다합니다. 제공자는 자신의 서비스를 등록한 생성형 인공지능 서비스 사용자(이하 사용자)와 서비스 계약을 체결하고 양 당사자의 권리와 의무를 명확히 해야 합니다. | 관련 내용 없음 |
또한 이 조항은 개인정보처리자의 책임도 강조하고, 서비스를 등록한 이용자와 서비스 이용계약을 체결하도록 하여 양 당사자의 권리와 의무를 명확히 하여 분쟁 발생 시 불명확한 책임을 회피하도록 하고 있습니다.
(4) 미성년자 보호
| "임시 조치" | "댓글 초안" |
| 제10조 제공자는 해당 서비스의 인구, 경우 및 사용을 명확히 공개하고 사용자가 법에 따라 과학적이고 합리적으로 생성 인공 지능 기술을 이해하고 사용하도록 안내하며 미성년 사용자가 과도하게 의존하지 않도록 효과적인 조치를 취해야 합니다. 또는 생성 인공 지능에 빠지다 서브. | 제10조 제공자는 자신의 서비스를 이용하는 그룹, 경우 및 용도를 명확히 밝히고 공개해야 하며, 사용자가 생성된 콘텐츠에 지나치게 의존하거나 탐닉하지 않도록 적절한 조치를 취해야 합니다. |
이 "임시 조치"는 인공 지능 서비스 제공자의 의무를 증가시켜 사용자가 생성 인공 지능 기술을 과학적이고 합리적으로 이해하고 사용할 수 있도록 안내하고 "사용자"에서 "승인되지 않은 "성인 사용자"에 대한 중독을 방지하기 위해 효과적인 조치를 취하도록 요구합니다. , 한편으로는 의존적이거나 중독된 미성년자 보호에 대한 강조에 대한 우리나라의 요구에 부응하여 보다 표적화되어 있습니다.
(5) 폐기방법
| "임시 조치" | "댓글 초안" |
| 제14조 제공자는 불법 콘텐츠를 발견한 경우 즉시 생성 중지, 전송 중지, 제거 등의 처리 조치를 취하고 시정을 위한 모델 최적화 교육 등의 조치를 취하고 관련 주관 기관에 보고해야 합니다. 제공자는 이용자가 생성형 인공지능 서비스를 이용하여 불법행위를 하는 것을 발견한 경우, 관련법에 따라 경고, 기능제한, 서비스 제공의 정지 또는 종료 등의 조치를 취하고 관련 기록을 보관하여야 하며, 그리고 관련 관할 기관에 보고하십시오. | 제15조 운영 중 발견되어 사용자가 보고한 생성 콘텐츠가 이러한 조치의 요구 사항을 충족하지 않는 경우 콘텐츠 필터링, 모델 최적화 교육 및 기타 방법과 같은 조치를 취하여 3개월 이내에 재생성을 방지해야 합니다. 제19조 제공자는 사용자가 생성형 인공지능 제품을 사용하는 과정에서 네트워크 과대 광고, 악의적인 게시 및 댓글 작성, 스팸 작성, 악성 소프트웨어 작성 및 구현을 포함하여 법령, 기업 윤리 및 사회 도덕을 위반하는 것을 발견한 경우 부적절한 상업적 마케팅 등을 하는 경우 서비스를 중지 또는 종료합니다. |
본 "임시 조치"는 플랫폼의 책임을 명확히 하고 그에 상응하는 폐기 조치를 규정합니다. 한편, 공급자는 플랫폼에 불법 콘텐츠가 있음을 발견한 경우 원래 규정 외에 관련 주관 기관에 보고해야 합니다. 관련 기록을 보관하고 관련 기관에 보고해야 합니다. 상기 규정에 대한 보완은 보고서를 감독 시스템에 통합하여 감독 체계를 개선하고 불법 활동을 단속하는 데 도움이 되며 네트워크 감독과 관련된 다른 법률 및 규정과 시스템 일관성을 유지합니다.
02
공급자의 서비스 사양 공급자용
"잠정 조치" 3장에서는 국내에서 서비스를 제공하는 인공지능 서비스 제공업체에 대한 서비스 규격을 명확히 합니다. 다음 분류 초점의 서비스 사양:
(1) 네트워크 정보 보안 의무(제9조 및 제11조)
제공자가 이행해야 할 "네트워크 정보 보안 의무"는 민법, 개인 정보 보호법, 사이버 보안법, 데이터 보안법 및 전기 통신 및 인터넷의 개인 정보 보호에 관한 조항에 명시된 내용에 따릅니다. 사용자 권리, 의무 및 법적 책임에 대한 결합된 해석. 특히:
(1) 네트워크 정보 보안 의무(제9조 및 제11조)
제공자가 이행해야 할 "네트워크 정보 보안 의무"는 민법, 개인 정보 보호법, 사이버 보안법, 데이터 보안법 및 전기 통신 및 인터넷의 개인 정보 보호에 관한 조항에 명시된 내용에 따릅니다. 사용자 권리, 의무 및 법적 책임에 대한 결합된 해석. 특히:
먼저 "조치사항"은 이용자가 입력한 정보 및 이용기록 등을 정보보호 범위에 포함합니다. 정보 처리의 "명확한 목적" 및 "최소 처리 원칙", 즉 (1) 명확하고 합리적인 목적, 방법 및 범위를 갖는 개인 정보도 당연히 적용됩니다.
둘째, 민감한 개인 정보 처리에 더 엄격한 보호 장치가 적용됩니다. 중국 법률에서 민감한 정보의 정의는 상대적으로 광범위합니다. 즉, 생체 인식, 종교적 신념, 특정 신원, 의료 건강, 금융 계정, 소재지 등을 포함하여 인간의 존엄성을 침해하거나 개인 및 재산 안전을 위협하는 개인 정보입니다. 및 14 미만의 정보 따라서 제공자는 민감한 개인정보의 범위를 신속하게 파악하고 주의를 기울여야 합니다.
또한 해외에서는 정보처리, 지식재산권 등 권리와 의무를 정하기 위해 서비스 제공자와 이용자가 서비스 계약을 체결한 사례가 있습니다. 그러나 문맥과 결합하여 이 문서는 서비스 계약에서 정보 처리의 권리와 책임을 명확히 하는 데 중점을 두어야 합니다. 즉, 사용자가 제공자의 정보 처리 행위에 대해 충분히 알리고 동의했는지 확인해야 합니다.
위에서 언급한 바와 같이 공급자가 이 의무를 이행하지 않으면 "네트워크 보안법", "데이터 보안법", "개인 정보 보호법" 및 기타 법률 및 행정 규정에 따라 관련 처벌을 받게 됩니다.
(2) 인공지능에 의해 생성된 콘텐츠의 식별(제12조)
생성적 인공지능 기술이 성숙해짐에 따라 AIGC의 적용 범위는 계속 확장되고 있습니다. 그러나 AIGC를 사용하여 가짜 뉴스 및 사기를 퍼뜨리는 위험을 과소평가할 수 없습니다. 오용, 남용 및 부정 행위를 방지하기 위해 인간이 생성한 고도로 합성된 콘텐츠를 식별하는 것이 이를 제거하는 가장 저렴한 방법입니다. 이와 관련하여 로고는 "인터넷정보서비스 심층통합관리규정"에 따라 로고의 사용에 지장을 주지 않는 로고를 추가할 수 있도록 기술적 조치를 취하도록 "임시조치"에서 명확히 규정하고 있습니다. 이용자는 법령, 행정법규 및 관련 국가 규정에 따라 로그를 보관함과 동시에 공중의 혼동이나 오인을 유발할 수 있는 서비스에 대해서는 생성된 합리적인 위치와 영역에 눈에 잘 띄게 표시되어야 합니다. 또는 정보 내용을 편집하고 대중에게 심층 합성을 상기시킵니다.
(3) 미성년자의 중독방지(제10조)
"댓글 초안"에 명시된 "성인 사용자"와 달리 "잠정 조치"는 미성년자의 중독 예방 만 요구합니다. 이는 "미성년자보호법", "청소년비행예방법", "인터넷정보서비스알고리즘권고관리규정"(제18조)에서 미성년자의 인터넷 이용을 방지하기 위한 요건과 일치합니다.
(4) 피드백 메커니즘(조항 13, 14, 15)
피드백 메커니즘을 설정하면 사용자의 권리와 이익을 보호할 뿐만 아니라 공급자의 법적 책임을 어느 정도 명확히 합니다. 구체적으로, 공급자가 불만 및 피드백 메커니즘을 제공하지 못한 경우 공급자가 책임을 져야 합니다. 공급자가 메커니즘을 제공했지만 조치를 취하지 않은 경우 공급자는 여전히 책임이 있습니다. 제공자의 책임은 어느 정도 축소되거나 면제되어야 하는 "무조치"와는 달라야 합니다.
03
생성적 인공지능 산업의 역할 포지셔닝
생성적 인공 지능 산업에는 제공자, 사용자, 규제자 및 중개자의 네 가지 역할이 있습니다.
제공자는 의심할 여지 없이 감독의 핵심이며, 여론 속성이나 사회적 동원 능력을 가진 생성적 인공 지능 서비스 제공자에게 특별한 관심을 기울여야 합니다. 해당 공급자에 대해서는 "잠정 조치" 제17조의 규정에 따라 관련 국가 규정에 따라 보안 평가를 수행하고 "인터넷 정보 보호 정책"에 따라 알고리즘 제출, 수정 및 취소 제출 절차를 수행해야 합니다. 서비스 알고리즘 추천 관리 규정"을 참조하십시오. 그 과정에서 부정행위를 하거나 규정에 의거한 절차를 이행하지 않을 경우 경고, 비판, 벌금 등의 행정처분을 받을 수 있으며, 심할 경우 사이트 폐쇄, 해당 영업 정지 명령을 받을 수도 있습니다. 면허를 취소하거나 사업 면허를 취소합니다.
또한 제공자에게 가장 경계하는 것은 개인 정보, 데이터 보안 및 네트워크 보안의 법적 위험입니다.이 세 가지 모두 제공자가 관련 보안 보호 의무를 수행하고 개인 정보, 데이터 및 네트워크에 대한 특정 보호를 제공하도록 요구합니다.동시에 시간, 서비스 제공 과정에서 개인 정보 및 데이터의 출처 및 처리가 합법적인지 확인하고 국경 간 데이터에 주의를 기울이십시오.제공자가 국경 간 서비스에 관여할 때 관련 규정을 준수해야 합니다. 그렇지 않으면 "임시 조치" 20조 및 21조에 따라 관할 기관이 행정 처벌을 부과할 수 있으며 심각한 경우 범죄를 구성할 수도 있다고 규정합니다.
이를 바탕으로 사용자는 특정 감독 책임을 맡습니다. "경과조치" 제18조는 이용자의 불만신고 및 신고권을 명확히 하고, 생성 인공지능 서비스가 관련 규정에 부합하지 않는 경우 관련 주관기관에 불만을 제기하거나 신고할 수 있습니다.
이를 바탕으로 사용자는 특정 감독 책임을 맡습니다. "경과조치" 제18조는 이용자의 불만신고 및 신고권을 명확히 하고, 생성 인공지능 서비스가 관련 규정에 부합하지 않는 경우 관련 주관기관에 불만을 제기하거나 신고할 수 있습니다.
규제 기관 및 중개인은 주로 감독 및 안전 평가와 같은 기타 기능을 담당하며 본질적으로 조력자이며 그들의 위치는 산업이 건전하게 성장하도록 돕는 것입니다. 다만, 그 지위상 그 직무를 수행하는 과정에서 일정한 국가기밀, 영업비밀, 개인정보 및 개인정보를 불가피하게 알게 되므로, 그 관계기관은 "경과조치" 제19조의 규정에 의거 비밀유지의무를 타인에게 누설하거나 불법적으로 제공하지 않는다.
04
독자를 위해 마지막에 작성
최근 몇 년 동안 우리나라의 인공 지능 분야는 집중적으로 입법화되었으며 해당 규제 시스템은 기본적으로 형성되었지만 입법은 규제의 첫 번째 단계에 불과합니다 산업의 건강하고 안정적인 발전은 법률의 공동 노력과 불가분의 관계입니다 집행자와 많은 참여자 우리나라의 인공 지능 기술 적용은 법률 준수를 기반으로 빠르게 발전하고 번영할 수 있습니다.
Xiao Sa의 법무팀은 학문적 비즈니스를 기반으로 법학 석박사로 구성된 팀입니다. "금융 + 기술" 산업에서 수직적으로 깊이 성장한 그는 독창적인 연구 이점과 혁신 비즈니스의 일선 실무 경험을 보유하고 있습니다.
팀의 창립자인 Ms. Xiao Sa는 중국 인터넷 금융 협회의 항소 위원회 위원, 중국 은행법 연구 협회의 이사, 제3자 감독 및 규정 준수 평가의 첫 번째 전문가 그룹입니다 베이징 사건에 연루된 기업, 중국 런민대학 법학대학원 법학석사 실무교사, 홍콩시립대학 회원, 법학대학원 객원교수, 시간강사 중국정법대학 법학부, 중국사회과학원 산업금융 연구기지 특별 연구원, 중국 정보센터 "중국 블록체인 산업 백서" 편집위원 산업 정보 기술부. 가상화폐 규제 베스트셀러 "ICO 블랙홀" 저자, 학술서 "인터넷금융범죄 범죄 거버넌스 연구" 공동저자 등 Securities Times, People's Daily Overseas Edition, Caixin, Economic Observer 등에 약 100개의 서명 기사 게재
법을 준수하고 금융인 + 기술인을 "감옥"에서 멀리하십시오!
사무실 이메일:
모든 댓글