구글, 생성형 AI 금지 사용 정책 업데이트
- 부적절한 행동 사례와 금지 조건 명확히 밝혀
구글은 생성형 AI 제품과 서비스의 올바른 사용을 명확히 하기 위해 금지 사용 정책을 업데이트했다. 이번 업데이트는 기존 규정을 보다 간결한 언어로 정리하고, 부적절한 행동의 예시를 통해 금지 항목을 보다 구체적으로 제시했다.
규정 강화가 아닌 명확화 초점
- 성인 이미지 생성 등 악용 방지
- 보안 침해 및 허위 정보 유포 금지
업데이트된 정책은 새로운 제한을 추가하지 않고 기존 규정을 명확히 했다. 특히 구글의 AI 도구를 이용해 비동의 친밀 이미지 생성이나 피싱과 악성 소프트웨어로 보안을 침해하는 행위를 엄격히 금지한다. 구글은 사용자가 생성형 AI 모델을 "책임 있고, 합법적이며 안전한 방법으로" 활용해야 한다고 강조했다.
금지된 주요 활동에는 위험하고 불법적이며 비윤리적인 행동이 포함된다. 어린이 착취, 폭력적 극단주의, 자해, 학대성 콘텐츠 생성이나 정보 왜곡, 혐오 발언 및 성적 콘텐츠 제작 등이 명시적으로 금지된다.
주요 금지 활동 정리
- 불법 행위: 아동 착취, 테러, 비동의 친밀 이미지 생성 등 법률 위반 행위
- 보안 침해: 피싱, 악성 프로그램, 스팸, 안전 보호 차단 등 보안 위협 행위
- 유해 콘텐츠 생성: 성적, 혐오적, 폭력적, 괴롭힘 목적의 콘텐츠 제작
- 정보 조작: 출처 왜곡, 허위 전문성 주장, 건강 및 민주 절차 관련 허위정보 유포
특정 상황에서의 예외 허용
- 교육, 언론, 예술적 활동에서의 제한적 허용 가능성
정책은 교육적, 다큐멘터리적, 과학적, 예술적, 기자적 목적으로 사용되는 경우 일부 활동에 대해 예외를 둘 수 있다고 밝혔다. 이러한 예외는 공익적 이익이 명백히 우세한 경우에만 허용된다.
생성형 AI 기술의 발전 속도에 따른 규제 필요성
- 현실적인 텍스트, 이미지, 음향, 비디오 생성파 악용 우려 커져
생성형 AI 기술의 급속한 발전이 윤리적 문제와 사회적 영향을 초래할 가능성을 높이고 있다. 현실감 넘치는 콘텐츠 제작 기술의 성장 속도에 맞춰 악용을 방지하고 책임 있는 사용을 유도하는 가이드라인이 시급히 요구된다.
향후 과제와 전망
- 명확하고 실효성 있는 규정 마련 및 실행 필요
구글의 개정된 정책은 이미 시행 중이며 기존 및 새로운 버전 모두 공개된 상태다. 오픈AI와 마이크로소프트를 비롯한 주요 AI 기업들도 각각의 사용자 규정을 내놓고 있지만, 규정에 대한 인식 향상과 일관된 시행에는 아직 개선이 필요하다. 생성형 AI의 사용이 점차 증가함에 따라, 불법적 사용을 방지하고 책임 있는 활동을 장려하기 위한 구체적이며 실행 가능한 규칙 제정이 필수적이다.
출처 : 원문 보러가기