생성형 인공지능 서비스 이용자 보호 가이드라인 소개: 안전하고 신뢰할 수 있는 AI 사용 환경 조성

요즘 디지털 기술은 매일같이 발전하고 있으며, 그중에서도 생성형 인공지능은 혁신적인 변화를 가져오고 있습니다. 하지만 이 기술의 성장과 함께 잠재적인 위험과 문제들도 주목받고 있죠. 이번 포스팅에서는 지난달 28일 방송통신위원회에서 발표한 '생성형 인공지능 서비스 이용자 보호를 위한 가이드라인'에 대해 살펴보겠습니다.

 

순서는 이 가이드라인의 배경 및 필요성, 목적, 용어 정의, 적용범위, 그리고 4대 기본원칙과 6개의 실행방식 등입니다. 그리고 마지막에는 '생성형 인공지능 서비스 이용자 보호 가이드라인' 원문파일을 첨부했으니 참고하시기 바랍니다.

 

자 그럼 저와 함께 안전하고 신뢰할 수 있는 AI 사용 환경 조성하러 출발~~~~~~~

생성형 인공지능 서비스 이용자 보호 가이드라인 소개

 

■ 생성형 인공지능 서비스 이용자 보호 가이드라인 목차

이 가이드라인은 생성형 인공지능 서비스 이용자 보호 가이드라인 요약, 실행방식, 실행사례가 있는 부록 등 크게 3가지로 구성되어 있습니다. 이번 포스팅에서는 요약에 있는 내용만 발췌해서 소개합니다.

 

아래사진은 가이드라인 표지와 목차입니다.

가이드라인 표지와 목차

 

■ 목적

이 가이드라인은 생성형 인공지능 서비스 이용 과정에서 발생할 수 있는 잠재적 위험들을 사전에 방지하여 안전하고 신뢰할 수 있는 생성형 인공지능 서비스 이용 환경을 마련함으로써 이용자의 권익을 보장하고, 생성형 인공지능의 올바른 사용으로 얻을 수 있는 혜택을 모든 사회구성원이 고루 누릴 수 있도록 하는 것을 목적으로 한다. 이때 생성형 인공지능 생태계 구성원의 책임감을 바탕으로 자율적인 참여를 통한 효과적인 이용자 보호 체계를 구축하고자 한다.

 

■ 용어의 정의

1. "생성형 인공지능(generative AI)"이란 대규모 데이터를 학습하여 만들어진 모델을 사용하여 이용자의 요구에 따라 텍스트, 이미지, 비디오, 오디오, 코드 등 새로운 콘텐츠를 생성하는 인공지능 기술을 말한다.

   1-1. "생성형 인공지능 서비스"란 생성형 인공지능을 활용하여 공공 또는 민간에게 제공되는 서비스를 말한다.

2. "개발사"란 생성형 인공지능의 파운데이션 모델을 개발하고 시장에 출시하여 서비스 제공자가 모델을 사용할 수 있게 하거나 자체 서비스를 제공하는 사업자를 말한다.

3. "서비스 제공자"란 생성형 인공지능 모델을 활용해 디지털 도구 및 서비스를 제공하는 사업자를 말한다.

4. “이용자”란 생성형 인공지능 서비스를 이용하거나 이용하려는 자를 말하며 해당 서비스로 생성된 콘텐츠를 유통하거나 소비하는 자를 모두 포함한다.

5. "생성형 인공지능 산출물"은 이용자가 입력한 프롬프트에 기반하여 생성형 인공지능이 산출한 최종 결과물을 말한다.

 

■ 적용 범위

이 가이드라인은 생성형 인공지능 개발사 및 서비스 제공자 등에 적용된다. 

■ 기본 원칙

이 가이드라인에서 생성형 인공지능 서비스의 전반에 걸쳐 추구해야 할 기본적인 방향성을 다음과 같이 제시한다.

1. 생성형 인공지능 서비스는 인간의 존엄성을 보호하고 개인의 자유와 권리를 보장하며, 인간이 적절하게 통제하고 감독할 수 있는 방식으로 제공되어야 한다.

2. 생성형 인공지능 서비스는 인공지능시스템 사용에 따른 작동 원리 및 결과, 이용자에게 미치는 영향 등에 대하여 이용자에게 알기 쉽게 설명되도록 제공되어야 한다.

3. 생성형 인공지능 서비스는 안전하게 작동되어야 하며, 예상치 못한 피해를 최소화하고 악의적으로 이용되거나 변경되지 않도록 제공되어야 한다.

4. 생성형 인공지능 서비스는 이용자에게 차별 또는 불공정한 결과가 발생하지 않도록 제공되어야 한다.

 

사진출처: Copilot 이미지

 

■ 생성형 인공지능 서비스 이용자 보호를 위한 실행 방식

위의 기본 원칙이 제시하는 목표를 실현하기 위한 방식으로 다음과 같은 것들을 제시한다.

 

1. 생성형 인공지능 서비스의 이용자 인격권 보호

가. 개발사는 생성형 인공지능 기반 시스템이 이용자의 인격권을 침해할 수 있는 요소를 발견하고 통제할 수 있는 알고리즘을 구축하도록 노력한다.

나. 서비스 제공자는 서비스를 구축하는 과정에서 사전에 이용자가 타인의 인격권을 침해하는 결과물을 생성하지 않도록 관리할 책임을 인지하고, 내부 모니터링 체계나 이용자 신고 프로세스 등 관련 방안을 마련하도록 노력한다.

다. 서비스 제공자는 생성형 인공지능의 산출물이 이용자의 권리를 침해하지 않도록 서비스 제공 범위와 방법을 고려한다.

 

2. 생성형 인공지능 서비스의 결정 과정을 알리려는 노력

가. 서비스 제공자는 생성형 인공지능 산출물이 생성형 인공지능으로 생성되었음을 자율적으로 선택한 방식으로 알린다.

나. 서비스 제공자는 해당 생성형 인공지능 서비스와 관련한 영업활동을 하는 사업자의 정당한 이익을 침해하지 않는 범위에서 생성형 인공지능의 결정 과정을 이해할 수 있는 기본적인 정보를 이용자가 쉽게 접근하고 이해할 수 있는 방식으로 제공한다.

 

3. 생성형 인공지능 서비스의 다양성 존중 노력

가. 개발사와 서비스 제공자는 생성형 인공지능을 개발하고 운영하는 과정에서 알고리즘 설계, 데이터의 수집과 입력 및 알고리즘 실행 등 기술적으로 실현 가능한 범위 안에서 편향과 차별을 줄이기 위해 노력한다.

나. 개발사와 서비스 제공자는 자사 서비스에서 생성형 인공지능 산출물의 편향성을 줄이고 다양성을 보장하는 자체 원칙이나 기준을 마련한다.

다. 서비스 제공자는 생성형 인공지능의 이용자들이 차별적 사용을 하지 않도록 이에 대한 방지와 필터링 기능을 제공한다.

라. 서비스 제공자는 이용자가 생성형 인공지능의 산출물이 편향적이라고 판단하였을 때 바로 신고할 수 있는 직관적인 방법을 제공하고 신고 내용을 처리하는 절차를 마련한다.

Gemini를 활용한 이미지, 사진출처: 구글 gemini ai 생성

 

 

4. 생성형 인공지능 서비스의 입력데이터 수집·활용 과정에서의 관리

가. 서비스 제공자는 서비스 이용 과정에서 발생하는 이용자의 입력 및 생성 데이터를 학습데이터로 활용할 경우, 이를 사전에 고지하고 이용자가 동의 혹은 거부할 수 있는 절차를 마련한다.

나. 서비스 제공자는 서비스 이용 과정에서 발생하는 이용자의 입력 및 생성 데이터를 학습데이터로 활용할 경우, 해당 활용 여부에 대한 이용자의 선택권을 보장하도록 노력한다.

다. 이용자의 입력 및 생성 데이터를 학습데이터로 활용하는 것과 관련하여, 서비스 제공자는 기업 내 감시 조직을 갖추거나 책임자를 선정하여 이용자의 입력 및 생성 데이터가 안전하고 정당하게 활용될 수 있도록 관리한다.

 

5. 생성 콘텐츠 활용에서 발생할 수 있는 문제 해결을 위한 책임과 참여

 

가. 서비스 제공자는 생성형 인공지능 산출물과 관련하여 이용자의 이해를 돕기 위해 서비스 제공자 및 이용자 각자의 책임 범위를 정의하고 이용 단계에서 이용자가 자기 책임을 명확히 인지하도록 안내한다.

나. 서비스 제공자는 이용자가 인지하지 못한 피해의 발생을 최소화하기 위해 모니터링 시스템을 갖추거나 다른 방식의 위험관리 체계를 마련한다.

 

6. 생성 콘텐츠의 건전한 유통·배포를 위한 노력

가. 서비스 제공자는 이용자가 생성형 인공지능 서비스를 이용하여 부적절한 콘텐츠를 생성하거나 공유하지 않도록 안내한다.

나. 서비스 제공자는 이용자의 프롬프트 입력값과 생성된 산출물이 도덕적·윤리적 기준을 준수하는지 검토하고 관리한다.

다. 서비스 제공자는 이용자가 의도적 혹은 비의도적으로 유해한 콘텐츠를 청소년에게 유포하지 않도록 노력한다.

 

부 칙 〈2025.2.28. 제정〉

1. 이 가이드라인은 제정 후 1개월이 경과한 날부터 시행한다.

2. 방송통신위원회는 시행일을 기준으로 매 2년이 되는 시점(매 2년째의 시행일 전까지를 말한다)마다 이 가이드라인에 대하여 타당성을 검토하여 개선 등의 조치를 취하여야 한다.

 

지금까지 지난달 28일 방송통신위원회에서 발표한 "생성형 인공지능 서비스 이용자 보호 가이드라인"의 목적과 용어정의, 기본원칙 등을 소개했는데요.

 

어떻게 도움이 되셨는지요.

 

이번 방송통신위원회의 ‘생성형 인공지능 서비스 이용자 보호 가이드라인’ 발표는 빠르게 발전하는 AI 기술이 사회에 미칠 영향을 고려한 중요한 조치라고 생각합니다. 왜냐면 생성형 AI는 혁신적인 가능성을 열어주지만, 동시에 인격권 침해, 편향 문제, 가짜 정보 유포 등의 부작용도 발생할 수 있기 때문입니다.

이 가이드라인이 시행됨으로써 개발사와 서비스 제공자는 보다 책임감 있는 AI 서비스를 운영해야 하며, 이용자들도 AI가 생성한 콘텐츠를 비판적으로 수용하는 태도가 필요합니다. 앞으로 AI 기술이 더욱 발전할수록 이를 둘러싼 규제와 보호 정책도 함께 정교해질 것으로 예상됩니다. 결국, 생성형 AI는 우리 삶을 편리하게 해주는 도구인 만큼, 기술의 이점을 살리면서도 부작용을 최소화할 수 있도록 지속적인 관심과 노력이 필요하다고 필자는 생각합니다.

 

작성자 정보통신기술사 박승우

 

 

 

생성형+인공지능서비스+이용자+보호+가이드라인(최종본).pdf

11.92MB