AI 서비스 윤리는 어떻게 적용되어 있을까 : 캔바 챗지피티 미드저니 비교

AI 공부하기 썸네일 캔바 챗지피티 미드저니 비교

 

캔바 VS 챗지피티 VS 미드저니

챗지피티에게 물어본 각 서비스의 약관 비교

서비스명	성적이거나 여성성을 강조한 이미지 생성에 대한 정책
Canva	- 콘텐츠 제한: Canva는 사용자가 불법적이거나 유해한 콘텐츠를 생성하는 것을 금지하고 있습니다. 그러나 성적이거나 여성성을 강조한 이미지 생성에 대한 구체적인 제한 사항은 명시되어 있지 않습니다. 사용자는 Canva의 이용 약관을 참고하여 콘텐츠 생성 시 주의해야 합니다.
ChatGPT (OpenAI)	- 사용 제한: OpenAI는 사용자가 불법, 유해, 또는 타인의 권리를 침해하는 콘텐츠를 생성하거나 공유하는 것을 금지하고 있습니다. 특히, 성적이거나 여성성을 강조한 콘텐츠의 생성은 OpenAI의 사용 정책에서 제한하고 있습니다. 이용약관
Midjourney	- 콘텐츠 제한: Midjourney는 성적이거나 여성성을 강조한 이미지를 생성하는 것을 엄격히 금지하고 있습니다. 이러한 콘텐츠를 생성하려는 시도는 커뮤니티 가이드라인에 위배되며, 계정 정지 등의 제재를 받을 수 있습니다.

 

AI 콘텐츠를 올릴때 쓰려고 프로필 캐릭터를 만들고 싶었다.
이미지를 생성하기 위한 프롬프트를 작성하면서, '가슴을 크게' 등과 같은 여성성을 강조한 영문 프롬프트를 주었더니,

캔바 Canva

캔바는 이미지를 생성해주면서, 성적이거나, 여성성 강조하는 이미지 거절을 하지를 않았다.
챗지피티로 약관 분석 요청 해보니 '성적이거나 여성성을 강조한 이미지 생성에 대한 구체적인 제한 사항은 명시되어 있지 않습니다.' 강력하게 제재하지 않는다는 의미로 보인다. 

캔바가 생성한 AI 캐릭터 이미지

캔바가 생성한 AI 캐릭터 이미지

 

처음에는 '아, 이 정도는 가능하구나' 생각 하고 다른 서비스 "챗 지피티"와 "미드저니" 에서 똑같은 프롬프트를 주고 
이미지 생성을 하였더니,

챗지피티 ChatGPT 4o 

챗지피티 이미지 생성 화면

챗지피티 ChatGPT 4o with Canvas

챗지피티 캔바스 프롬프트 변경 요청 화면

 

 

이렇게 챗지피티와 챗지피티 캔바스는 둘 다 GPT-4 기반의 엔진을 사용하지만,
인터페이스 선택에 따라 다른 결과를 보여준다.  

내가 준 프롬프트에서 여성적인 부분 강조하는 것 배제하고, 중성적인걸로 만들라고 프롬프트를 고쳐서 안내하였다.  앗, 그래.. 급 부끄러워지기.

AI 윤리와 규제에 대해 한국에서도 어여 법령으로 만들어야 한다고 주장하던 나의 공적 아이덴티티가 정신을 차리게 되는데..
최근 유료결제하고 인터페이스 기능들을 배우는 중인 미드저니에게 똑같은 프롬프트를 주자, 

 

미드저니

미드저니 역시 우리는 그것을 만들 수 없어! 역시 안내 문구를 보여줬다. 

미드저니 윤리 위배 안내 메시지

안내 메시지

한국어 번역

Appeal rejected Sorry! Our AI moderator thinks this prompt is probably against our community standards. Please review our current community standards: ALLOWED Any image up to PG-13 rating involving fiction, fantasy, mythology. Real images that may be seen as respectful or light-hearted parodies, satire, caricatures Imaginary or exaggerated real-life scenarios, including absurd or humorous situations. NOT ALLOWED Disrespectful, harmful, misleading public figures/events portrayals or potential to mislead. Hate speech, explicit or real-world violence. Nudity or unconsented overtly sexualized public figures. Imagery that might be considered culturally insensitive This AI system isn't perfect. If you find it rejecting something innocent please press the Notify Developers button and we will review it and try to further improve our performance. Thank you for your help! /imagine Give the ( 프롬프트 비공개 )

이의 제기 거부 죄송합니다! AI 모더레이터가 이 메시지가 커뮤니티 기준에 위배된다고 판단한 것 같습니다. 현재 커뮤니티 기준을 검토해 주세요: 허용됨 소설, 판타지, 신화와 관련된 최대 PG-13 등급의 모든 이미지. 정중하거나 가벼운 패러디, 풍자, 캐리커처로 보일 수 있는 실제 이미지 터무니없거나 유머러스한 상황을 포함하여 상상적이거나 과장된 실제 시나리오. 허용되지 않음 무례하거나 유해하거나 오해를 불러일으킬 수 있는 공적 인물/사건 묘사 또는 오해를 불러일으킬 가능성이 있는 내용. 혐오 발언, 노골적 또는 실제 폭력. 누드 또는 동의하지 않은 공적 인물의 노골적인 성적 묘사. 문화적으로 무분별하다고 간주될 수 있는 이미지 이 AI 시스템은 완벽하지 않습니다. 무고한 것을 거부하는 것을 발견하면 개발자에게 알리기 버튼을 눌러주시면 검토하여 성능을 더욱 개선하도록 노력하겠습니다. 도와주셔서 감사합니다!

 

개인적인 경험과 제일 상단의 서비스 약관 등으로 파악한 결과, 

현재 이미지 생성 시 가장 강력한  'AI 생성 윤리기준 가이드 적용'을 한 곳은 미드저니로 파악하게 되었다는

그런 이야기.