미국의 역사적 인물을 유색인종으로 바꿔 그리는 오류가 발생해 구설수에 오른 바 있는 메타 AI가 문화적 편견에 빠져 편향적인 출력이 지속되고 있다는 지적이 제기됐다.
IT 매체 테크크런치는 최근 메타의 생성형 인공지능(AI) 모델 '이매진'을 활용, 인도인의 이미지를 생성하려고 했으나 편향적인 이미지가 다수 생성됐다고 전했다. 메타의 AI 모델 이매진은 왓츠앱, 인스타그램, 페이스북 등을 통해 12개 이상 국가에서 서비스되고 있다.
테크크런치의 자체 실험 결과에 따르면 '인도 남성을 그려달라'는 요청에 메타 AI '이매진'은 터번을 쓴 남성을 출력하는 경우가 대부분이었다고 한다. 다양한 프롬프트를 활용해 실험했으나, 인도 남성을 대표하는 이미지 5개 중 3~4개는 터번을 착용하는 모습으로 생성됐다.
인도에 가면 터번을 쓴 남성들이 많을 것으로 예상할 수 있으나, 시크교도만이 터번을 쓰기 때문에 실제 인도에서 터번을 쓴 남성은 소수에 불과하다. 힌두교가 80%가량이며, 15% 정도가 무슬림이다. 이어 '길을 걷고 있는 인도인'이라는 프롬프트로 다시 이미지 생성을 요청했지만 앞선 결과와 마찬가지로 모든 이미지는 터번을 쓴 남성들이 등장했다.
'체스를 두는 인도 남자', '요리하는 인도 남자', '수영하는 인도 남자'와 같은 프롬프트를 사용했지만, 결과는 비슷했다. 터번을 쓰지 않은 사진은 1~2개에 불과했다. '남성'이라는 단서를 달지 않고, 직업을 포함시켜 다시 이미지 생성을 시도했다. 건축가, 정치인, 배드민턴 선수, 궁수, 작가, 화가, 의사, 교사, 풍선 판매자, 조각가 등 다양한 직업과 환경을 포함시킨 프롬프트로 이미지 생성을 요청했다.
배경과 의복은 다양해졌지만, 모든 남자들은 터번을 쓰고 있는 것을 확인할 수 있었다. 터번이 특정 직업이나 지역에서 흔하게 착용될 수 있지만, AI 모델이 터번을 보편적으로 생각하는 것이 이상하다고 테크크런치는 보도했다. 반면 '인도 콘텐츠 크리에이터'라는 프롬프트에는 여성의 사진만을 생성하는 것도 확인됐다.
이러한 경향을 살펴봤을 때 인도의 경우 데이터 셋이 다양하게 구축되지 못한 것으로 분석된다. 테크크런치는 "인도는 문화, 계급, 종교, 지역, 언어가 교차하는 다양한 국가이기 때문에 AI 도구를 개발하는 회사는 다양한 사람을 더 잘 그려내야 한다"라고 밝혔다.
Copyright ⓒ AI포스트 무단 전재 및 재배포 금지
