Neural Networks를 사용해 이용자의 사진을 보정해주는 '페이스앱'이 인종차별 논란에 휘말렸다.
해외 IT매체 테크크런치는 25일(현지시간) 페이스앱이 인종차별적 서비스를 제공했고, 논란이 불거지자 CEO가 사과에 나섰다고 보도했다.
페이스앱은 이용자의 사진을 보정하는 역할을 하는 앱인데, 사람의 뇌를 모방한 신경망 네트워크를 활용해 빅데이터를 학습하고 분석해 사진을 수정한다. 이 앱을 사용하면 노인의 얼굴을 청년의 얼굴로, 또는 남자의 얼굴을 여자의 얼굴로도 바꿔볼 수 있다.
이번에 인종차별 논란이 된 기능은 '인기(Hotness)'라는 필터다. 이 필터를 사용하면 피부 톤이 더 하얗게 표현된다. 필터 이름의 어감과 해당 효과 때문에 백인이 흑인에 비해 인기있다거나 하는 식으로 느껴질 수 있다.
해당 논란에 대해 페이스앱 CEO 야로슬라브 곤차로프(Yaroslav Goncharov)는 "의심의 여지 없이 심각한 이슈에 대해 깊이 사과한다"면서, "이는 의도된 행동이 아니며, 불행하게도 특정 성향을 학습하는 근본적인 신경망 네트워크의 부작용"이라 부연했다.
또한 그는 이 문제를 해결하기 위해 해당 필터의 이름을 긍정적 의미를 배제한 이름으로 바꾸고, 해당 알고리즘을 수정할 것이라 전했다. 현재 페이스앱 내 이 필터의 이름은 '스파크(Spark)'로 변경됐다.
한편, 페이스앱이 제공하는 필터 중에는 구글 텐서플로어 등과 같은 공개소스 코드 라이브러리 등이 사용되고 있다. 그러나 곤차로프 CEO는 이번에 논란이 된 '인기' 필터가 공용 데이터 세트가 아닌 자체 개발 데이터 세트가 사용됐다고 밝혔다.
테크크런치는 이번 사건에 대해 인공지능 알고리즘이 인간의 지식과 정보, 빅데이터만을 학습하는 것이 아니라 인간의 편견까지도 학습할 수 있는 편향적 위험에 노출될 수 있음을 보여주는 사례라는 의견을 제시했다.
또한, 페이스앱이 AI 알고리즘 개발을 위해 다양한 데이터 세트를 활용해 학습시키지 않은 점을 지적하면서, 향후 인공지능 기반 시스템이 점차 확대됨에 따라 알고리즘의 책임성에 대한 심도 있는 연구가 필요하며, 시스템에 인간의 편견을 추가하는 것을 방지하기 위해 더욱 견고한 시스템을 개발해야한다고 평했다.
사과 동영상 출처 :
https://www.facebook.com/abcnews.au/videos/10156557986634988/
출처: http://www.gokorea.kr/news/articleView.html?idxno=16765
info@itap365.com
https://www.itap365.com