얼굴인식 소프트웨어, 백인 남성 더 정확···인공지능도 인종차별?
얼굴인식 소프트웨어, 백인 남성 더 정확···인공지능도 인종차별?
  • 조유영 기자
  • 승인 2018.02.12
  • 댓글 0
이 기사를 공유합니다

인공지능 얼굴인식 기능 사용해 피부색과 성별 구별 실험
백인 남성 에러 발생률 1% 미만, 흑인 여성은 35% 달해
NYT "현실 세계의 편견이 인공지능으로까지 번지고 있어"
안면인식. 연합뉴스
안면인식. 연합뉴스

'피부색이 검을수록 얼굴인식 기능의 에러 발생률이 높아진다'

뉴욕타임스(NYT)는 11일 MIT대 미디어랩의 조이 부올라미니 연구원의 최신 논문을 인용해 "현실 세계의 편견이 인공지능(AI)으로까지 번지고 있다"고 보도했다.

부올라미니의 최신 논문에 따르면 사진 속의 사람이 백인일 경우 얼굴인식 소프트웨어는 99% 정확하게 맞추지만, 피부색이 어두울수록 에러율이 올라가며, 특히 피부색이 어두운 여성의 얼굴은 최고 35%까지 에러가 발생한 것으로 나타났다.

피부색과 사람의 성별을 구별하는 이 실험은 마이크로소프트, IBM, 중국의 메그비 등 3곳의 인공지능 얼굴인식 기능을 사용해 아프리카 3개국과 북유럽 3개국의 국회의원 얼굴사진 1270개를 대상으로 이뤄졌다. 

실험에서 백인 남성의 경우 에러 발생률은 3개사 모두 1% 미만이었고, 백인 여성은 7%, 흑인 남성은 최고 12%의 에러율이 나왔다. 하지만 흑인 여성의 경우에는 마이크로소프트가 21%, IBM과 메그비는 거의 35%까지 에러율이 올라갔다.

이 같은 결과에 대해 IBM은 편견없고 투명한 서비스를 위해 최선을 다하겠다고 말했고, 마이크로소프트도 정확성을 위한 투자를 지속할 것이라고 밝혔다. 그러나 중국에서 온라인 페이, 차량공유 등의 분야에 얼굴인식 기능을 서비스하고 있는 메그비측은 어떤 언급도 하지 않았다고 NYT는 전했다.

NYT는 "현대의 인공지능 분야에서는 데이터가 그 능력을 좌우한다. 다시 말해 AI가 얼마나 똑똑한가는 그것을 훈련시킨 데이터에 달린 것"이라면서 "그러나 오늘날 광범위하게 사용되는 얼굴인식 데이터 세트의 75% 이상이 남성이고, 80% 이상이 백인"이라고 말했다. 데이터 시스템에 흑인 여성보다 백인 남성이 더 많기 때문에 AI가 흑인 여성을 확인하는 것이 더 어렵다는 것이다.

NYT는 "얼굴인식 소프트웨어는 갈수록 많은 기업과 정부기관이 사용하고 있다"면서 "이 소프트웨어가 사회적으로 신뢰할 수 있는 것이 될 수 있도록 AI 시스템의 작동 방법과 어느 지점에서 이것들이 실패하고 있는지를 파악해 하루빨리 대처해야 한다"고 지적했다.

yooyoung@jayoo.co.kr

더 자유일보 일시 후원

“이 기사가 마음에 들면 후원해주세요”

  • ※ 자유결제는 최대 49만원까지 가능합니다.

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.