트위터의 알고리즘은 인종 차별적입니까?

칼과 레니
(이미지 출처 : Fox / Future Owns)

트위터는 인종적으로 편향된 것으로 보이는 신경망에 대한 조사를 시작했습니다. 사진 미리보기 기능에서 이미지를 가져올 때 알고리즘은 지속적으로 백인의 얼굴을 선호합니다. 거의 항상 밝은 피부의 얼굴을 표시하고 사진에 등장하는 흑인은 잘라냅니다.

대학 교수가 처음으로 트위터에서 디자인 문제를 제기했지만 Zoom의 AI 소프트웨어와 관련이 있습니다. 아래 트윗을 볼 수 있습니다. Zoom이 화상 채팅 중에 배경을 사용했을 때 Zoom이 그의 Black 동료의 얼굴을 지우고 있다는 사실에 주목했습니다 (더 성공적인 디자인 결과를 보려면 웹 디자인 도구 ).

어떤 추측? pic.twitter.com/9aIZY4rSCX 2020 년 9 월 19 일



통해 실의 과정 , Colin Madland는 트위터가 사진 미리보기에서 자신의 얼굴 만 표시하고 그의 흑인 동료의 얼굴 만 표시하도록 기본 설정하고 있음을 깨달았습니다. 이는 AI 작동 방식에 광범위한 문제가 있음을 나타냅니다.

분리 된 Twitter '실험' 암호화 엔지니어 Tony Arcieri가 Mitch McConnell과 Barack Obama의 사진 미리보기를 비교하여 Twitter 알고리즘이 어떤 기능을 제공하는지 확인했습니다.

끔찍한 실험을 시도하는 중 ... 트위터 알고리즘은 Mitch McConnell 또는 Barack Obama 중 어느 것을 선택합니까? pic.twitter.com/bR1GRyCkia 2020 년 9 월 19 일

Arcieri와 다른 사람들은 결과를 확인하기 위해 무수한 방법으로 이미지를 편집했습니다. 색상 반전, 그림의 일부를 밝게 및 밝게하고 배경을 변경하는 것입니다. 모든 시도는 AI 기반의 인종적 편견을 증명하는 것처럼 보였으며 오바마는 색상이 변경되었을 때만 미리보기에 나타납니다.

다른 Twitter 사용자는 알고리즘 테스트에 참여하여 The Simpsons의 Lenny와 Carl, 심지어 개까지도 실험했습니다.

나는 개와 함께 그것을 시도했다. 보자. pic.twitter.com/xktmrNPtid 2020 년 9 월 20 일

트위터 Liz Kelley는이 문제에 관심을 가져 주신 모든 사람에게 감사를 표했습니다. , 소셜 네트워크에는 '해야 할 더 많은 분석'이 있습니다. '모델을 출시하기 전에 편향을 테스트했지만 테스트에서 인종 또는 성별 편견의 증거를 찾지 못했지만 더 많은 분석이 필요하다는 것은 분명합니다. 우리는 다른 사람들이 검토하고 복제 할 수 있도록 우리 작업을 오픈 소스 할 것입니다. '

AI를 지원하는 알고리즘에 대해 할 일이 분명히 더 많으며 트위터가 소프트웨어 문제에 대해 책임을지고 있다는 사실을 기쁘게 생각합니다. 이제 AI가 일상적인 경험의 다양한 측면에 대한 책임이 점점 커지면서 사회 요구의 복잡한 뉘앙스를 반영하도록 구축하는 것이 중요합니다. 디자인이 모두에게 적합한 지 확인하려면 다음 가이드를 참조하세요. 포괄적 인 웹 디자인 .

더 읽어보기 :