AI 연구자들은 과학 출판사들이 인종 차별 알고리즘의 영구화를 돕고 있다고 말합니다

AI 연구자들은 과학 출판사들이 인종 차별 알고리즘의 영구화를 돕고 있다고 말합니다

뉴스 : 인공 지능 연구자 연합 의 공개 서한 은 과학 출판사 스프링거 네이처가 다가오는 책인 ' 전산 과학 및 전산 지능에 관한 거래'에 원래 포함시킬 컨퍼런스 논문을 요구하고있다 . "이미지 처리를 사용하여 범죄를 예측하기위한 심층 신경망 모델"이라는 제목의 논문은 원본 보도 자료 에 따르면 누군가가 범죄자인지 여부를 예측할 수있는 얼굴 인식 시스템을 제시합니다 . 해리스 버그 대학교의 연구원들에 의해 개발되었으며 다음 회의에서 발표 될 예정입니다. 요구 사항 : 최고의 흑인 AI 학자 의 작품 인용이 서한은이 논문의 과학적 근거를 밝히고 범죄 예측 기술이 인종 차별주의라고 주장한다. 또한 3 가지 요구 사항이 나열되어 있습니다. 1) 스프링 네이처가 연구 발표 제안을 철회해야합니다. 2) 범죄를 예측하고 그러한 연구를 장려하는데 역할을 인정하는 기계 학습과 같은 통계적 기법의 사용을 비난하는 진술을 발표한다. 그리고 3) 모든 과학 출판인이 미래에 유사한 논문을 출판하지 않기로 약속 한 경우. 월요일에 스프링 네이처에 발송 된이 편지는 원래 MIT의 5 명의 연구원, 레신셀러 폴리테크닉 협회, 맥길 대학교 및 인공지능 나우 협회에서 작성했습니다. 며칠 만에 메레딧 위트커와 같은 주요 인물을 포함하여 인공지능 윤리 및 학계 커뮤니티에서 600 개 이상의 서명을 얻었으며 중요한 이유 : 이 서한은 특정 논문을 강조하지만 저자의 목표는 과학 출판이 연구자들이 비 윤리적 규범을 영속하도록 장려하는 방식과 관련하여 체계적인 문제를 보여주는 것입니다. MIT의 연구 과학자이자 서한의 공동 저자 중 한 명인 첼시 바라 바스는“이것은 우리가 계속해서 인종 과학의 출현을 계속하는 이유입니다. "게시자가 출판하기 때문입니다."인공지능 나우의 박사후 연구원이자 다른 공동 저자 인 데오도라 드라이어는“이 스프링어 작품의 진정한 의미는 그것이 독특하지 않다는 것입니다. "이것은 너무 오랫동안 문제와 비판의 상징입니다." 스프링어의 답변 : 편지에 대한 응답으로 스프링어는 더 이상 논문을 출판하지 않을 것이라고 말했다. "당신이 언급 한 논문은 스프링어가 그 절차를 발표 할 예정인 다음 회의에 제출되었습니다." "완전한 동료 검토 프로세스 후 논문이 거부되었습니다." 해리스 버그 대학교는 또한 보도 자료를 중단하여 “교수들은 제기 된 문제를 해결하기 위해 논문을 업데이트하고있다”고 밝혔다. 이 서한의 서명국들은 계속해서 그들의 두 번째와 세 번째 요구의 이행을 추진할 것이라고 밝혔다. 스프링어는 엠아이티 테크 리뷰의 독립적 인 의견 요청에 응답하지 않았습니다. 해리스 버그 대학교와이 논문의 공동 저자는 또한 원본 논문의 사본 요청뿐만 아니라 의견 요청도 거부했습니다. 더 큰 그림 : 조지 플로이드의 죽음으로 인해 인종 정의가 국제 운동을 촉발 한 이후 AI 분야와 기술 산업은 구조적 인종주의를 강화하는 데있어 그들이 수행 한 역할에 대해 인식하고있었습니다. 예를 들어, 6 월 8 일 주 동안 아이비엠, 마이크로 소프트 및 아마존은 모두 얼굴 인식 제품의 종료 또는 부분 중단을 발표했습니다. 이 기술과 소수 민족 공동체의 과장과의 연계를 보여주기 위해 연구원과 활동가 들의 2 년간 옹호 활동 이 마무리되었다 . 공개 서한은 인공지능에서 더 큰 윤리적 책임을 향한이 운동의 최신 발전입니다. 맥길 대학교의 미디어, 기술 및 민주주의 센터의 소장 인 손자 솔로문은“우리는 이러한 성장에 기여하고 싶었습니다. "특히 우리가 창문 밖을보고 미국과 전 세계에서 무슨 일이 일어나고 있는지 볼 때, 스테이크는 너무 높습니다."