티스토리 뷰

에프오아이는 경찰의 협의나 윤리적 보호 조치없이 AI 도입을 서두르고 있다고 밝혔습니다

선한 힘? 잠금이 완화되도록 알에스에이는 경찰이 적절한 보호 조치 나 공개 협의없이 AI 사용을 서두르면 안된다고 경고합니다. 정보 요청 자유는 얼굴 인식 및 예측 정책과 같은 새로운 기술의 사용에 대해 경찰의 명확성이 부족함을 나타냅니다. 경찰은 이러한 기술의 사용 방식에 대해 대중과상의하지 못하거나 인공 지능 및 자동 의사 결정 시스템 에 대 충분한 정보를 제공하지 않습니다. 알에스에이는 월요일부터 잠금 제한 완화를 강제로 순찰함에 따라 적절한 조사와 참여가 필요하다고 경고했다. 새로운 알에스에이가 얼굴 인식과 같은 인공 지능을 채택한 유일한 힘이 지역 공동체와 협의 한 것으로 밝혀지면서 경찰은 동의에 의한 경찰과 소수 민족 공동체와의 관계를 약화시킬 위험이 있다고 보고서는 경고했다. 선한 힘?알에스에이의 아싱과 윌 그리 몬드는 AI 기술이 정책을 개선 할 수있는 큰 잠재력을 제공하지만 “단순한 비용 절감 조치가 아닌 경찰 업무를 개선 할 목적으로” 수행되어야한다고 말했습니다. 예술, 제조업 및 상업 장려를위한 왕립 학회는 월요일부터 중단이 완화되는 상황에서 이것이 특히 중요하다고 말합니다. 알에스에이에 의해 영국의 모든 경찰의 FOI는 다음을 발견했습니다. 인공지능 및 자동 의사결정 시스템 사용을보고하는 경찰 중 단 한 명만이 공개 참여를 수행 한 것으로보고되었습니다. 3 월에 돌아온 에프오아이는 2 월에 얼굴 인식 프로그램을 시작한 메트가 대중과 협의 한 기록이 없다는 것을 발견했지만, 이것이 전개와 함께 일어날 것이라는 제안에도 불구하고 말이다. 대부분의 경찰은 인공지능 및 자동 의사결정 시스템을사용하지 않는 것으로보고 한 반면, 통계 분석은 경찰의 배치에 영향을 미치고 사우스 웨일즈와 수도 경찰은 라이브 안면 인식 프로그램을 배치한 '예측 치안'을 사용하는 것으로 보고되었습니다. 보고서 저자 싱과 그리 몬드는 특정 지역 사회와의 관계에 해를 끼칠 수 있다고 경고했습니다. “역사적 데이터를 기반으로하는 기술로 인해 인종 및 성별 편견이 악화 될 수 있으며, 투명성이 결여되어 정책 수립의 원칙을 훼손 할 수 있다고 우려합니다. 동의." 이 보고서는 또한 경찰과 직원들에게 제공되는 지침이 인공 지능 및 자동 의사 결정 시스템 사용의 구체적인 영향을 다루지 않고 다양하고 종종 부적절하다고 경고했습니다. 이 패치 워크 접근법은 또한 공공 상담이 조달 및 배포 프로세스에 거의 내장되어 있지 않음을 의미합니다. 얼굴 인식과 같은 기술의 경찰 출시는 논쟁의 여지가 없었습니다. 지난해 사우스 웨일즈 경찰은 안면 인식 사용에 대한 법원의 싸움에 직면했으며, 3 월에 평등 및 인권위원회는 더 나은 조사가 가능하고 법이 개선 될 때까지 중지하도록 촉구했습니다. 저자들은“문화적 보호가 충분하지 않은 (특히 심의 및 투명성) 새로운 기술을 채택하면 미래의 커뮤니티 응집력뿐만 아니라 진정한 혁신적인 기술 수용에 관한 상당한 문제를 저장할 위험이있다”고 결론 지었다. 이 보고서는 코로나 전염병에 대한 대응으로 영국의 경찰이 강제로 폐쇄 된 상황에서 발생합니다. 저자는 경찰의 힘이 증가하면 경찰이 이러한 기술을 사용하는 것이 적절한 보호 장치를 갖추는 것보다 더 중요하다는 것을 의미한다고 경고했다. 선함을 위한 공권력은 경찰이 인공지능 및 자동 의사결정 시스템을 어떻게 사용하고 있는지, 그리고 민족과 성별에 대한 균형을 유지하는 데있어 윤리에 관한 시민의 배심원을 조사하고 공개적으로 알리기 위해 심의를 요구합니다. 심의 기관은 올해 기후 회의를 포함하여 다양한 환경에서 시범 운영되고있다. 작년에 알에스에이는 기술에 관한 민주화 결정 에서 초기 심의회 결과를 바탕으로 툴킷을 발표했습니다 . 알에스에이의 기술 및 사회 프로그램 책임자 인는 아심 샤이 다음과 같이 말했습니다. “지난 몇 년 동안 우리는 경찰의 기술 사용이 급속히 확산되는 것을 보았습니다. 혁신은 흥미롭고 환영하지만 이러한 기술과 함께 제공되는 대중의 참여가 부족하다는 우려가 있습니다. 역사적인 데이터를 기반으로하는 기술로 인해 인종 및 성별 편견이 악화 될 수 있습니다. 이에 대해 이야기해야합니다. “우리의 연구 결과는 이러한 새로운 기술이 어떻게 사용되는지에 대한 투명성과 입력이 부족하다는 것을 나타내며 이는 동의 정책의 원칙을 훼손합니다. 비엠이 커뮤니티와의 관계에서 힘이 개선 된 것을 희생시키지 않으면 서 비용을 줄이는 것이 좋습니다. 법 집행 기관은 시민 사회 단체와 협력하여 인공지능 및 자동 의사결정 시스템사용 방식에 대한 적절한 상담을 제공해야합니다. “이것은 치안 이외의 의미를 가지고 있습니다. 오늘날부터 잠금이 완화되기 시작함에 따라 모든 대중의 이익을 고려하여 새로운 기술이 배포되고 있는지 확인해야합니다. 우리는 이러한 복잡한 기술 문제를 심의하고 논의하기위한 모델을 보유하고 있습니다. 우리는 정부가 업무를 수행 할 수있는 도구를 갖기를 원합니다. 그러나 이는 그 도구가 모욕을 당하고 모든 사람이 동의하고 신뢰할 수있게하는 것을 의미합니다.” 끝

댓글