「こいつ犯罪顔だ 要マーク」 AIにより検出、法執行機関に貢献する仕組み

　
顔認識ソフトを利用した犯罪予測ソフトウェアには人種的偏見と欠陥があるAI研究者たちが非難　　2020年6月24日

1000人を超える人工知能の研究者、学者、専門家の集まりが、
まもなく発表される予定のニューラルネットワークを使用して「犯罪を予測する」と主張する研究に対して反対している。
この記事を執筆している時点ではFacebook、Google、Microsoftなどの企業でAIに取り組んでいる50人以上の従業員が、
研究に反対し、出版の再考を促す公開書簡に署名している。

論争の的となっている研究は、ネイチャーの出版元である、Springerによる書籍シリーズで、今後取り上げられる予定になっている。
その研究の著者たちは、彼らの自動顔認識ソフトウェアはある人物が犯罪を犯すか否かを予測することが可能で、
このような研究の法執行機関による予防的治安維持への応用の有用性を主張している。

書簡曰く

「機械学習プログラムは中立ではない。研究計画とそれが扱うデータセットには、
しばしば世界についての支配的な文化的信念が継承されているからだ」

「デフォルトの仮定の無批判な受け入れは、必然的にアルゴリズムシステムの差別的な設計につながり、
社会階層を固定化し疎外されたグループに対する暴力を正当化する考えを、繰り返し生み出すことになる」

https://jp.techcrunch.com/2020/06/24/2020-06-23-ai-crime-prediction-open-letter-springer/