複数の外国の事例に触発され、フランス警察は群衆の動きを予測することを目的とした人工知能の試験運用を開始する。このプロジェクトはスティーブン・スピルバーグ監督の映画『マイノリティ・リポート』を彷彿とさせるが、その有効性とプライバシーへの影響については議論が続いている。
小説を原作とするこの映画では、犯罪を予測し、発生前に阻止する「プリクライム」という部署が描かれる。トム・クルーズ演じる主人公はまだ犯していない罪で告発され、物語の大半はこのシステムが誤りうることを証明することに費やされる。
現在では、複数の国の治安当局が、人工知能を用いて暴力を予測するアプローチである予測警察に関心を寄せている。ソフトウェアはソーシャルメディア、監視カメラ、犯罪歴、さらには天気予報さえも分析し、公共の秩序を乱す可能性のある状況を特定する。情報はその後リアルタイムでパトロール隊に伝えられ、潜在的なホットスポットへ急行したり、警戒レベルを高めたりすることが可能となる。
アメリカ合衆国はこの種の技術を試験している国の一つであり、アルゼンチンに至ってはAIに特化した特別部隊さえ編成している。フランスは、自国独自のアルゴリズム「スマートポリス」の試験運用を計画している。
まだ不確かな有効性
記事によれば、現時点ではこの技術はあまりうまく機能しておらず、それによって立証される現行犯逮捕の事例はほとんどゼロに等しいという。暴動に直面した場合、その予測不可能性とそこから生じる混乱は、予測をさらに困難にする。ソーシャルメディア上で、ある店舗ではなく別の店舗を標的にするよう呼びかける投稿が集まることで傾向は掴めるかもしれないが、具体的なものは何もないと記事は述べている。
時折提示される数字にもかかわらず、この種のソフトウェアが警察の効率性を向上させたことを証明する真の研究は存在しない。現時点では、AIは集会を阻止できるツールというよりは、むしろ支援ツールとしての側面が強い。この場合、最終手段として言及されるのは夜間外出禁止令である。
個人の自由とプライバシー
ツールの使用とプライバシー保護の境界線は、記事によれば非常に曖昧である。記事は「『パーソン・オブ・インタレスト』効果」に言及している。これは、『マイノリティ・リポート』よりも信憑性が高いと見なされるかもしれない参照であり、特にAIがソーシャルメディアを精査する際、真の管理が及ばない大規模監視を伴うものである。
市民団体は「違法な個人情報ファイル作成」のリスクを非難している。また、AIがすぐに偏りを持ち、特定の地域や人口カテゴリーのみに焦点を当てる可能性についても懸念を示している。
