科学と技術

反体制側グループがAIを用いた顔認識技術で暴力警官の特定をしようとしている

2021.01.03 15:56 by chaka

写真に誰が写っているのかを判別する「顔認識」など、AIを用いた画像識別技術がよく話題になります。国家や大企業による個人のプライバシー侵害について長く指摘されてきたわけですが、最近は反体制側が体制側に対する攻撃としてこれを用いようという動きが目立つそうです。

SNSで写真をアップロードすると、そこに誰が写っているのか自動的に判別される「顔認識」は当初からプライバシー上の問題があることが指摘されてきました。顔認識システムを使えば、膨大なデータの中からある人物写った画像だけを一気に分類できるからです。

この画像を他の複数のデータと組み合わせることで、いわゆる「ビッグ・ブラザー」的な強力な監視社会ができてしまうことも指摘されてきました。実際強力なシステムであるようで、日本の警察が2020年3月に街頭の監視カメラやSNSから得られた画像を過去の逮捕者のデータベースと照合し、捜査に活用していることが明らかになるなど、各国での事例が報告されています。

こうしたシステムを開発・運用するには元来高い技術力と豊富な資金が必要でした。しかしITの進歩によって、ちょっとした知識があれば誰しもが同じことができるようになりつつあります。つまり大きな組織ではなく、小さな反体制グループもこうした技術を使って攻撃に出る可能性が出てきているのです。

こちらはベラルーシの活動家、アンドレイ・マクシモフが投稿した動画。
Искусственный интеллект снимает маски с омона / AI unmasks secret police – YouTube

しばしば話題になる、警官がデモの参加者に対して暴力的な取締をしているこのような動画。この活動家はこうした動画から警官を特定するデータベースを構築したと主張しています。

顔の一部から、SNSやニュース記事、情報開示請求などを利用して収集された警察官のものとされる画像と照合していきます。

最終的には元の動画からマスクをはいで合成。

このソフトウェア自体はおそらくはフェイク。「この画像をご近所に貼りだしたらどうなりますか」「一緒に写っている人も危険ではないですか」「あなたの子どもが将来あなたの名前でネットを検索した時に、この画像を見たらどう思うでしょうか」という脅迫や牽制のためのものと考えられています。

こうした技術の実在や、それによる影響がどれほどのものかについては既にこれらを使用している警察側は十分に理解しているでしょう。個人への攻撃が組織の行動原理に影響を与えることも一般的に考えてなさそうです。

しかしそれでも一部政府は反体制側によるこうした技術の使用を牽制したいようで、例えば2019年7月、香港の民主活動家Colin Cheung氏が逮捕されたのはデモ摘発に出動した警察官を顔認識で個人特定するソフトを開発していたためだ、という報道がありました。

また2020年に大荒れしたアメリカのBLM運動の最中、オレゴン州ポートランドでは顔認証などの個人識別技術を開発・使用するのを規制する法案が市議会を通過しました。ユニークなのは警察など公権力だけでなく民間にもその規制を広げたところで、対象を広く取ったのは暴動側の使用を規制したいからとする声もあるようです。実際、暴動鎮圧に出動した警官は名札にテープを貼ったり、個人識別番号のみの表示にしたりして、特定を避ける策をとっていたようです。

実現したにせよまだにせよ、単なるプロパガンダ以上の効果はない……のですが対象となった個人の尊厳とプライバシーが犠牲となるのは間違いありません。こうした顔認識を阻害するメーキャップというのが半ばジョーク的なアートとして制作されたこともありますが、真剣に商品化される日が近いのかもしれませんね。

顔認識システムから隠れるためのメーキャップ術「CV Dazzle」 – DNA