人権か、経済か。「顔認識」がAI法案で最大の争点となった舞台裏
2024.1.8
監 修
株式会社Laboro.AI 執行役員 マーケティング部長 和田 崇
概 要
2023年12月、世界初となる「包括的なAI 法案」がEUで合意に至りました。この法案によってさまざまなAI技術が4つのリスクに分類され、最も危険とされるものの利用は禁止されるようになります。
会合の場にはおよそ100人がいたとされ、各々の立場の思惑が交錯し、中でも顔認識技術について激しく意見が交わされました。議論の結果、用途によっては「許容できないリスク」として禁止されるような高リスクに位置付けられることとなった顔認識技術。違反した企業は最大で、3,500万ユーロ（約55億円）または世界における年間総売上高の7％のいずれか高い方を罰金として支払うことになります。
このAI法案が2024年に承認されるのを目前に控え、顔認証技術の具体的なリスクや、どうすると公平で安全な社会に役立てられるのか、法律に従う前の私たちが意見を交わすタイミングはもう、わずかしか残されていないのかもしれません。
（※このコラムは2023年12月時点の情報をもとに作成しています。）
目 次
・人権を守るAI法案
・いろいろなAIをリスクで分類
・顔認識技術のルール作り
・「許容できないリスク」という格付け
・「許容できないリスク」の例外
・顔認識技術をめぐる例外的措置
・2024年にオリンピックを控えたフランス
・企業にはマイナスの影響
・世界の思惑と規制への動き
・中国のAI規制は民間への牙城
・アメリカはサイバー攻撃への対応を優先
・日本は慎重に特定の範囲ごとに検討
・AIが握る経済のパワーバランス
・エンジニアよりも弁護士へ
・プライバシーの不安とセキュリティの安心
・人権を支える顔認識技術の普及を
・施行スタートまで間もなく
・安心のために残されたのはわずかな時間
人権を守るAI法案
いろいろな AI をリスクで分類
ブリュッセルで開催されたEUの会合で、世界初となる「包括的なAI法案」が合意に至りました。しかしながら合意とはいえ、3日間に及んだこの“マラソン会合”の内側では激しい交渉が行われていたことも事実で、途中、大きな意見の相違によって当局者が疲弊し、休会を余儀なくされるほどだったそうです。
そもそもAI法案とは、AI技術の潜在的なリスクに対処するために、AIがどのように開発され、使用されるべきかを規定するルールの集合体のことです。この法案の注目すべき点は、さまざまなAIの用途をリスクのクラスで分類し、より高いリスクに対して規制を強化するような仕組みになっているところです。例えば、私たちに身近なおすすめシステムやスパムフィルターなどのAIシステム は自由に利用できる最小リスクに位置付けられています。
顔認識技術のルール作り
「許容できないリスク」という格付け
それでは、何がそれほど白熱した議論を呼ぶ争点となったのかというと、一つに公共の場での顔認識技術 ーバイオメトリクス（人物の識別と分類）と感情認識に関連する技術ー の使用が挙げられます。現在、バイオメトリクス技術は、顔識別、アクセス制御、監視、人の捜索の目的などで法執行機関でもすでに利用され始めています。
表情解析による感情認識の技術は、配送業（運転手の監視）、医療（痛みなどの検出）、刑事司法（警察の取り調べ）、教育（学生のオンライン試験の監督）、職場（ストレス状態や燃え尽き症候群の予測）、雇用（就職面接）、そしてエンターテインメントやマーケティング（消費者の体験や満足度評価）において強い存在感を示しています。
今回の会合では、「基本的人権を守る」ことを核としてAI技術の利用目的ごとにリスクが4段階に分けられましたが、その中で顔認識技術の一部は今回の会合で最も危険とされる「許容できないリスク」に分類されたのです。
「許容できないリスク」の例外
なぜ、顔認識技術は「許容できないリスク」などの高リスクに指定されるほど問題視され、ルール作りを困難にするのでしょうか。それは一言で言うと、顔認識技術の使用が人権侵害につながるリスクが高い技術でありながら、最も研究が盛んで需要が非常に高い技術だからです。
会合では、警察や雇用主、小売業者が一般市民を撮影して人物や感情を認識するAIのリアルタイム監視をめぐり、これらの利用を人権擁護のために禁止したい EU 議員との間で意見が対立し、交渉が長引いたのです。最終合意では、その用途によっては禁止もありながら、リアルタイムの顔認識技術については法執行機関での使用のための例外が設けられることになりました。
顔認識技術において禁止されたのは、職場や教育機関における感情認識に関する利用や、インターネットなどから無差別に顔のデータを拾ってシステム開発に利用することなどです。これによって例えば、顔認識技術や音声ガイドで子どもの行動を観察したり、何かを促したりするおもちゃの開発は禁止されることになりそうです。
また、今回の法案により、SNSなどから無断で顔データをスクレイピングすることも禁止されます。インターネット上で顔データを集めることはプライバシーの権利を損なうだけでなく、データの偏りにより多様性と公平性、表現の自由、集会の自由に対する権利を脅かす可能性が指摘されてきましたが、スクレイピングが禁止となれば自ずとこうしたリスクを防げる可能性は高まるはずです。
顔認識技術をめぐる例外的措置
2024 オリンピックを控えたフランス
議会は当初、人種や政治的意見、宗教といった特徴に基づいて個人を分類する顔認識技術の使用も禁止したいと考えていました。しかしながら、オリンピックを控えたフランスなど欧州各国政府からの強い要請を受け、テロ防止や重大犯罪の被害者や容疑者の所在を特定するためという例外の設置と引き換えに、リアルタイムの顔認識技術の使用禁止を取り下げました。
すでにパリには250台のAI監視カメラが設置され、2024年のオリンピック開催に向けてフランスの国会でAIを用いて警察の監視を強化する法案が可決されています。ただし、例外とはいっても、重大犯罪の容疑者や被害者の捜索をするには結局、公共空間にいるすべての人の特徴をスキャンすることになります。
顔認識技術の使用を厳しく制限するために交渉チームを率いたブランド・ベネフェイ欧州議会議員は、警察による濫用を防ぐため、使用に関して「独立した当局」が「予測的取り締まり」の許可を与えなければならない保障を確保したことに触れています。そして欧州議会のロベルタ・メツォラ議長は、この法案は「バランスの取れた人間中心のアプローチ」であり、「間違いなく今後何年にもわたって世界標準となるだろう」と語っています。
企業にはマイナスの影響
その一方で、 AI規制が厳しすぎると、AI 開発における欧州トップ企業の成長が損なわれ、欧州から追い払ってしまうことになるかもしれないという懸念が聞こえてくることも事実です。そういった企業の中には、ヨーロッパ大陸の言語多様性に対応する生成AIを開発するドイツのAleph Alpha や、画期的な大規模言語モデルを開発するフランスのMistral AIといった注目企業の名も上がっています。
今回の合意に対し、AI分野における欧州最大のイニシアチブ appliedAI のアンドレアス・リーブル代表は、次のように言います。
「世界的な競争という点では、（AI規制は）足手まといになるだけだ」
世界の思惑と規制への動き
中国の AI 規制は民間への牙城
EUのAI法案はAI 技術に関する最も包括的なルールブックと言われていますが、AI法自体は世界初ではなく、中国では2023年8 月に生成AIに関する規制が施行されています。中国は生成AI によって検閲が難しくなることを恐れ、民間のAI使用を厳しく制限しています。例えば、ChatGPTを中国国内で利用することはできませんし、動画生成AIとして何かと話題になる“ディープフェイク” も不健全または感情的に有害とみなされ禁止されています。
しかしその一方で、顔認識技術はすでに大規模に使用されており、街中の交差点では顔認識システムでサポートされた大型スクリーンに、信号無視をした人がリアルタイムで映し出されたり、公衆トイレのトイレットペーパーディスペンサーを作動させるために顔認識技術が使用されたりもしています。
ですが、あまりに急速に普及する顔認識AIに懸念の声が強まり、2023 年には顔認証技術のセキュリティ管理を統括するための新しい草案も発表されました。
アメリカはサイバー攻撃への対策を優先
中国のようにAIが重要な商業的展望を握ると睨むアメリカは、規制に対してどちらかというとライトタッチなアプローチを選んできました。
しかしサイバー攻撃に対して懸念が膨らむ中でバイデン大統領は2023年10 月、AI開発企業に対し、サイバー攻撃に対するアプリケーションの脆弱性の評価やAIの訓練とテストに使用したデータ、性能測定値を連邦政府に提出するよう求める大統領令を出しました。
今後更なる顔認識技術の利用がありうる雇用や住宅ローン申請、裁判所の判決におけるAIの使用に関しては、企業に行政府への利用ガイダンスの公表を義務付けることでリスクへの対処としています。
日本は慎重に特定の範囲ごとに検討
そして日本では、道路交通法に自動運転の項目が設けられるなど、AIの開発や利用をめぐる制度については、範囲や用途をかなり絞って慎重に検討されてきました。
それが 2023年、生成AIを開発する企業や全てのAIの開発と活用における国際ルールをつくろうとG7議長国として提案し、G7広島サミットで「広島AIプロセス」が立ち上がって議論が交わされ、12月に各国共通の基本的な方針が合意に至りました。そして、年末には企業向けに「10の指針」が定められ今後本格的に整備されていくことになります。
それに沿って企業には、AIに関する脆弱性や透明性、テスト結果やリスク管理などといった情報を政府に提供することを前提としたAIの開発が求められる見込みですが、今回のEUのAI法案による国際社会の流れを受け、顔認識技術のリスクも含めてどのような調整がされていくのか今後が気になるところです。
AI が握る経済のパワーバランス
エンジニアよりも弁護士へ
EUのAI法案の合意によって、企業が規制を遵守するためにはAI エンジニアを雇用することに代わって、弁護士にリソースが費やされることになるという意見もあります。
しかしEUでは、かつてSNSにおいて、選挙への干渉やヘイトスピーチ、児童性犯罪を含むプラットフォーム上のコンテンツを規制する義務を負うことなく、企業が数十億ドル規模にまで成長することが許された過去の過ちを繰り返してはならないという議員の発言も見られ、AI社会で人権を守る世界のリーダーとなる道を歩み始めています。
AIはすでに経済構造に入り込み、金融投資に情報を提供し、国の医療や社会サービスを支え、エンターテイメントの分野に影響を与えつつあります。それはつまり、AIが世界のパワーバランスに影響を与える存在になっていると言っても過言ではありません。
ところが、世界各国がそれぞれの思惑でAI 技術に対する規制を模索している反面、実は一般における顔認識技術への意識は世界中でまだまだ薄いというのが実情のようです。
プライバシーの不安とセキュリティの安心
実際、これまでいくつかの研究で、顔認識AIに対する一般市民の認識を分析した調査結果が報告されています。イギリスの数千人の成人を対象とした調査では、顔認識技術の認知度が高いとしても、顔認識がどこで使用されているのか、その精度や限界などに関する知識は低く、市民へのアウトリーチと教育努力の必要性が示唆されました。
さらにこの調査では、市民が無条件に警察の顔認識技術の利用を支持しているわけではないものの、多くは顔認識技術が自分にとって重要なセーフガードであると安心感を抱いていることも判明しました。
こうしたプライバシーの権利への不安と、より効果的なセキュリティへの安心との間を行き来する心の揺れは、オーストラリアの市民を対象に行われた調査でも確認されています。
さらに調査によってわかってきたことは、一般市民の顔認識技術に対する意識が文化的背景に大きくリンクしていることです。例えばアメリカの回答者は技術の民間利用をより受け入れている傾向が見られますが、イギリスやオーストラリアの回答者ほど警察による利用を信頼していません。そして、中国の回答者はイギリスの回答者と比べて、AI技術がより正確であると考えています。
人権を支える顔認識技術の普及を
これらの研究結果をみると、コロナの蔓延防止や事故防止、コミュニケーションが困難な患者の痛みの評価など、社会に良い影響を持つ顔認識技術の使用事例が一般にはあまり知られていないことも考えられます。
こうしたポジティブな顔認識技術の中でも期待が寄せられるのは、目の不自由な人々への支援です。目の前の人やすれ違う人の表情を認識して伝えることでAIがその人の目となり、コミュニケーションを助ける技術の開発が進められています。
高齢化の進む今後40年で、目の見えない人の数は世界中で3倍に急増し、2050年までに1億1500万人に達すると予測されています。イギリスのアングリア・ラスキン大学の研究チームが世界188カ国のデータを分析したところ、中程度から重度の視覚障害がある人の数も2050年までに5億5000 万人に上る可能性があり、その多くが発展途上国に暮らす人だそうです。
また今回のAI法案によって、こうした人権を支えることを目的とした顔認識技術の開発に必要な顔データが、インターネットから無作為に集められなくなったとしても、合成顔画像データを生成するAI技術によって安全に顔データが提供されるような可能性も生まれてきています。
厳しい規制を敷くEUのAI法案でも、イノベーションを支援するため新たに開発されるAIシステムは、スタート時はAI 法で定義された高リスクのカテゴリーから始まり、その効果を調査するにつれて低リスクに降格させることができるとしています。
施行スタートまで間もなく
安心のために残されたのはわずかな時間
欧州議会は今回の合意によって2024年5月にもこの法案を通過させることができるようになりそうで、投票で法案が可決された後には、欧州AI事務局が新設されるとともに、EU加盟各国がAIを規制する機関の設立を進められる予定です。
また、可決後6ヶ月で顔認識技術のようなリスクの高いものから先に、この法律に則って違反を取り締まる流れになり、加盟国は2年後までにAI法を国内法に取り入れていくとのことです。
世界に先駆けEUは、人々を中心に据えたAI法の施行という歴史的な偉業を成し遂げようとしています。人権保護団体は今回の法案によって、企業や当局が人々を1と0の文字列に置き換え、歩くバーコードとして扱うことを阻止することができると主張しています。
確かに過去10年で人間の顔は、”ピッ”とスキャンできる世界共通の信用通貨のようになりつつあります。ですがEUだけではなく、ここ日本においても今後規制が敷かれていく日が間近に近づいているわけですが、そのときを境にして、私たちは顔認識AIに対して感じる不安と安心の両方がはっきりとクリアに見通せていると自信を持って言えるのでしょうか。
法案の最大の争点となるほど顔認識AIが重要な局面にある今、法律に従う前の状態で私たちが意見を交わすタイミングはもう、わずかしか残されていないのかもしれません。
