ちょっとした家電製品から、複雑な計算、人間のような推論まで、いまや人工知能（AI）は人間生活の広範な分野に浸透している。便利な一方、人権との衝突も問題になり始めている。そんなAIについて、欧州連合（EU）が世界に先駆けて規制案をまとめ、公共の場で顔認証技術を捜査に利用することを原則禁止することなどを打ち出した。AIの健全な発展には、安全性や基本的人権の確保が不可欠との考えに基づく。市民の権利を保護し、企業が安心してAIを使えるルールづくりで世界に先んじることで、投資を呼び込む狙いもある。EUのAI規制案、4段階に分類EUの執行機関である欧州委員会が2021年4月21日に公表したAI規制案は、AI利用がもたらすリスクを、（1）受け入れがたいリスク（2）高リスク（3）限定的なリスク（4）最小限のリスク――の4段階に分類。それぞれどう規制するかを定めようとしている。企業に違反が確認されれば、世界売上高の最大6％か3000万ユーロ（約39億円）のいずれか高いほうの罰金を科すという。（1）は基本的人権を侵害するとして、禁止する。公の場で警察などの公権力がリアルタイムで顔認証などの生態認証技術を使って捜査することが代表例だ。ただし、行方不明の子どもの捜索や差し迫ったテロの脅威などの場合は、司法機関や独立機関による事前承認を経て、限定的に顔認証技術を使えるようにするとした。このほか、交通違反や公的料金の支払いなどの行動データを分析して個人をスコアリング（格付け）すること、無意識の知覚に関係するサブリミナル技術、社会的弱者の搾取に関わる技術などを禁止すべきものとして挙げた。（2）は市民の権利や安全に悪影響を与えるもので、利用には事前の審査が必要とした。企業の採用面接や教育現場での試験の採点、国境管理、ローンに際しての信用調査、ロボットを使った手術などを例示した。（3）は一定の透明性が求められるAI利用で、「チャットボット」の使用時に、利用者に相手が人間ではなく機械だと伝えることなどが必要とした。（4）は迷惑メールの振り分けや工場の効率的稼働のためのシステム、ゲームへのAI搭載など、リスクがほとんどないかゼロのもの。追加の規制は設けない。大半のAIがこの分類入るとしている。「国民を監視」顔認証で人種差別EUがAI規制に動く背景には、業務効率化や新たなサービス提供などを目的にAIの利用が急拡大するなか、犯罪捜査や人材の採用などでのAI利用が人権を脅かすとの懸念が指摘されていることがある。白人警官による黒人被疑者への差別が問題となっている米国では2020年、IBMやアマゾン、マイクロソフトなどIT大手が警察への顔認証技術の提供を停止するなどした。中国ではIT企業に、政府への個人情報の提供を義務付け、当局が広範な国民の個人情報を集積しているとされ、AIを使った顔認証が少数民族のウイグル族の監視に使われていると伝えられている。さらに中国の監視システムが独裁国家や権威主義国家で国民の監視に活用されるなど、国際的な懸念が広がっている。AIの利用に関する国際的な包括ルールは整備されておらず、人権団体などから懸念が示されていた。欧州委員会でデジタル分野を担当するベステアー上級副委員長が4月21日の発表の中で、「AIは進歩のための力であるべきだ。しかし、実現にはAIシステムの信頼構築が必要だ。リスクの軽減が確信できる場合にのみ、AIの社会的・経済的潜在力のすべての恩恵を受け取ることができる」と、ルールの必要性を強調したのは、EU内外の懸念に応えようとする狙いがある。人権を重視する欧州の面目躍如といったところだ。世界各国のルールづくりにどう影響？ただし、きれいごとばかりではない。ベステアー氏は、「AIの信頼確立にむけ、EUは新たな世界の規範づくりを主導する」とも表明している。ベースに人権重視があるとはいえ、個人情報保護の国際的なルール形成に大きな影響を与えたEUの「一般データ保護規則（GDPR）」（2018年施行）の「成功体験」を踏まえ、世界各国の企業を拘束するAI規制のグローバルスタンダード（世界標準）を、EU主導で定めようという明確な意思表示でもある。新たな分野での「標準」の獲得は、競争力を左右する。世界から関連の投資を呼び込もうという狙いは明らかだ。他方、規制が強すぎれば関連企業に逃げられ、技術革新を阻害する懸念もある。EUが開発競争で先行する米中に後れを取る可能性も指摘される。今回の規制案について「厳しすぎる」（大手電機メーカー）といった声が関係業界からは早くも出ている。たとえば、前記（2）「高リスク」に分類される規制案では、第三者機関などの事前審査を経る必要があり、データの適切な使用、消費者への十分な説明などが求められることから、コスト増につながるとの警戒感がある。大きな方向として、国際的な共通ルール策定の議論が高まっていくのは確実。AIを活用している日立製作所、NEC、富士通などはAI利用について社内のガイドラインを設けるといった取り組みを始めている。EUのAI規制案が今後、日本を含む各国のルールづくりにどのような影響を与えるか、関係者は注視している。（ジャーナリスト 岸井雄作）
記事に戻る