COLUMN
2019.10.01矢野 博司
ディープフェイクと自律社会
オムロンのSINIC理論では、ものから心へ価値観が変容し、社会・科学・技術が相互に影響を受けて進化し、最適化社会から自律社会に向かうとしています。
私は、以前顔画像認識技術の開発を担当していたことから、様々な画像認識や画像関連技術の社会に対するインパクトに注目しています。最近、気になった記事は、「ディープフェイク」に関する記事です。
「ディープフェイク」というのは、AI技術を利用して、不正に加工した画像や動画を生成する技術で、個人の画像や動画を重ね合わせたり、操作したりして、その個人を動かして、本当は話していないことを、あたかも口にしたかのように見せることができます。
今までは、加工された画像や動画を見ると、加工跡が見えたり、動作がぎこちなかったり、フェイクであることが瞬時に判別できました。最近では、PCやスマホで画像を加工、修正できる技術が発達し、例えば、米ワシントン大学の教授らが作った「フェイク顔写真判定ゲーム」（*1）を見ると、顔画像については、じっくり見てもフェイクであることが判別できなくなってきていますし、動画においても、自分の顔画像を登録すると、テレビや映画上の人物の顔を、登録した顔画像と交換することのできるスマホアプリが登場しており、容易にフェイク動画を作り出せるようになってきています。
そのような状況になってくると、フェイク動画によって、様々な問題が引き起こされることが予想されます。政治家や企業のトップなど社会的に影響のある人のフェイク動画を拡散することで、社会や企業に影響を与えることは容易に考えられますし、スマホで、フェイク動画が簡単に生成できることから、身近な人物、近所のコミュニティや職場に対しても影響を与えることが可能になってきました。
フェイクニュースが、身近に迫ってきたのです。私たちの友人や職場の同僚などの画像や動画ですら、疑い、身近でリアルなつながりも信じられなくなる世界が迫っているように感じます。個人やコミュニティが様々なネットワークを通してつながり、それぞれが自律することで、多様な生き方や新たな価値観を生み出し、持続的な社会を創造していくことが自律社会です。その根幹である個人やコミュニティのつながりが問われています。
では、人やコミュニティのつながりをどのように作っていけばよいのでしょうか？。ここでは、まずデジタルなつながりについて考えてみたいと思います。
デジタルなつながり、すなわちネットワークを使った世界では、一方向からの情報だけだと、情報の有無はわかりますが、情報元やその情報が信頼すべきかの判断がつきません。そこで、私たちは、その情報に対するコメント、本人の話す内容やビデオなどを使って、情報の有無だけでなく、情報元である本人の付帯情報や、表情や周囲の状況という多様な情報を入手し、それらの情報を統合して、信頼性を評価していました。ところが、ディープフェイクによって、これらの情報の信頼性が失われる可能性が高まっています。そのため、フェイクな情報が含まれていたとしても、評価や判断ができるように、今まで以上に異なる観点、意見など多種多様な情報を集め、それらを統合し、評価することが必要になってきています。
つまり、価値観の異なるネットワークを複数もち、情報を集め、統合し、評価することを繰り返して、自分自身の判断力を高めていくことが重要になってきたと感じています。
と書いてみたところで、多様なネットワークをもって、判断力を高めていく行動は、自律を促す行動ではないかと、思えてきました。ディープフェイクという技術をポジティブに捉えなおすと、個人やコミュニティの自律化を促しているのではないかと。実際、ディープフェイク関連技術をポジティブに使って、匿名希望の人の本来の表情を確保しながら、本人とは異なる顔を作ることでプライバシーを保護する技術も発表（*2）されています。
ディープフェイク技術は、個人やコミュニティのつながりに疑問を提示しました。何をもってその人と判断し、信頼するのかというのは、その人との関係であり、その人との共創や共感の体験です。自分がその体験をどのように感じ、どのように考え、何を学ぶかです。
現在の最適化社会では、価値観が大きく変わる時代で、答えが一つであるとは思いません。社会的な解決が求められるだけでなく、一人一人が考えるべき問題だと思います。これをきっかけにつながりを意識し、ポジティブに考えていけば、個人の自律化を促すことになり、自律社会に向けた活動になると思います。
*1：「フェイク顔写真判定ゲーム」：米ワシントン大学の教授らによれば、このゲームの目的は、ユーザーに、デジタルID（ここでは顔画像）が偽造されやすいことを認識させて、一目でこれらの偽造を判別できるようにすることであるのこと。（http://www.whichfaceisreal.com/about.html）
*2：「DeepPrivacy: A Generative Adversarial Network for Face Anonymization（ディーププライバシー：顔匿名化のための敵対的生成ネットワーク」米コーネル大学での発表（https://arxiv.org/abs/1909.04538）
私は、以前顔画像認識技術の開発を担当していたことから、様々な画像認識や画像関連技術の社会に対するインパクトに注目しています。最近、気になった記事は、「ディープフェイク」に関する記事です。
「ディープフェイク」というのは、AI技術を利用して、不正に加工した画像や動画を生成する技術で、個人の画像や動画を重ね合わせたり、操作したりして、その個人を動かして、本当は話していないことを、あたかも口にしたかのように見せることができます。
今までは、加工された画像や動画を見ると、加工跡が見えたり、動作がぎこちなかったり、フェイクであることが瞬時に判別できました。最近では、PCやスマホで画像を加工、修正できる技術が発達し、例えば、米ワシントン大学の教授らが作った「フェイク顔写真判定ゲーム」（*1）を見ると、顔画像については、じっくり見てもフェイクであることが判別できなくなってきていますし、動画においても、自分の顔画像を登録すると、テレビや映画上の人物の顔を、登録した顔画像と交換することのできるスマホアプリが登場しており、容易にフェイク動画を作り出せるようになってきています。
そのような状況になってくると、フェイク動画によって、様々な問題が引き起こされることが予想されます。政治家や企業のトップなど社会的に影響のある人のフェイク動画を拡散することで、社会や企業に影響を与えることは容易に考えられますし、スマホで、フェイク動画が簡単に生成できることから、身近な人物、近所のコミュニティや職場に対しても影響を与えることが可能になってきました。
フェイクニュースが、身近に迫ってきたのです。私たちの友人や職場の同僚などの画像や動画ですら、疑い、身近でリアルなつながりも信じられなくなる世界が迫っているように感じます。個人やコミュニティが様々なネットワークを通してつながり、それぞれが自律することで、多様な生き方や新たな価値観を生み出し、持続的な社会を創造していくことが自律社会です。その根幹である個人やコミュニティのつながりが問われています。
では、人やコミュニティのつながりをどのように作っていけばよいのでしょうか？。ここでは、まずデジタルなつながりについて考えてみたいと思います。
デジタルなつながり、すなわちネットワークを使った世界では、一方向からの情報だけだと、情報の有無はわかりますが、情報元やその情報が信頼すべきかの判断がつきません。そこで、私たちは、その情報に対するコメント、本人の話す内容やビデオなどを使って、情報の有無だけでなく、情報元である本人の付帯情報や、表情や周囲の状況という多様な情報を入手し、それらの情報を統合して、信頼性を評価していました。ところが、ディープフェイクによって、これらの情報の信頼性が失われる可能性が高まっています。そのため、フェイクな情報が含まれていたとしても、評価や判断ができるように、今まで以上に異なる観点、意見など多種多様な情報を集め、それらを統合し、評価することが必要になってきています。
つまり、価値観の異なるネットワークを複数もち、情報を集め、統合し、評価することを繰り返して、自分自身の判断力を高めていくことが重要になってきたと感じています。
と書いてみたところで、多様なネットワークをもって、判断力を高めていく行動は、自律を促す行動ではないかと、思えてきました。ディープフェイクという技術をポジティブに捉えなおすと、個人やコミュニティの自律化を促しているのではないかと。実際、ディープフェイク関連技術をポジティブに使って、匿名希望の人の本来の表情を確保しながら、本人とは異なる顔を作ることでプライバシーを保護する技術も発表（*2）されています。
ディープフェイク技術は、個人やコミュニティのつながりに疑問を提示しました。何をもってその人と判断し、信頼するのかというのは、その人との関係であり、その人との共創や共感の体験です。自分がその体験をどのように感じ、どのように考え、何を学ぶかです。
現在の最適化社会では、価値観が大きく変わる時代で、答えが一つであるとは思いません。社会的な解決が求められるだけでなく、一人一人が考えるべき問題だと思います。これをきっかけにつながりを意識し、ポジティブに考えていけば、個人の自律化を促すことになり、自律社会に向けた活動になると思います。
*1：「フェイク顔写真判定ゲーム」：米ワシントン大学の教授らによれば、このゲームの目的は、ユーザーに、デジタルID（ここでは顔画像）が偽造されやすいことを認識させて、一目でこれらの偽造を判別できるようにすることであるのこと。（http://www.whichfaceisreal.com/about.html）
*2：「DeepPrivacy: A Generative Adversarial Network for Face Anonymization（ディーププライバシー：顔匿名化のための敵対的生成ネットワーク」米コーネル大学での発表（https://arxiv.org/abs/1909.04538）
