ディープ フェイク 動画。 「フェイク動画」はどうやって作られている? ディープフェイクの仕組みと悪用対策

ディープフェイクとは?偽動画の例や仕組み・作り方・危険性などをまとめて紹介

ディープ フェイク 動画

ディープフェイク deep fake は最近使われ始めた言葉でまだ一概には定義されていませんが、 「深層学習 deep learning 」と 「偽物 fake 」から派生した言葉です。 元は映画などで活用するために開発された技術だと言われています。 ディープフェイクの歴史 photo by pixabay つい最近までは、動画の加工や偽造は大変な作業であり、動画作りの専門家にとっても気の遠くなるような作業が必要でした。 しかし、今ではAIによる機械学習によってこのプロセスがますます容易になり、加工や偽造された動画は加速度的に増えています。 ディープフェイクが出現したのは2017年です。 ネット上にディープフェイクを用いて有名人の顔を入れ替えたポルノ動画が初めて登場し、話題を呼びます。 その後、ディープフェイクのアルゴリズムがトルツメのコード共有プラットフォーム、「」に一般公開されることにより、誰でもその技術やノウハウを習得できるようになりました。 これを機にディープフェイク動画が一気にネット上にアップされるようになります。 今ではネット上では250枚ほどの写真をアップロードすると、2日程度でディープフェイク動画を作成するオンラインサービスもあり、1本あたり2. 99ドル(約300円)ほどの低価格で取引されています。 さらに、中国の顔画像交換アプリ「ザオ」も極めて手軽にディープフェイクを作成できるとして、注目を集めました。 ディープフェイクは私たちの間で次第に身近になってきています。 出典: 中には無害なディープフェイク動画もありますが、最近ではディープフェイクされるターゲットが女性や著名人に向けられ、悪質なフェイク動画が急増しています。 ディープトレースが公表した報告書「」によると、 2019年に同社がネット上で確認したディープフェイク動画は1万4,678件に上ります。 これは前年の2018年に比べて84%も増しています。 その内訳をみると、 96%は有名なハリウッド女優などの顔をはめ込んだポルノ動画で、ポルノ以外の動画はわずか4%だったと言います。 このデータからも言える通り、ディープフェイクを用いた女性に対する人権侵害は増え続けている状況です。 ディープフェイクの恐怖 残念ながらディープフェイクは、決して良い意味での注目を浴びている訳ではありません。 最近特に問題視されているのが、ディープフェイクを用いた著名人の顔すり替え動画です。 出典: 有名なのは2018年にYouTubeで公開された、です。 この動画はディープフェイクの恐ろしさを物語っています。 一見すると本当にオバマ氏がトランプ大統領の悪口を言っているように見えます。 しかし動画の最後では画面が二分割されて俳優兼監督のジョーダン・ピールが現れることにより、これが偽物の動画、ディープフェイクであることが分かります。 動画の中でのネタばらしがなければ、誰もオバマ氏ではない偽物が喋っているとは気づかなかったはずです。 ディープフェイクという技術は、赤の他人を使って、これほど忠実に本物の人を再現できるのです。 このようなディープフェイク動画は、世界の政治を揺るがしかねません。 ディープフェイク動画が拡散し、視聴者に真に受けられれば、場合によっては選挙の結果を大きく左右し、候補者の評判を大きく下げる可能性も拭えません。 この動画も、現時点で 762万回以上再生されています。 問題となっているのはディープフェイクを用いたフェイク動画そのものよりも、むしろ別の点にあると指摘する人もいます。 動画を活用し、人権侵害の告発などに取り組むNPO「ウィットネス」のプログラムディレクター、サム・グレゴリー氏は、ディープフェイクによって以下の事態が発生していると述べています。 」 出典: これはつまり、 ディープフェイクを口実に、リアルな動画の信憑性を疑い、否定する権力者が出てきているということです。 その一例として、トランプ氏がNBCの番組の収録現場で「スターならやらせてくれる。 何でもできる」などと卑猥な発言をしていた動画が、2016年の大統領選中に発覚した問題があります。 当初はこの発言を認めていたトランプ氏でしたが、大統領に就任した後に、上院議員や側近に、「動画は偽物のディープフェイクだった」と公言しています。 photo by pixabay 自分には都合の悪いリアルな動画が証拠として提示された場合に、ディープフェイクを口実に嘘をつくという逃げ道を権力者に与えてしまったのです。 ディープフェイクvs表現の自由 photo by pixabay 何かと良くない話題を生んでいるディープフェイクですが、果たしてディープフェイクのどこまでが制限され、どこまでが許容されるべきなのでしょうか。 フェイスブック社は今年、ディープフェイクの一部を削除する方針を打ち出しました。 しかし、 どこまでを表現の自由と捉えるかの判断が難しく、規制は限定的であるべきだとしています。 フェイスブック社のプロダクトマネージャーであるアントニア・ウッドフォード氏は、ディープフェイクへの対策について、「人々が自由に表現し意見交換できるようにすると同時に、利用者が見たくない内容から守る必要もあり、このバランスをどうとるのかが難しいのです」と述べています。 実は日本でも、ディープフェイクのポルノ動画が拡散されるようになっています。 しかし、日本にはディープフェイク自体を規制する法律はないため、現時点でディープフェイク動画は作りたい放題の状況です。 これからディープフェイクの悪用による著名人の被害者が出てくることも予想されます。 ディープフェイクの対策 現在、悪質なディープフェイクに対抗しようとさまざまな研究チームが動き出しています。 ニューヨーク州立大学のリュー・シーウェイ氏が率いるチームは、AIを用いてディープフェイク動画を見破る技術の開発に成功しました。 チームが特に注目したのは「まばたき」です。 出典: 人は通常、2~3秒に1回、自然にまばたきをします。 対してDeepFakeアルゴリズムは、入力された画像から動画をつくり出しますが、画像に写っている人は通常、目を閉じていません。 AIは人間が自然に発する生理学的信号すべてを完璧に再現することはできないため、動画の人物は滅多にまばたきをしないことになります。 そこで研究チームは、ディープフェイクを用いた動画内でまばたきがない箇所を検出するAIアルゴリズムの設計に成功しました。 リュー氏のチームは、この技術をさらに発展させ、瞬きの頻度や継続時間といった複雑なことを習得させる方法に取り組んでいます。 近い将来には、呼吸などのさまざまな自然な生理学的信号を検出できるようになるのが目標だと言います。 AI技術に頼るディープフェイクをAIを用いて見破る攻防戦はまさに、 「AI同士の対立」と言っていいかもしれません。 良くも悪くも、ディープフェイクという技術を最終的に活用するのは人間です。 私たち自身がネットのモラルを守ることは勿論、正しい情報と誤った情報を適確に判断する能力を身につける必要があります。 ディープフェイクとその問題について理解を深めることは、これからのネット・SNS時代を生きていく私たちにとって重要だと感じます。

次の

ディープフェイクとは?偽動画の例や仕組み・作り方・危険性などをまとめて紹介

ディープ フェイク 動画

ページコンテンツ• 現在は動画を合成する技術も進化していて、AIを使って偽物の動画、いわゆるフェイク動画がつくられる事例が増えています。 昨年は、米国の前大統領オバマ氏が、トランプ大統領ののしる動画が公開され、話題になりました。 先日は、米民主党のナンシー・ペロシ下院議長が酔っぱらってインタビューに答える動画が公開され、話題になっています。 これらは、誰かが意図的につくったフェイク動画です。 従来は、画像の音声だけを別のものに入れ替えて、元の動画とは全く別の内容にしてしまうアテレコや、音声を早回しにしたり、遅くして低い声にするような、簡単な方法で作られていました。 これらは「シャローフェイク」と呼ばれます。 現在は、AIを使って高度に合成する「ディープフェイク」と呼ぶ技術が注目されています。 マツコ・デラックスが力士になって、インタビューに答える動画 これは、よく出来ていますね。 体や声は、元の力士のものだと思います。 顔の部分だけマツコ・デラックスに入れ替えられています。 顔のすげ替えがすごく自然にできているのは、マツコ・デラックスの顔の輪郭が力士に似ているからでしょう。 表情は、違和感ないです。 全体を見れば、違和感があるのですが、顔に注目すると、本人が喋っているような感覚になってきます。 元の力士の声も、マツコ・デラックスに似ているのでしょう。 ディープフェイクとは、ここでは2つの動画を対応づける部分にAIが使われています。 まず、元の力士の目、鼻、口など、顔の要素を正確に認識し、その位置と動きを捉えます。 そして、別に用意しているマツコ・デラックスの動画か写真から、同様に、目、鼻、口など、顔の要素を正確に認識して、対応する部分に画像を貼り付けます。 画像を貼り付けるときに、引き伸ばしたり縮めたりしますが、これは従来技術で簡単にできます。 難しいのは、顔の要素を細かく分解して認識させ、別の画像と対応づけることです。 実は、AIは人間が「これが目」と認識するように、意味を理解していません。 あくまでもパターン認識で対応づけるので、間違えることが多い。 自然に対応づけるのは、かなり難しい技術なのです。 今のところは、少しぎこちない動きや表情になるので、よく見れば分かってしまいます。 でも、数秒程度の短い動画クリップだと、フェイク動画かどうかよくわかりません。 さらに、フェイク動画だとわかっていても、面白半分でTwitterなどで拡散されてしまうこともあるでしょう。 一旦広まったデマを取り消すのは大変です。 GAN(Generative Adversarial Networks)とは、敵対的生成ネットワークと呼ばれるこの技術。 入力データを大量に与えることで、データだけから特徴を抽出することができ、教師データと呼ぶ正解を人間が教えなくてもいい、という点が特長です。 GANは本物に似せてフェイク画像をつくる仕組みと、それを偽物かどうか見破る仕組みを、戦わせます。 偽札を作る人と警察が協力して、警察にもバレないような偽札を完成させるようなものです。 警察のレベルも学習によって上がるので、偽札づくりのレベルも、どんどん上がっていきます。 AIの中に、悪人と善人が同居して、お互いにレベルを上げながら、最終的に悪人が勝つ、という仕組みなのです。 GANは本来は善人を生み出すためにつくられたのですが、悪人をつくるためにも利用できてしまった、というわけです。 フェイク動画にGANを適用して進化させると、どんどん巧妙な合成ができるようになります。 巧妙になるディープフェイク動画を検出するツール開発の動きもあります。 でも、検索してみると、怪しいサイトに誘導されたり、有料だったりするので、素人は手を出さない方が良さそうです。 パソコンで動画合成する場合は、かなり高性能なCPUやGPU(グラフィックカード)が必要になります。 そうやって苦労して作った割には、出来上がった動画の品質はいまひとつだったりします。 話題になるほどの完成度に仕上げるのは、簡単ではありません。 従来は、かなりお金をかけても難しかったものが、現在ではある程度の投資で作れるようになった。 というレベルです。 自分で作るのではなく、ときどき話題になる動画を見て、へ~、AIの進化はここまで来たか、と確認する程度がいいでしょう。 では、代表的なアプリ、Webサービスをご紹介していきましょう。 FakeApp(動画のAI合成アプリ、無料) 高性能PCが必要です。 具体的には、高性能のグラフィックカード(NVIDIAのGPUチップ)が必要で、これだけで数万円から10数万円。 PC本体も併せると、パソコンのハードだけで20~50万円くらいかかりそうです。 さらに動画の合成には何時間もかかります。 ハードの性能が低いと、処理が完了するまで何日もかかります。 動画合成用の専用パソコンを用意して、気長に待つ必要があります FakeApp 2. 0 Tutorial (ソフトのインストールから、使い方まで解説) 3. FaceSwap GitHub、オープンソースのプログラム、開発ができる人向け) ソフトは無料ですが、自分でソフト開発できる環境が必要です。 かなり玄人で、細かい調整を自分でやりたい人向けです。 現在は公開禁止になっています。 今でも、いくつかのサイトではダウンロードできるような表示がありますが、本当に使えるのか怪しいです。 当然、本人のヌード写真が現れるわけはなく、顔だけ本人のものを残して、体の部分を他人のヌード写真から合成している筈です。 合成が自然にできれば、あたかも本人のヌードのように見えるというだけです。 手間をかければ、人力でも合成できますが、1クリックで簡単にできるようにしたところが凄い。 AIを使って、本人の顔画像から、合成しやすいヌード画像を探し出して、自然に合成するところまで、自動化したのでしょう。 ある意味単純作業ですから、AIが得意とする領域です。 技術が進歩すると、こういうソフトも簡単に作れるようになります。 でも、アップした個人の顔画像が永久にアプリ会社で再利用されてしまう、とんでもないプライバシーポリシーが設定されていたと、大ブーイングとなりました。 ビックリですが! 6. iPhoneで超簡単、ディープフェイク動画アプリ「Xpression」 iPhone(iOS)アプリで簡単にディープフェイク動画がつくれるアプリが登場しました。 現在も普通にダウンロードできて、使えます。 日本企業が開発しているのも安心なところ。 できるのは、口や顔の表情だけを入れ替えること。 顔自体を入れ替えることはできません。 でも、上手く使えば、パーティーとかで盛り上がるにはちょうどいい感じ。 真面目な使い方では、寝起きで頭ぼさぼさで電話会議に出るときに、このアプリを使えば、スーツで決めたカッコイイ姿で登場できる、とか。 色々な使い方を考えるだけでも、楽しいですね! 実は、このアプリ、「EmbodyMe」という日本のベンチャー企業が開発していて、高い技術力をアピールするデモソフトとしての役割が強いようです。 技術的には、顔自体を入れ替えることもできそうですが、そこまでやると悪用される可能性が高くなる。 技術力をアピールしながら、遊びの範囲で使ってもらうために、あえて機能を制限している感じです。 ここまで見てきたように、ディープフェイクの技術はどんどん進化しています。 しかし、まだ素人がフェイク動画をつくるのは簡単ではありません。 今後仮に、簡単につくれるようになっても、トラブルを避けるには、安易に手を出さないことが重要です。 一歩間違えれば、犯罪にもなりかねません。 目を疑うような動画を見たときに、簡単に騙されないこと フェイク動画かも? と思えるだけの、知識と心の余裕を持ちたいですね。 ではでは。

次の

ディープフェイク(Deepfake)とは|歴史と表出した恐怖・その対策について

ディープ フェイク 動画

ここではディープフェイク アイコラ動画 の作り方が簡単で怖すぎる件についてわたしの感想をご紹介します。 AI 人工知能 でフェイク動画がこんなにも簡単に作れるとは、、、日本ではイジメやフェイクポルノ リベンジポルノ に使われる危険性が大です。 警戒レベルがマックスな ディープフェイク DeepFake が怖すぎます。 あなたは ディープフェイク アイコラ動画 が気になっているんですね。 わたしもです。 AI の進化によりフェイク動画が、あなたにもわたしにも簡単に作れる世の中になってしまいました。 この記事を読むと以下の疑問が解決します。 ディープフェイク アイコラ動画 とは?• ディープフェイク アイコラ動画 の作り方• ディープフェイク アイコラ動画 の使い方• フェイク動画は犯罪になる?• それでは見ていきましょう。 ディープフェイク アイコラ動画 とは? ディープフェイクとは、ディープラーニング 機械学習 とフェイクを組み合わせた造語ですが、簡単に説明すると、 首のすげ替えをしているアイコラ画像の動画バージョンです。 正確に言うと、顔のすげ替えなので、髪型や顔の輪郭まではすげ替えしません。 そのため、輪郭や髪型や肌の色が合わないと、上手く合成できません。 今のところ、AI が偽物であるフェイク動画を見分けることができるのですが、最近のフェイク動画は人間の目では見分けがつかなくなってきているようです。 faceswap は Python 製のツールであり、tensorflow などパッケージをインストールする必要があります。 中国の顔交換iOSアプリ「Zao」 日本ではダウンロードできません。 iPhoneで作るディープフェイク動画アプリ「Xpression」 日本企業が開発した、iPhone(iOS)スマホで簡単にディープフェイク動画が作れるアプリです。 普通にダウンロードができます。 ディープフェイク アイコラ動画 の使い方 よく結婚式に出てくる 2人の生い立ちや、 記念の日をまとめた動画があります。 愛を語り合う映画に出てくる有名人たちの動画に、新郎新婦を当てはめて笑いを誘うなんていいと思います。 友人、知人や家族、親戚の笑いを誘うこと間違いなしです。 自分の顔を動画に当てはめて 身内で楽しむ分には誰も文句は言わないでしょう。 フェイク動画は犯罪になる? アメリカのバージニア州は合意に反したディープフェイクの画像や映像の配布に対して刑事罰を科します。 犯罪です。 違反者には最高12カ月の懲役と2500ドルの罰金が科せられます。 マツコ・デラックスを当てはめたフェイク動画がありました。 本人が見たら、気分悪くなるでしょうね。 もし自分がされてたらと思うと、かなり嫌な気分です。 それも自分の知らないところで、勝手に作られてるんです。 ホント最悪です。 Twitter にはフェイク動画に収まらず、フェイクポルノを作っているひともいました。 アンケート機能を使ってみます。 しかし、もし自分の身に起こったと思うと身の毛がよだちます。 決して、イジメやリベンジポルノなどに悪用しないでください。 その悪事、 相手も簡単にできるんですから、いつか ブーメランみたいにあなたにも返って来ますよ? コラ動画やフェイク動画は怖いから、31日間無料で映画もドラマも、何なら雑誌まで見放題、 ムフフな動画も 31日間無料視聴可能な にしておきましょう。 ムフフ動画のために登録が面倒な人はこちらをどうぞ。 SEOアクセス解析• 無料 順位チェックツール• 無料・有料 キーワード考案• 無料・有料• 無料 被リンク分析• 7日間無料・有料• 無料 順位変動チェック• 無料 ページ速度調査• 無料 モバイルフレンドリー調査• 無料 サイト状態調査• 無料 リダイレクト検証• 無料 ヒートマップ• ABテストツール• インハウスSEO• 有料 インバウンドマーケティング・マーケティングオートメーション• 有料 ツールの評判調査•

次の