ディープ‐フェイク【deep fake】
ディープフェイク
【英】deepfake
ディープフェイクとは、高度な画像生成技術を駆使して合成され、偽物（フェイク）とは容易に見抜けないほど作り込まれたニセ動画の通称である。とりわけポルノ動画を指す場合が多い。
ディープフェイクと呼ばれる動画はAI（人工知能）を使って極めて高度に自然に画像合成が施されており、ニセモノであると知らされていなければニセモノと見破ることは容易でない。この技術を用いると、アダルト動画に有名女優の顔をはめ込んだ高度なアイコラのような動画を作成したり、政治家の発言や行動をでっちあげたフェイクニュースを作成したり、といった事が可能となり得る。
政治家のディープフェイク動画は本物と信じ込まれたまま拡散して当人を失脚に追い遣る可能性がある。女優の顔を使ったポルノ動画は本人の名誉を著しく損なう。有名人の顔であればフェイク動画と判断することも難しくないが、一般人の顔でディープフェイクのポルノ動画が作成された場合は、事実無根のフェイクと見抜くことは困難であり、リベンジポルノ等への悪用が懸念される。
ディープフェイクは2017年に英語圏の電子掲示板に投稿された動画が端緒とされており、2018年現在、その行く末に警鐘が鳴らされている。
ディープフェイク
出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2024/04/09 13:23 UTC 版)
ディープフェイク（英: deepfake）は、「深層学習（deep learning）」と「偽物（fake）」を組み合わせた混成語（かばん語）で[1]、人工知能を応用した画像・映像合成、生成技術を指す。
- ^ Brandon, John (2018年2月16日). “Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise” (英語). Fox News 2018年2月20日閲覧。
- ^ a b c Pawelec, M (2022). “Deepfakes and Democracy (Theory): How Synthetic Audio-Visual Media for Disinformation and Hate Speech Threaten Core Democratic Functions.”. Digital Society: Ethics, Socio-legal and Governance of Digital Technology 1 (2): 19. doi:10.1007/s44206-022-00010-6. PMC 9453721. PMID 36097613.
- ^ Ghoshal, Abhimanyu (2018年2月7日). “Twitter, Pornhub and other platforms ban AI-generated celebrity porn” (英語). The Next Web. 2019年12月20日時点のオリジナルよりアーカイブ。2019年11月9日閲覧。
- ^ a b Clarke, Yvette D. (2019年6月28日). “H.R.3230 - 116th Congress (2019-2020): Defending Each and Every Person from False Appearances by Keeping Exploitation Subject to Accountability Act of 2019”. www.congress.gov. 2019年12月17日時点のオリジナルよりアーカイブ。2019年10月16日閲覧。
- ^ Banks, Alec (2018年2月20日). “What Are Deepfakes & Why the Future of Porn is Terrifying” (英語). Highsnobiety. オリジナルの2021年7月14日時点におけるアーカイブ。 2018年2月20日閲覧。
- ^ Christian, Jon. “Experts fear face swapping tech could start an international showdown” (英語). The Outline. 2020年1月16日時点のオリジナルよりアーカイブ。2018年2月28日閲覧。
- ^ Roose, Kevin (2018年3月4日). “Here Come the Fake Videos, Too” (英語). The New York Times. ISSN 0362-4331. オリジナルの2019年6月18日時点におけるアーカイブ。 2018年3月24日閲覧。
- ^ Schreyer, Marco; Sattarov, Timur; Reimer, Bernd; Borth, Damian (October 2019). "Adversarial Learning of Deepfakes in Accounting" (英語). arXiv:1910.03810 [cs.LG]。
- ^ Schwartz, Oscar (2018年11月12日). “You thought fake news was bad? Deep fakes are where truth goes to die” (英語). The Guardian 2018年11月14日閲覧。
- ^ a b c “Wenn Merkel plötzlich Trumps Gesicht trägt: die gefährliche Manipulation von Bildern und Videos”. az Aargauer Zeitung (2018年2月3日). 2019年4月13日時点のオリジナルよりアーカイブ。2018年4月9日閲覧。
- ^ Künstliche Intelligenz: Selfies sind eine gute Quelle, Die Zeit, (2018-01-26), ISSN 0044-2070
- ^ Bateman, Jon (2020). “Summary”. Deepfakes and Synthetic Media in the Financial System: 1–2. オリジナルの20 April 2021時点におけるアーカイブ。 2020年10月28日閲覧。.
- ^ “Weaponised deep fakes: National security and democracy on JSTOR” (英語). www.jstor.org. 2020年10月22日時点のオリジナルよりアーカイブ。2020年10月21日閲覧。
- ^ a b Cerullo, Megan (2024年1月9日). “AI-generated ads using Taylor Swift's likeness dupe fans with fake Le Creuset giveaway”. CBS News 2024年1月10日閲覧。
- ^ Statt, Nick (2019年9月5日). “Thieves are now using AI deepfakes to trick companies into sending them money”. オリジナルの2019年9月15日時点におけるアーカイブ。 2019年9月13日閲覧。
- ^ Brown, Dalvin (2021年8月22日). “AI gave Val Kilmer his voice back. But critics worry the technology could be misused.” (英語). Washington Post. 2023年5月19日閲覧。
- ^ “Voice deepfakes are calling – here's what they are and how to avoid getting scammed”. The Conversation (2023年3月17日). 2024年3月17日閲覧。
- ^ “Hundreds of sexual deepfake ads using Emma Watson's face ran on Facebook and Instagram in the last two days” (英語). NBC News (2023年3月7日). 2024年3月8日閲覧。
- ^ Filipovic, Jill (2024年1月31日). “Anyone could be a victim of 'deepfakes'. But there's a reason Taylor Swift is a target” (英語). The Guardian. ISSN 0261-3077 2024年3月8日閲覧。
- ^ Kirchengast, T (2020). “Deepfakes and image manipulation: criminalisation and control.”. Information & Communications Technology Law 29 (3): 308–323. doi:10.1080/13600834.2020.1794615.
- ^ Tayler, Kelley M.; Harris, Laurie A. (8 June 2021). Deep Fakes and National Security (Report). Congressional Research Service. p. 1. 2021年7月19日閲覧。
- ^ “Experts fear face swapping tech could start an international showdown” (英語). The Outline. 2018年2月28日閲覧。
- ^ Roose, Kevin (2018年3月4日). “Here Come the Fake Videos, Too” (英語). The New York Times. ISSN 0362-4331 2018年3月24日閲覧。
- ^ Damiani, Jesse. “A Voice Deepfake Was Used To Scam A CEO Out Of $243,000” (英語). Forbes. 2019年9月14日時点のオリジナルよりアーカイブ。2019年11月9日閲覧。
- ^ “Deepfakes, explained” (英語). MIT Sloan (2024年3月5日). 2024年3月17日閲覧。
- ^ 日本放送協会 (2023年11月1日). “生成AIでニュース番組に似せた偽広告 日本テレビ“注意を””. NHKニュース. 2023年11月4日閲覧。
- ^ 日本テレビ (2023年11月1日). “生成AIでニュースを偽造? 日テレ番組悪用の詐欺広告 一体どうやって？ #みんなのギモン”. 日テレNEWS NNN. 2023年11月4日閲覧。
- ^ 徳光一輝 (2023年11月2日). “女子アナが「もう働く必要ない」と偽投資広告 生成AI悪用か、日テレのニュース番組を加工”. 産経新聞. 2023年11月4日閲覧。
- ^ “Data Points: The latest in AI from Feb. 8 to Feb 14, 2024” (英語). Data Points: The latest in AI from Feb. 8 to Feb 14, 2024 (2024年2月14日). 2024年2月14日閲覧。
- ^ “「全財産がパーに」偽のホリエモンにだまされ1900万円の被害 利益が上がったように見えても現金は引き出せず…有名人かたるニセ広告で広がる投資詐欺【news23】 | TBS NEWS DIG (1ページ)”. TBS NEWS DIG (2024年3月6日). 2024年3月19日閲覧。
- ^ (日本語) 森永卓郎さんの「フェイク音声」も… 株価4万円超や新NISA、高まる“投資熱”の裏で手口が巧妙化 有名人をかたる投資詐欺【news23】｜TBS NEWS DIG 2024年3月19日閲覧。
- ^ a b c Hsu, Tiffany; Lu, Yiwen (2024年1月9日). “No, That's Not Taylor Swift Peddling Le Creuset Cookware”. The New York Times: p. B1 2024年1月10日閲覧。
- ^ a b Britta Bauchmüller, "Fake-App": Mit diesem Programm kann jeder im Porno landen – ob er will oder nicht!, Berliner-Kurier.de
- ^ a b Johnson, Kirsten (2023年12月11日). “Arizona woman falls victim to deepfake scam using celebrities on social media”. ABC 15 Arizona 2024年1月10日閲覧。
- ^ a b Kulundu, Mary (2024年1月4日). “Deepfake videos of Elon Musk used in get-rich-quick scam”. Agence France-Presse 2024年1月10日閲覧。
- ^ a b Rosenblatt, Kalhan (2023年10月3日). “MrBeast calls TikTok ad showing an AI version of him a 'scam'”. NBC News 2024年1月10日閲覧。
- ^ Bucci, Nino (2023年11月27日). “Dick Smith criticises Facebook after scammers circulate deepfake video ad”. The Guardian 2024年1月10日閲覧。
- ^ Lomas, Natasha (2023年7月7日). “Martin Lewis warns over 'first' deepfake video scam ad circulating on Facebook”. TechCrunch 2024年1月10日閲覧。
- ^ Lim, Kimberly (2023年12月29日). “Singapore PM Lee warns of 'very convincing' deepfakes 'spreading disinformation' after fake video of him emerges”. South China Morning Post. オリジナルの2024年1月9日時点におけるアーカイブ。 2024年1月10日閲覧。
- ^ Lopatto, Elizabeth (2024年1月3日). “Fun new deepfake consequence: more convincing crypto scams”. The Verge 2024年1月10日閲覧。
- ^ a b Koebler, Jason (2024年1月9日). “Deepfaked Celebrity Ads Promoting Medicare Scams Run Rampant on YouTube”. 404 Media 2024年1月10日閲覧。
- ^ Koebler, Jason (2024年1月25日). “YouTube Deletes 1,000 Videos of Celebrity AI Scam Ads”. 404 Media 2024年2月2日閲覧。
- ^ Bunn, Amy (2023年5月15日). “Artificial Imposters—Cybercriminals Turn to AI Voice Cloning for a New Breed of Scam” (英語). McAfee Blog. 2023年5月19日閲覧。
- ^ “AI悪用の音声詐欺が世界で急増、被害者の8割は金銭被害も”. ITmedia ビジネスオンライン. 2023年5月19日閲覧。
- ^ https://eiga.com/news/20240201/18/
- ^ Hatachi, Kota. “日本人アイドルも被害に。96％がポルノ動画の「ディープフェイク」政治的な悪用も”. BuzzFeed. 2020年1月15日閲覧。
- ^ a b “Wenn Merkel plötzlich Trumps Gesicht trägt: die gefährliche Manipulation von Bildern und Videos”. az Aargauer Zeitung (2018年2月3日). 2019年1月26日閲覧。
- ^ Patrick Gensing (2018年2月22日). “Deepfakes: Auf dem Weg in eine alternative Realität?”. 2019年1月26日閲覧。
- ^ Thatsmags.com (2017年11月10日). “Here's a Creepy Video of Trump Speaking Chinese via AI”. 2019年9月3日閲覧。
- ^ ニューヨーク・タイムズ (2017年12月3日). “China’s A.I. Advances Help Its Tech Industry, and State Security”. 2019年9月3日閲覧。
- ^ Romano (2018年4月18日). “Jordan Peele’s simulated Obama PSA is a double-edged warning against fake news”. Vox. 2018年9月10日閲覧。
- ^ Swenson (2019年1月11日). “A Seattle TV station aired doctored footage of Trump’s Oval Office speech. The employee has been fired.” (英語). The Washington Post. 2019年1月11日閲覧。
- ^ a b c “Deepfake Putin is here to warn Americans about their self-inflicted doom” (英語). MIT Technology Review. 2020年10月30日時点のオリジナルよりアーカイブ。2020年10月7日閲覧。
- ^ Allyn, Bobby (2022年3月16日). “Deepfake video of Zelenskyy could be 'tip of the iceberg' in info war, experts warn”. NPR. 2022年3月17日閲覧。
- ^ “投降呼びかけるゼレンスキー氏の偽動画 米メタが削除”. 日本経済新聞 (2022年3月17日). 2023年12月7日閲覧。
- ^ “【解説動画】ウクライナ情勢 拡散する「ディープフェイク」”. NHK (2022年3月18日). 2023年12月7日閲覧。
- ^ “ウクライナ大統領の偽動画は、ディープフェイクが戦争の“武器”となる世界を予見している”. WIRED (2022年3月19日). 2023年12月7日閲覧。
- ^ “ウクライナ軍トップの偽動画がネット上で拡散…「ゼレンスキーは我が国の敵」とディープフェイク”. 読売新聞 (2023年11月9日). 2023年12月7日閲覧。
- ^ “みんなで語る未解決事件（旧名）on Twitter: "やったぜ。投稿者：変態糞総理 https://t.co/zxMnM5vVGT" / Twitter”. web.archive.org (2023年7月12日). 2023年11月16日閲覧。
- ^ 日本テレビ. ““岸田首相の声”のフェイク動画拡散…ニュース画面に見せかけ｜日テレNEWS NNN”. 日テレNEWS NNN. 2023年11月16日閲覧。
- ^ Sonne, Paul (2023年6月5日). “Fake Putin Speech Calling for Martial Law Aired in Russia”. The New York Times 2023年6月6日閲覧。
- ^ “Pope Francis in Balenciaga deepfake fools millions: 'Definitely scary'”. New York Post. (2023年3月28日) 2023年6月16日閲覧。
- ^ Lu, Donna (2023年3月31日). “Misinformation, mistakes and the Pope in a puffer: what rapidly evolving AI can – and can't – do”. The Guardian 2023年6月16日閲覧。
- ^ Murphy, Heather Tal (2023年3月29日). “The Pope in a Coat Is Not From a Holy Place”. Slate 2023年6月16日閲覧。
- ^ Reuters, 15 July 2020, Deepfake Used to Attack Activist Couple Shows New Disinformation Frontier Archived 26 September 2020 at the Wayback Machine.
- ^ 972 Magazine, 12 August 2020, "'Leftists for Bibi'? Deepfake Pro-Netanyahu Propaganda Exposed: According to a Series of Facebook Posts, the Israeli Prime Minister is Winning over Left-Wing Followers--Except that None of the People in Question Exist" Archived 14 August 2020 at the Wayback Machine.
- ^ The Seventh Eye, 9 June 2020, הפורנוגרפיה של ההסתהתומכי נתניהו ממשיכים להפיץ פוסטים מזויפים בקבוצות במדיה החברתית • לצד הטרלות מעלות גיחוך מופצות תמונות שקריות על מנת להגביר את השנאה והפילוג בחברה הישראלית Archived 18 August 2020 at the Wayback Machine.
- ^ a b ニーナ・シック, ナショナルジオグラフィック & 片山美佳子 2021, p. 42.
- ^ 生成AIで関東大震災「新証言」を作成…「捏造」批判受け日赤の企画展中止 読売新聞 2023年9月3日
- ^ https://mainichi.jp/articles/20240313/k00/00m/030/355000c
- ^ “中国で人気”偽動画作成アプリ” 米 選挙への影響懸念”. NHK. (2019年9月5日) 2019年9月5日閲覧。
- ^ Sasse, Ben (2018年12月21日). “S. 3805–115th Congress (2017-2018): Malicious Deep Fake Prohibition Act of 2018”. www.congress.gov. 2019年10月16日時点のオリジナルよりアーカイブ。2019年10月16日閲覧。
- ^ “'Deepfake' revenge porn is now illegal in Virginia” (英語). TechCrunch (2019年7月). 2021年7月14日時点のオリジナルよりアーカイブ。2019年10月16日閲覧。
- ^ Iacono Brown, Nina (2019年7月15日). “Congress Wants to Solve Deepfakes by 2020. That Should Worry Us.” (英語). Slate Magazine. 2019年10月16日時点のオリジナルよりアーカイブ。2019年10月16日閲覧。
- ^ a b “Bill Text - AB-602 Depiction of individual using digital or electronic technology: sexually explicit material: cause of action.”. leginfo.legislature.ca.gov. 2019年11月17日時点のオリジナルよりアーカイブ。2019年11月9日閲覧。
- ^ a b “Bill Text - AB-730 Elections: deceptive audio or visual media.”. leginfo.legislature.ca.gov. 2019年10月31日時点のオリジナルよりアーカイブ。2019年11月9日閲覧。
- ^ a b “Fake-porn videos are being weaponized to harass and humiliate women: ‘Everybody is a potential target’”. The Washington Post (Harrell). 2019年1月1日閲覧。
- ^ “China seeks to root out fake news and deepfakes with new online content rules”. Reuters.com. Reuters (2019年11月29日). 2019年12月17日時点のオリジナルよりアーカイブ。2019年12月17日閲覧。
- ^ Statt, Nick (2019年11月29日). “China makes it a criminal offense to publish deepfakes or fake news without disclosure”. The Verge. 2019年12月22日時点のオリジナルよりアーカイブ。2019年12月17日閲覧。
- ^
- ^ NHKスペシャル取材班 2020, p. 53.
- ^ a b “Perfect Deepfake Tech Could Arrive Sooner Than Expected” (英語). www.wbur.org (2019年10月2日). 2019年10月30日時点のオリジナルよりアーカイブ。2019年11月9日閲覧。
- ^ Sonnemaker, Tyler. “As social media platforms brace for the incoming wave of deepfakes, Google's former 'fraud czar' predicts the biggest danger is that deepfakes will eventually become boring”. Business Insider. 2021年4月14日時点のオリジナルよりアーカイブ。2021年4月14日閲覧。
- ^ “Pornhub hasn't been actively enforcing its deepfake ban” (英語). Engadget 2018年4月21日閲覧。
- ^ “Pornhub Banned Deepfake Celebrity Sex Videos, But The Site Is Still Full Of Them” (英語). BuzzFeed 2018年4月21日閲覧。
- ^ Markus Böhm (2018-02-07), "Deepfakes": Firmen gehen gegen gefälschte Promi-Pornos vor, Spiegel Online
- ^ barbara.wimmer, Deepfakes: Reddit löscht Forum für künstlich generierte Fake-Pornos
- ^ “Reddit verbannt Deepfake-Pornos” (2018年2月8日). 2019年1月26日閲覧。
- ^ Eike Kühl (2018-01-26), Künstliche Intelligenz: Auf Fake News folgt Fake Porn, Die Zeit, ISSN 0044-2070
- ^ heise online, Deepfakes: Neuronale Netzwerke erschaffen Fake-Porn und Hitler-Parodien
- ^ Farquhar, Peter (2018年8月27日). “An AI program will soon be here to help your deepfake dancing – just don't call it deepfake” (英語). Business Insider Australia 2018年8月27日閲覧。
- ^ “Deepfakes for dancing: you can now use AI to fake those dance moves you always wanted”. The Verge 2018年8月27日閲覧。
- ^ “China’s Red-Hot Face-Swapping App Provokes Privacy Concern”. ブルームバーグ. (2019年9月2日) 2019年9月3日閲覧。
- ^ “顔写真1枚で簡単にディープフェイク映像を作成できる無料アプリ登場、中国で大人気に”. GIGAZINE. (2019年9月3日) 2019年9月3日閲覧。
[続きの解説]
- ディープフェイクのページへのリンク
