OpenAIが最新動画生成モデル「Sora 2」を搭載したAI動画アプリ「Sora」を公開。ディープフェイク動画の生成・共有を可能にし、中毒性や悪用の可能性を認識しつつ、安全対策を講じている。しかし、コンテンツ制限の線引きには曖昧さも残る。
9月30日、OpenAIは「 Sora 」という人工知能（AI）動画アプリを公開した。このプラットフォームは同社の最新動画生成モデル「 Sora 2」によって動作しており、ユーザーが作成したクリップを「For You」ページでTikTokのように表示する構成になっている。 Sora は、AI生成の音声を動画に追加する初めてのOpenAI製品でもある。現在のところ、iOS版のみが提供され、利用には招待コードが必要だ。 「あなたはいま、AI生成コンテンツのクリエイティブな世界に入ろうとしています」と、アプリの登録過程で表示される注意書きには記されている。「動画のなかには、見覚えのある人物が登場するかもしれませんが、そこに示される行動や出来事は現実のものではありません」 OpenAIは、AI ディープフェイク を作成や共有することが人気の娯楽になると見込んでいる。友人でも、インフルエンサーでも、あるいはオンライン上の見知らぬ人でも、 Sora は ディープフェイク 動画をスクロールして楽しむ娯楽として位置づけている。アプリのメインフィードには、人間の顔をした短いAIスロップ（低品質なAI生成コンテンツ）が無限に流れてくる。 セットアップ過程では、ユーザーが自分のデジタル版をつくるオプションが与えられる。数個の数字を声に出して読み上げながら、アプリが顔を記録できるように頭を回す。OpenAIの最高経営責任者（CEO）であるサム・アルトマンは Sora のリリースに関するブログで、「キャラクターの一貫性に非常に力を入れました」と書いている。 ユーザーは、自分のデジタル肖像を Sora の動画で誰が使えるかを設定できる。全員から自分のみ、あるいは承認した人やアプリ上の相互のつながりまで範囲を制限できる。誰かがあなたの肖像を使って動画を生成した場合、たとえその動画がドラフトに保存されているだけでも、自分のアカウントページからその全編を確認できる。 使ってみた第一印象 30日の午後、わたしの「For You」フィードで最も「いいね」が多かった動画の多くには、アルトマンの姿が登場していた。あるAI生成動画では、OpenAIのCEOが米小売大手のターゲットでGPUを盗む様子が描かれていた。キャラクターが捕まると、アルトマンにそっくりな声が警備員に向かってAIツールをつくるためにGPUを持って帰らせてほしいと懇願していた。 『WIRED』のテスト中に生成された多くの動画には、粗い部分やエラーが見られた。しかし Sora は、非常に簡単な手順で、見た目も音声も現実味のあるパーソナライズされた ディープフェイク をつくり出せるようになっている。 動画に他人の顔を登場させるには、生成ページでその人物の顔をタップし、「カメオ」として追加するだけでいい。あとは「『WIRED』の記事を巡ってオフィスで口論する」といったシンプルなプロンプトを入力する。 Sora がその後の作業をすべて行ない、脚本、音声、映像を組み合わせた9秒のクリップを生成する。『WIRED』は上記のプロンプトを使い、オフィスでふたりの同僚が記事について激しく議論する動画を生成した。その結果、編集部の反応は恐怖から笑いまでさまざまだった。 アルトマンは自身のブログで、「こうしたサービスがどれほど中毒性をもつか、わたしたちは理解しています。そして、いじめなどに悪用される可能性も想定しています」と書いている。 そのため、OpenAIは Sora アプリに複数の安全対策を組み込んだと説明している。アルトマンによると、そのなかには「他人の肖像を ディープフェイク で悪用すること」を防ぐための仕組みも含まれているという。OpenAIは同社のブログで、「性的コンテンツ、実在の人物に対する過激な暴力、過激派プロパガンダ、ヘイトコンテンツ、自傷行為や摂食障害を助長する内容」なども制限対象としていると述べている。 こうした保護策は、今後ユーザーが増えるにつれて試されることになるだろう。 コンテンツ制限 の線引きは曖昧 わたしが Sora に「ビキニ姿の自分」や「筋肉質なアニメキャラの自分」の動画を生成するよう頼んだところ、いずれも「挑発的または卑猥な内容を含む可能性がある」としてブロックされた。一方、アルトマンとわたしがプールで水に浮かぶ動画を生成した場合、両者ともシャツを着たままの完全に服を着た状態で描かれた。 マリファナの使用描写は制限されていないようだ。 Sora は「オフィスのデスクで10本の太い大麻の葉巻を同時に吸う」という動画を問題なく生成した。しかし「コカインを吸う」動画は拒否された（当然だ！ ）。また、「自分が橋から飛び降りてドラゴンの背に着地する」動画も、自傷行為に関するルールに抵触する可能性があるとして拒否された。 OpenAIはまた、テイラー・スウィフトなどの著名人や有名人の動画生成も防ごうとしているようだ。『WIRED』のテストでは、「ダース・ベイダー」や「ボス・ベイビー」の動画生成リクエストが、「第三者コンテンツとの類似に関するガードレール違反の可能性」があるとしてブロックされた。「テイラー・スウィフトのものまねタレント」というプロンプトすら拒否された。一方で、ピカチュウやフシギダネといったポケモンキャラクターの動画は問題なく生成された。（「The Wall Street Journal」の報道によると、このアプリは権利者がオプトアウトしない限り、著作権付き素材の動画生成を許可する方針だという）。 「アルトマンが『サウスパーク』のエピソードに登場する」というリクエストでは、CEOが番組の主要キャラクターであるエリック・カートマンのもとへ歩み寄り、AIについて話をしに来たと自己紹介する場面が生成された。AI生成のカートマンはキャラクターの声や動作を非常に巧みに再現しながら、「それって、オイラの読書感想文を書いたやつ？ それともオレたちの仕事を全部奪うやつ？ 」と応じた。ただし一瞬、カートマンの甲高い声がアルトマンの口から出る場面もあった。 Meta「Vibes」との違い Sora アプリは、Metaが最近リリースしたAI専用動画フィード「Vibes」に続いて登場した。そう、スクロール可能なAIスロップはすでに溢れているのだ！ わたしの初期体験では、Vibesのフィードは退屈で軽かったが、 Sora のフィードは笑顔の ディープフェイク が溢れ、より活気があり、そして不安を感じさせた。 このアプリは、2000年代半ばに流行したホリデー用動画「Elf Yourself」を思い起こさせる。あの動画では、自分や友人の顔をダンスアニメーションに合成できたが、 Sora のカメオはそれよりもはるかに動的で自由度が高い。わたし自身の生成結果のなかには、ややぎこちなく不自然なものもあったが、声と動きが奇妙なほど正確に一致していることも多かった。 わたしは、自分の容姿を最も忠実に再現した AI動画 を、文脈を説明せずにパートナーへ送ってみた。その動画では、自分が長く艶やかな髪をもつ女性に変身していた。パートナーは最初、それが完全に人工的な声と外見であることに気づかず、クールな動画フィルターをどこで見つけたのか尋ねてきた。 （Originally published on wired.
com, translated by Eimi Yamamitsu, edited by Mamiko Nakano) ※『WIRED』によるOpenAIの関連記事はこちら。 Related Articles 気鋭のAI研究者たちやユヴァル・ノア・ハラリが語る「人類とAGIの未来」。伝説のゲームクリエイター・小島秀夫や小説家・川上未映子の「創作にかける思い」。大阪・関西万博で壮大なビジョンを実現した建築家・藤本壮介やアーティストの落合陽一。ビル・ゲイツの回顧録。さらには不老不死を追い求める富豪のブライアン・ジョンソン、パリ五輪金メダリストのBガール・AMIまで──。未来をつくるヴォイスが、ここに。グローバルメディア『WIRED』が総力を結集し、世界を動かす“本音”を届ける人気シリーズ「The Big Interview」の決定版！！詳細はこちら。
Openai Sora AI動画 ディープフェイク コンテンツ制限
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
OpenAI「Sora 2」API利用でウォーターマーク除去OpenAIが10月7日、動画生成AI「Sora 2」と上位版「Sora 2 Pro」のAPI提供を開始した。テキストや画像からMP4動画を生成できる。自動的に付与されていたウォーターマークは除去された。
Read more »
AI動画の新SNS「Sora」、「自分の顔が他人にどう使われるか」を制御可能にOpenAIが新たに発表した「Sora」は、同社のAI動画生成モデルにちなんで名付けられた、招待制のソーシャルメディアアプリだ。そして今、その使い方に影響するいくつかの変更が加えられている。
Read more »
OpenAI動画生成AI「Sora 2」著作権問題で波紋、日本国内で議論OpenAIの動画生成AI「Sora 2」の著作権問題が日本国内で議論を呼んでいる。無断利用への懸念を受け、OpenAIは生成ブロックのガードレールを導入したが、日本発の人気キャラクターが無断で利用される事例も発生。さくらインターネット田中社長はOpenAIの姿勢を批判し、日本のデジタル主権を守るため活動すると表明。
Read more »
OpenAI Sora 2の著作権問題が日本で波紋：デジタル主権と権利保護の重要性OpenAIの動画生成AI「Sora 2」の著作権利用を巡り、日本国内で議論が沸騰。従来のオプトアウト方式に対する批判を受け、OpenAIはポリシー変更を発表。しかし、日本国内の著作権保護への懸念は払拭されず、さくらインターネットの田中社長はデジタル主権の重要性を訴える。日本経済新聞の記事を通して、日本発キャラクターの無断利用事例が明らかになり、AI時代における著作権保護のあり方が問われている。
Read more »
「自主的な対応を強く求める」――平デジタル相、動画生成AI「Sora 2」に言及 人気アニメの“類似動画”問題巡り（1/2 ページ）デジタル庁の平将明大臣は、10月7日の記者会見で、米OpenAIの動画生成AI「Sora 2」に言及した。Sora 2で日本のIP（知的財産）に類似した動画を生成できることに対し「（OpenAIの）自主的な対応を強く求めたい」と説明した。
Read more »
OpenAIがAI動画アプリ「Sora」を公開、ディープフェイク動画の新たな娯楽OpenAIが、最新の動画生成モデル「Sora 2」を搭載したAI動画アプリ「Sora」をリリース。TikTokのようにディープフェイク動画を楽しめるプラットフォームで、iOS版のみ招待制で提供。安全対策も講じられているが、コンテンツ制限の線引きは曖昧な部分も。
Read more »