2025-04-27

FramePackと中国の関係性およびセキュリティに関する調査【どこの国？危険性？リスク？】

AI セキュリティ

ascii.jp

news.yahoo.co.jp

この生成AIは名前初耳。

叡智＝エッチの隠語

PV狙い

何の前触れもなく出てきて、突然メディアに取り上げられた生成AIは

セキュリティ的に問題のあることが多かったので、念のためこちらもAI検索で徹底調査しました。

不思議なことにどのニュースを見ても生産国についてはぼやかして言及ありません。

以上のことより徹底調査する必要があると感じました。

生産国の明記のないものは徹底調査するを習慣つけた方がよいと思います。

事実のみをコピペします。

判断は読んだ人にお任せします。

FramePackと中国の関係性およびセキュリティに関する調査

FramePackは最近注目を集めている革新的な動画生成AIですが、その中国との関連性やセキュリティ面について疑問を持たれる方も多いでしょう。このレポートでは、FramePackの中国との関係性およびセキュリティ面について詳細に調査した結果をご紹介します。

FramePackの基本情報

FramePackは、2025年4月にスタンフォード大学のLvmin ZhangとManeesh Agrawalaによって開発された次世代の動画生成AIフレームワークです。従来の動画生成モデルと異なり、わずか6GBのVRAMで最大120秒の高品質動画を生成できる革新的な技術として注目されています1 2。特に、入力フレームコンテキストを圧縮して一定の長さに保つことで、動画の長さに関係なく処理負荷を一定に維持する独自のアプローチを採用しています4。

FramePackと中国の関係性

開発元と開発者の背景

FramePackは公式にはスタンフォード大学の研究チームによって開発されたオープンソースプロジェクトです。主要開発者のLvmin Zhang（GitHubユーザー名：lllyasviel）はスタンフォード大学のPhD学生で、ControlNetやAnimateDiffなど、画像・動画生成分野で革新的な貢献をしてきた研究者として知られています4 10。

Hunyuanモデルとの関連性

FramePackと中国の関係で最も注目すべき点は、このAIが中国のTencent社が開発したHunyuanモデルを基盤技術として使用している点です。Redditのスレッドにおいて、開発者のlllyasviel自身が「ベースは私たちが修正したHYであり、siglip-so400m-patch14-384をビジョンエンコーダーとして使用している」と述べています6。

Hunyuanは2023年9月にTencentが発表した中国の基盤モデル（foundation model）で、100億以上のパラメータを持ち、2兆以上のトークンで事前学習されています11 20。中国企業向けにTencent Cloudを通じて提供されており、金融、ソーシャルメディア、Eコマース、ゲームなど様々な産業に応用できる機能を備えています11 20。

FramePackのセキュリティ面

ローカル実行とネットワーク依存性

FramePackは基本的にローカル実行が可能ですが、完全にオフラインでの動作には課題があることが報告されています。GitHubの問題報告によると、オフラインモードで実行しようとしても、Hugging Faceのサーバーに接続しようとする問題が発生しています15。これは以下のようなエラーメッセージとして現れます：

text

urllib3.exceptions.MaxRetryError: HTTPSConnectionPool(host='huggingface.co', port=443): Max retries exceeded with url: /api/models/lllyasviel/FramePackI2V_HY

プライバシーとデータ保護の懸念

中国のAIモデルに関するセキュリティ懸念として、中国法の下では企業は中国の情報機関に協力し支援する義務があることが挙げられます17。Hunyuanモデルをベースにしているため、理論上はこのような懸念がFramePackにも及ぶ可能性があります。

また、公式GitHub警告によると、「framepack.ai」「framepack.co」など多くのドメインは詐欺・偽サイトであるとされています5。これらのサイトからダウンロードしたり、支払いを行ったりしないよう注意が必要です。

潜在的な脆弱性

AIモデル全般に影響する「Policy Puppetry」と呼ばれるプロンプトインジェクション攻撃の脆弱性が報告されています19。この攻撃は、ユーザープロンプトをポリシーファイルとして解釈させることでAIモデルの安全性ガードレールをバイパスする手法です。Anthropic、DeepSeek、Google、Meta、Microsoft、Mistral、OpenAI、Qwenなど多くの主要AIモデルで効果が確認されており、FramePackも同様の脆弱性を持つ可能性があります19。