利用者情報を中国政府に直接送信する機能が存在

Rocket Boysによると『2025年2月5日、ABCニュースの調査により、急成長中の人工知能（AI）企業「DeepSeek」が利用者の情報を中国政府に直接転送する可能性があることが判明しました。サイバーセキュリティ専門家の分析によると、DeepSeekのプログラムコードには、中国政府の管理下にあるサーバへのデータ転送機能が組み込まれている可能性があるといいます。』と報じています。

さらに報道によると『DeepSeek は悪意のあるプロンプト（脱獄手法）に対する耐性が低く、攻撃者に悪用されやすいと指摘』と報じています。

地政学的な事情で中国発の生成AIサービスの情報が、中国政府に送信されている、というのもある程度想定範囲内の気がします。当たり障りのないプロンプト（生成AIに対する情報提供及び操作）でその性能などを見てみるのはいいと思いますが、提供情報の内容には常に注意が必要でしょう。

この報道の中で注目すべきは、生成AIに対するいわゆる脱獄手法と呼ばれる、ガードされるべき問い合わせに対して回答してしまうという点です。

別の報道になりますが「生成AIによる標的型攻撃メールは、人間が作った内容より、数倍も効果が高い」という研究結果があり、生成AIを（いわゆる脱獄して）そのガードを外してしまう事は、情報セキュリティ上の懸念点となっているものです。

ちなみに（これも）別の報道になりますが「生成AIが脱獄されてしまう」確率は、ChatGPT-4oでも86%となり、Google Geminiでも64%なので、DEEP SEEKが突出して高いというわけでもないようです。

今後の情報セキュリティと生成AIとの関係性や攻防は注目すべき動向になります。

https://rocket-boys.co.jp/security-measures-lab/deepseek-sends-user-data-china/

DeepSeekに利用者の情報を中国政府に直接送信する機能が存在

https://rocket-boys.co.jp/security-measures-lab/11818/

AIが作成したフィッシングメールのクリック率が50%を超える

https://rocket-boys.co.jp/security-measures-lab/deepseek-jewelbreak-attack-100/

AIの脱獄(ジュエルブレイク)テストでDeepSeekは攻撃成功率が100%