DeepSeekは、機密情報や個人情報に限らず、ユーザーの行動データ（検索履歴や生成リクエストの内容など）を分析することで、特定の政治的傾向や興味を持つ人々を識別し、それを利用してプロパガンダや影響工作を行うリスクが否定できません。このようなリスクは、特に中国やロシア、北朝鮮のような国家が関与する可能性がある場合、現実的な懸念となります。
もくじ
行動データの収集と分析のリスク
生成AIや検索エンジンを利用する際、ユーザーが入力するデータ（検索クエリ、要約リクエスト、生成されたテキストなど）は、サービス提供者によって収集・保存される可能性があります。いや、ほぼ確実に保存されるはずです。このデータを分析することで、以下のような情報が得られる可能性があります。
政治的傾向の特定
ユーザーが頻繁に検索するトピックや生成リクエストの内容から、その人の政治的傾向や興味を推測することが可能です。たとえば、親中国的なテーマや反米的な内容を多く検索している場合、その傾向が特定されます。
心理的プロファイリング
ユーザーの検索履歴や生成リクエストを分析することで、その人の価値観、関心事、感情的な反応を推測し、心理的なプロファイルを作成することができます。
ターゲティングの可能性
これらのデータを利用して、特定のユーザーに対してプロパガンダや影響工作を行うためのターゲティングが可能になります。たとえば、特定の政治的メッセージを含む広告やコンテンツを配信することで、意図的に意見を操作しようとする試みが考えられます。
国家主導のプロパガンダ工作のリスク
中国やロシア、北朝鮮のような国家は、情報操作やプロパガンダを戦略的に活用してきた歴史があります。生成AIや検索エンジンを通じて得られるデータは、これらの活動に利用される可能性があります。
中国の国家情報法の影響
中国の「国家情報法」では、企業が政府の要請に応じてデータを提供する義務があります。このため、DeepSeekのような中国企業が収集したデータが中国政府に渡り、プロパガンダ工作に利用されるリスクがあります。
ターゲットの特定と接触
政治的傾向が特定されたユーザーに対して、SNSやメール、広告などを通じて直接的な接触を試みることが可能です。たとえば、親中国的な傾向を持つユーザーに対して、中国政府の政策を支持するようなメッセージを送ることが考えられます。
世論操作の試み
特定のテーマに関心を持つユーザーを集中的にターゲティングすることで、世論を操作しようとする試みが行われる可能性があります。たとえば、反米的な傾向を持つユーザーに対して、米国の政策を批判するコンテンツを配信することで、反米感情を煽ることができます。
生成AIを利用したプロパガンダの拡大リスク
生成AI自体がプロパガンダのツールとして利用されるリスクもあります。以下のような形で、生成AIがプロパガンダ工作に利用される可能性があります。
偏った情報の生成
生成AIが意図的に偏った情報を生成するように設計されている場合、ユーザーが受け取る情報が特定の政治的立場に偏る可能性があります。たとえば、親中国的な視点を強調した要約や解釈を生成することで、ユーザーの認識に影響を与えることができます。
大量の偽情報の生成
生成AIを利用して、大量の偽情報やプロパガンダコンテンツを短時間で作成し、SNSやウェブ上に拡散することが可能です。これにより、特定のテーマに関する世論を操作することができます。
個別対応型プロパガンダ
ユーザーのプロファイルに基づいて、個別にカスタマイズされたプロパガンダメッセージを生成し、配信することが可能です。これにより、より効果的に意見を操作することができます。
リスクを軽減するための対策
このようなリスクを軽減するためには、以下のような対策が考えられます。
ローカル環境での利用
オープンソースモデルをローカル環境で利用することで、データが外部に送信されるリスクを回避できます。ただし、モデルやコードの安全性を十分に検証する必要があります。
信頼性の高いサービスを利用する
データの取り扱いに透明性があり、信頼性の高いサービスを選択することが重要です。たとえば、欧米の厳格なプライバシー規制（GDPRなど）に準拠したサービスを利用することが推奨されます。
生成AIの出力を批判的に検証する
生成AIが提供する情報を鵜呑みにせず、複数の情報源を参照して内容を検証することが重要です。
結論
DeepSeekのような生成AIを利用する際には、単に機密情報や個人情報の漏洩リスクだけでなく、ユーザーの行動データが分析され、政治的プロパガンダや影響工作に利用されるリスクも考慮する必要があります。特に、中国やロシア、北朝鮮のような国家が関与する可能性がある場合、これらのリスクは現実的な懸念となるでしょう。
このようなリスクを軽減するためには、データの取り扱いに慎重になり、信頼性の高いサービスを選択することが重要です。また、生成AIの出力を批判的に検証し、偏った情報に影響されないようにすることも必要です。最終的には、利用者自身がリスクを十分に理解し、適切な判断を下すことが求められます。