NISHIO Hirokazu[Translate]
衆議院選挙、中国系400アカウントが「反高市工作」
>自民党が圧勝した8日の衆院選に関し、SNSを使った情報工作とみられる動きが見つかった。X(旧ツイッター)のデータを分析したところ、400ほどの中国系アカウントが連携し、高市早苗政権の印象を下げる投稿を拡散していた。
FIMIの実例

>メルトウォーターの分析ツールを用い、衆院選期間に拡散したハッシュタグ付き投稿から、情報工作とみられる不自然なパターンを探索した。高市首相を批判するハッシュタグを不自然な動きで拡散していたアカウント群を見つけ、それらのアカウントが同時期に投稿していた他の類似ハッシュタグも同時に収集した。最終的に33の首相批判ハッシュタグを特定した。
> このハッシュタグを拡散したアカウントのうち、プロフィル情報や投稿パターン、接続手法、投稿内容などの共通性から394の工作アカウントを特定した。
> アカウントの分類には英オーディエンスの分析ツールも用いた。
> アカウント開設時期、凍結・閲覧制限などのアカウント状況、接続元のデータは各Xアカウントの概要ページから確認・集計した。

>Dirg_rocketdyne 400アカウントとは、滅茶苦茶少ないなと。数千、数万のアカウントがスタンバイされてると思っていたから。選挙前、あるいは去年からに、無意味な言葉をつぶやくアカウントがアクティベーションされていた。ざっと追跡してみたが、想像を絶する巨大なbot構造が浮き彫りになった。
>
> 選挙中は、これらのアカウントは特に何も動きはなかったが、これだけのアカウントを経済的な利益なしに動かしているのは意味不明である。
>
> ・1つのbotが20〜60のボットを連鎖的にフォローし、数万〜数十万規模の相互ネットワークを形成。
>
> ・アクティベートされた、botを追いかけてたが、ほとんど大体履歴が消されてる。しかし日本語をつぶやく前の履歴は残っているものはあって、仮想通貨の誘導、エロ広告などありきたりなものから、政治的なRTや発言が残ってるのも一部あり、6年前のアメリカ大統領選の際に「郵便投票なんてクソくらえ」(英語)というワードをつぶやいていた。その後何食わぬ顔で意味不明な日本語をつぶやきつづけるなど。業者の消し忘れだと思うけど、このbot群は嫌すぎる。
>
> ・米国、インド、英国、アルジェリア、トルコ、香港、ニュージーランド、ドイツなど世界各地のIPを介し、プラットフォーム側の地理的な一括ブロックを回避。
>
> ・実在する一般ユーザーのプロフィール(アイコン・背景・自己紹介)を完全に複製し、群衆の中に紛れ込む手法。 メルカリやヤフオクの無断転載詐欺サイトと同じ手法。運営側が類似アカウントを一斉排除しようとすると、コピー元の本物の人間まで巻き添えでBANされる構造。
>
> ・スパム検知の回避のため、 全く同じ文言を避け、微細な差異(ワードサラダ)を作ることで、機械的な「連投ロック」をすり抜ける、あるいは無害な日常語を呟き続けることで、アカウントの「生存実績」を作り、プラットフォームからの信頼度(信用スコア)を高めていると推定。 購入・作成直後のアカウントを急稼働させると即凍結されるため、低速で「慣らし運転」を行い、有事の際の一斉稼働に備えている?
>
> ・この規模のインフラが構築されている場合、以下の工作活動が容易に実行可能。
>
> ①世論操作: 特定のハッシュタグや投稿に対する爆発的なインプレッション・拡散の捏造
>
> ②偽情報の拡散: 膨大なアカウント数による「情報の信憑性」の偽装。
>
> ③攻撃対象の封殺: 特定アカウントへの一斉通報やリプライ攻撃による機能不全。
>
> 選挙中は、これらのアカウントは特に何も動きはなかったが、これだけのアカウントを経済的な利益なしに動かしているのは意味不明である。
>
> ・1つのbotが20〜60のボットを連鎖的にフォローし、数万〜数十万規模の相互ネットワークを形成。
>
> ・アクティベートされた、botを追いかけてたが、ほとんど大体履歴が消されてる。しかし日本語をつぶやく前の履歴は残っているものはあって、仮想通貨の誘導、エロ広告などありきたりなものから、政治的なRTや発言が残ってるのも一部あり、6年前のアメリカ大統領選の際に「郵便投票なんてクソくらえ」(英語)というワードをつぶやいていた。その後何食わぬ顔で意味不明な日本語をつぶやきつづけるなど。業者の消し忘れだと思うけど、このbot群は嫌すぎる。
>
> ・米国、インド、英国、アルジェリア、トルコ、香港、ニュージーランド、ドイツなど世界各地のIPを介し、プラットフォーム側の地理的な一括ブロックを回避。
>
> ・実在する一般ユーザーのプロフィール(アイコン・背景・自己紹介)を完全に複製し、群衆の中に紛れ込む手法。 メルカリやヤフオクの無断転載詐欺サイトと同じ手法。運営側が類似アカウントを一斉排除しようとすると、コピー元の本物の人間まで巻き添えでBANされる構造。
>
> ・スパム検知の回避のため、 全く同じ文言を避け、微細な差異(ワードサラダ)を作ることで、機械的な「連投ロック」をすり抜ける、あるいは無害な日常語を呟き続けることで、アカウントの「生存実績」を作り、プラットフォームからの信頼度(信用スコア)を高めていると推定。 購入・作成直後のアカウントを急稼働させると即凍結されるため、低速で「慣らし運転」を行い、有事の際の一斉稼働に備えている?
>
> ・この規模のインフラが構築されている場合、以下の工作活動が容易に実行可能。
>
> ①世論操作: 特定のハッシュタグや投稿に対する爆発的なインプレッション・拡散の捏造
>
> ②偽情報の拡散: 膨大なアカウント数による「情報の信憑性」の偽装。
>
> ③攻撃対象の封殺: 特定アカウントへの一斉通報やリプライ攻撃による機能不全。
> >nikkei: 衆議院選挙、中国系400アカウントが「反高市工作」 AIで巧妙に

>kanematsuyui いやこれ調べていても、ほんとに毎日コンスタントになんぼでも新しい匿名アカウントが湧いて出てくるんですよ。やろうと思えばいつでも大規模化できると思います。
>
> 今回は分析範囲をハッシュタグ使ったものに限っているので、オペレーション全体では400よりもう少し規模はありそうです。それでも、全体のボット在庫の規模からすると、小規模な実験程度のものと思われ、今後も在庫を使って似たような工作が続くのは間違いないと思います。
>
> Xの自動検知もそれなりに仕事をしていて、結構早めに消していってますが、何せなんぼでも出てくるのできりがないです。
>kanematsuyui 指摘されているまさにコレでした!
> 「ワードサラダ」と「無意味な継続投稿」
>
> 「スパム検知の回避のため、 全く同じ文言を避け、微細な差異(ワードサラダ)を作ることで、機械的な「連投ロック」をすり抜ける、あるいは無害な日常語を呟き続けることで、アカウントの「生存実績」を作り、プラットフォームからの信頼度(信用スコア)を高めていると推定。 購入・作成直後のアカウントを急稼働させると即凍結されるため、低速で「慣らし運転」を行い、有事の際の一斉稼働に備えている?」
>kanematsuyui 生成AIで共通の元ネタを要約することで、投稿文にランダムさを出しているものと推測しています。

"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]

(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]