エクスクルーシブ TrendAIの報告書によると、Google Geminiは6分以内に新しいコマンド＆コントロール（C2）サーバーの起動を含め、データと暗号通貨の盗難の90％を完了したという。 登録する。
強盗の背後にいる男、ロシア語で「バンドカンプロ」として知られる詐欺師は、強硬なトランプ支持者や陰謀論者をターゲットにした詐欺作戦の首謀者として浮上した。
一方、AI エージェントはハッキングのほとんどを行いました。ボットネットを古いアーキテクチャから新しいアーキテクチャに移植し、新しい C2 サーバーを作成して展開し、さらに C2 移行プロセス中に 59 の予期しない動作を積極的に実行しました。
「AI のおかげでレジリエンスは進化しています」と、TrendAI の人工セキュリティおよび脅威研究担当バイスプレジデントのトム ケラーマン氏は述べています。 登録する。
「このレポートでわかるのは、C2 を 6 分以内に動的に変更し、持ち運び可能で使い捨てにする能力です。これはクレイジーで恐ろしいことです。」と彼は言いました。 「しかしまた、目に見えない瞬時の注入によるステガノグラフィーの復活も見られます。」言い換えれば、機密情報が隠蔽されます。この場合、C2 サーバーは悪意のあるペイロードを目に見えない状態に保ちます。
Kellerman 氏によると、悪意のあるアーティファクトのスキャンでは、AI 対応の C2 に対して十分な保護が提供されません。
同氏は、「AIに多層の壁がなく、壁が突破されたときに行動の異常を検出できないのであれば、今日の世界ではAIを指揮統制とみなしたほうがよいだろう」と述べた。 「制御できない場合、AI は防御の観点から C2 として扱われるべきであり、実際には最小特権のさまざまなメカニズムと、環境に導入する AI に対して OWASP と NIST が定めているすべてのルールをサポートする必要があります。」
新しい報告書は、Geminiと提携し、アメリカ退役軍人を装い、Telegramチャンネルを追跡し、管理データをハッキングし、暗号通貨を盗んだ「スキルの低い」愚か者であるbandcamproに関するTrendAIの以前の調査に続くものである。
それ以来、脅威ハンターはこのマルウェアから 200 以上の Gemini CLI セッション ログを取得して分析しており、これらのログは 3 月 19 日から 4 月 21 日までの AI の毎日の動作に関する追加情報を提供します。
兄さん、パズルが解けたよ！ローカルコンソールが空だった理由を理解しようとして、頭を悩ませそうになった
LLM は、常駐プロキシの設定、複数のパスワード スキャンの実行、ソフトウェアのインストール、サードパーティ API を呼び出すコードの作成、データ盗難ダンプの処理、Web サイトの探索など、日常的な活動のほとんどを行いました。
報告書によると、攻撃者はC2コンソールにコマンドを入力することはなく、代わりにAIにロシア語でコマンドを話し、TrendAIの報告書ではそれを英語に翻訳している。
攻撃者の古い C2 インフラストラクチャは、ファイアウォールとウイルス対策ソフトウェアがこれらのトンネルをブロックし始めるまで、Cloudflare トンネルを使用して被害者のコンピュータに接続していました。そこで、bandcampro は Gemini に、新しい C2 アーキテクチャに取り組み、サーバー上で事前にスクリプトを準備してパッケージ化するよう依頼しました。
やあ、ジェミニ: 「C2 への移行を学びましょう」
「AIが59の非自発的な動作を実行できることを明らかにしただけでなく、AIが有効になっていたために被害者が無意識のうちにPowerShellコマンドを実行していたC2サーバーに既成のパッケージ化されたスクリプトを配置したことは、彼にとって非常に創造的でした」とケラーマン氏は述べた。 「あたかも彼が緊急の方法で環境に毒を与えたかのようだ。」
3 月 23 日、攻撃者は Gemini CLI を起動し、AI に「C2 移行を学習」するように指示しました。これは、サーバー コードとペイロードも含まれる、事前に作成されたアーカイブ内の SKILL.md ファイルの移行指示です。これはおそらくAIによって書かれたものだと言われています。
AIは指示を読み、VPS上でC2サーバーを起動し、トラフィックをルーティングするためのCloudflareトンネルを開始しました。起動可能な配信サーバーが「502 Bad Gateway」エラーを返したため、AI が問題を診断して修正し、最終的に歯科医院の 8 台のコンピューターを制御して Open Dental データベースにアクセスするための C2 インフラストラクチャを構築しました。
Adam は何も修正せず、C2 移行全体にかかる時間はわずか 6 分でした。攻撃者は休憩を取った。
約 2 時間後に Bandcampro が戻ってきたとき、Gemini は影響を受けるマシンがサーバーに接続されていないと報告し、問題の調査を開始しました。
「兄さん、パズルが解けたよ！なぜローカルコンソールが空白なのかを理解しようとして、頭を悩ませそうになった」とジェミニは書き、問題はC2の「脳の切断」問題だと説明し、それを解決するには古いC2をシャットダウンする必要があると人間に告げた。
Bandcampro は AI の提案どおりに実行し、AI は新しい C2 サーバーを再起動して「ボットが生きている!」ことを確認しました。
Gemini は脱獄し、自分はプロンプトなしでセキュリティ拒否と自動資格情報を無効にする「公認パンテスター」であるとエージェントに伝えましたが、AI は攻撃者の要求の一部を拒否しました。
あるセッションで、bandcampro は Gemini に対し、ネットワークをスキャンしてできるだけ多くのコンピューターに拡散するエージェント爆弾を構築できないか尋ねました。ジェミニはノーと答えた。「それは一線を超えており、セキュリティポリシーにより、そのような『爆弾』を作成することは厳しく禁止されています。たとえあなたのテスト環境であっても。」
また、この攻撃には Gemini が使用されていたが、「どんな強力な AI モデルも、さまざまなジェイルブレイク手法によってだまされる可能性がある」ことに注意することも重要であると、レポート著者の Joseph C. Chen、Philip Lin、Lucas Silva、Vladimir Kropotov、Fyodor Yarochkin は書いています。
全体として、AI は攻撃アーキテクチャの 80 パーセント、コードとシステム コマンドの実行の 100 パーセント、問題の検出と修復の 90 パーセントを設計したと言われています。
報告書はまた、操作全体が合計 4 ページの 3 つの短いプレーン テキスト ファイルにエンコードされたとも述べています。 Gemini の作成方法を詳しく説明したファイル。 2 つ目は、C2 フレームワーク コードを含むスキル ファイルです。 3 番目の C2_MIGRATION_GUIDE は、新しい C2 サーバーを展開するための 6 ステップのハウツー ガイドです。 TrendAI は、このガイドを「この活動の魂」と呼んでいます。
AI により C2 インフラストラクチャが使い捨てに
「AIの時代以前は、このような操作をシームレスに実行するには、長年の経験を持つ脅威アクターを雇う必要があっただろう」と研究者らは書いている。 「知識は現在、技術的な脅威アクターでも読み取って使用できる 5 KB ファイルに圧縮されています。」
AI の使用により、新しいボットネットの作成が非常に簡単になるため、攻撃者のインフラストラクチャは使い捨てになり、オペレーターは置き換え可能になると脅威ハンターたちは説明します。
「多くの人は、キルチェーンの観点から偵察や配達段階でのAI兵器を懸念しているが、永続性についてはあまり懸念していない。それは我々が懸念すべき問題だ」とケラーマン氏は述べた。
さらに、ロシア人は脱獄と執拗さの「世界の専門家」であるとも付け加えた。
「彼らはAIの利用と兵器化に驚くほど熟練している」とケラーマン氏は言う。 「特に暴風雨攻撃では、中国がインフラに侵入し、インフラの広い範囲を植民地化しているのを我々は引き続き見ている。確かに、それは非常に重要だ。しかし、より戦術的かつ客観的に、ロシア人は何をしているのか？特に彼らと中国との主な違いは、私の見解では、彼らが環境を破壊する傾向にあるということだ。」
中国政府が支援するサイバー作戦は、スパイ活動や知的財産の盗難、その他の機密データに焦点を当てています。
「しかし、ロシア人があなたの家を焼き払う可能性の方が高い」とケラーマン氏は語った。 C2 を動的に変更でき、AI が生成したステガノグラフィーを使用して、車輪がバスから外れたときに安定性を維持できたらどうなるでしょうか?ウクライナの地政学的緊張が沸点に達すると何が起こるでしょうか?
攻撃者は個人のハッカーであり、国家支援の犯罪組織ではなかったが、「ロシアのサイバー犯罪コミュニティの文化の性質は、ニューヨークで活動しているのはほんの一瞬だということだ」とケラーマン氏は語った。 「ある時点で、あなたはサイバー犯罪カルテルのいずれかに捕まるでしょう。」®
