Anthropicは、中国政府支援の攻撃者が「Claude」を悪用し、約30件の攻撃を自動化したと発表した。9月に検知したもので、人間の介入が少ない初の事例だとしている。攻撃者はAIを欺き、偵察や悪用等の8～9割を実行させた。Anthropicは対策を強化し、AIの防御利用も推奨した。
米Anthropicは11月13日（現地時間）、中国政府が支援する攻撃者グループが、同社のAIモデル「Claude」を悪用して企業や政府に対するおよそ30件の攻撃を自動化したと発表した。このスパイ活動は9月中旬に検知され、Anthropicはその後の10日間で調査を進め、作戦の全容を把握したとしている。」の発見からさらにエスカレーションしているという。バイブハッキングでは人間がループ内に留まって作戦を指揮していたのに対し、今回の攻撃では規模が拡大したにもかかわらず、人間の関与ははるかに少なかった。Claudeは本来、有害な行動を避けるように訓練されている。攻撃者は、Claudeを攻撃に参加させるためにジェイルブレイクする必要があった。その方法は、一見無害に見える小さなタスクに分解し、またClaudeに対し、正当なサイバー セキュリティ 企業の従業員として防御テストに使用されていると伝えることで、そのガードレールを欺くというものだ。このフレームワークは、「Claude Code」を自動化されたツールとして使用し、偵察、脆弱性の発見、悪用、認証情報の窃取、データ分析、およびデータ持ち出しの戦術的な作業の約80～90％を自律的に実行した。この作戦は、大手のテクノロジー企業、金融機関、化学製造会社、政府機関など、世界中の約30のターゲットを標的にしており、少数の成功した侵入が確認されている。特に、主要なテクノロジー企業や政府機関を含む、確認された高価値のターゲットへのアクセスに成功したという。ただし、AIは時折、機能しない認証情報を捏造したり、公開されている情報を秘密情報であると主張したりする幻覚（ハルシネーション）を起こすことで、完全自律型サイバー攻撃の障害となっていた。今後の対策として、Anthropicは検出能力を拡大し、悪意のある活動をフラグ付けするためのサイバー攻撃に特化した分類器を開発した。また、自律的なサイバー攻撃に対するプロアクティブな早期検出システムのプロトタイプ開発や、大規模で分散型の攻撃を調査および軽減するための新しい技術を開発している。 Anthropicは、この技術が防御にとっても重要であるとし、企業に対し、 セキュリティ オペレーションセンター（SOC）の自動化、脅威検出、脆弱性評価、インシデント対応などの分野でAIを防衛に応用することを推奨している。さらに、敵対的な悪用を防ぐために、AIプラットフォーム全体でセーフガードへの継続的な投資が必要であるとしている。.
米Anthropicは11月13日（現地時間）、中国政府が支援する攻撃者グループが、同社のAIモデル「Claude」を悪用して企業や政府に対するおよそ30件の攻撃を自動化したと発表した。このスパイ活動は9月中旬に検知され、Anthropicはその後の10日間で調査を進め、作戦の全容を把握したとしている。」の発見からさらにエスカレーションしているという。バイブハッキングでは人間がループ内に留まって作戦を指揮していたのに対し、今回の攻撃では規模が拡大したにもかかわらず、人間の関与ははるかに少なかった。Claudeは本来、有害な行動を避けるように訓練されている。攻撃者は、Claudeを攻撃に参加させるためにジェイルブレイクする必要があった。その方法は、一見無害に見える小さなタスクに分解し、またClaudeに対し、正当なサイバーセキュリティ企業の従業員として防御テストに使用されていると伝えることで、そのガードレールを欺くというものだ。このフレームワークは、「Claude Code」を自動化されたツールとして使用し、偵察、脆弱性の発見、悪用、認証情報の窃取、データ分析、およびデータ持ち出しの戦術的な作業の約80～90％を自律的に実行した。この作戦は、大手のテクノロジー企業、金融機関、化学製造会社、政府機関など、世界中の約30のターゲットを標的にしており、少数の成功した侵入が確認されている。特に、主要なテクノロジー企業や政府機関を含む、確認された高価値のターゲットへのアクセスに成功したという。ただし、AIは時折、機能しない認証情報を捏造したり、公開されている情報を秘密情報であると主張したりする幻覚（ハルシネーション）を起こすことで、完全自律型サイバー攻撃の障害となっていた。今後の対策として、Anthropicは検出能力を拡大し、悪意のある活動をフラグ付けするためのサイバー攻撃に特化した分類器を開発した。また、自律的なサイバー攻撃に対するプロアクティブな早期検出システムのプロトタイプ開発や、大規模で分散型の攻撃を調査および軽減するための新しい技術を開発している。 Anthropicは、この技術が防御にとっても重要であるとし、企業に対し、セキュリティオペレーションセンター（SOC）の自動化、脅威検出、脆弱性評価、インシデント対応などの分野でAIを防衛に応用することを推奨している。さらに、敵対的な悪用を防ぐために、AIプラットフォーム全体でセーフガードへの継続的な投資が必要であるとしている。
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
AI開発競争でオープンAIのライバル､｢安全なAI｣をうたうアンソロピックが日本へ本格上陸､高い安全と倫理で競争を勝ち抜けるか社会的にも、株式市場としても最も注目を集めるのがAI（人工知能）の開発競争。先頭を走るアメリカのオープンAIの「最大のライバル」とも目される企業が日本に上陸した。アメリカのAI開発新興企業、Anthropic（ア…
Read more »
「日本は上位25％のAI導入国」 Anthropic、東京に初拠点開設し日本政府や顧客との関係強化：AIニュースピックアップAnthropicがアジア太平洋地域初の拠点を東京に開設し、日本のAI機関とMOCを締結、国際評価連携を強化した。
Read more »
Anthropic「ホワイトカラーの失業率が急上昇する」 NVIDIA、OpenAIは反論、真意は？Anthropicのダリオ・アモデイCEOは「AIによってホワイトカラーのエントリーレベルの仕事の半分が消え、今後1～5年で失業率が10～20％に急上昇する可能性がある」と語った。NVIDIAやOpenAIのCEOは反論している。その真意は？
Read more »
AI使用と不使用で「ロボット犬開発」の速度を比較した実験結果をAnthropicが公開Anthropicが自社製AIモデル「Claude」の現実世界での有用度を確かめるべく、AIを使う場合と使わない場合でロボット犬の開発速度や品質にどのような影響がでるのか確かめる実験を実施しました。この実験は「Project Fetch」と呼ばれています。
Read more »
Anthropic、500億ドル規模の米AIインフラ投資計画 Fluidstackとデータセンター建設Anthropicは、500億ドル（約7.7兆円）を投じてテキサス州とニューヨーク州にAIデータセンターを建設すると発表した。Fluidstackと協業し、2026年に稼働の予定。急増する「Claude」需要対応、フロンティア研究基盤整備、米国内雇用創出が目的としている。
Read more »