Anthropic confirms its AI breached 3 organizations during testing
Anthropic、テスト中に自社のAIが3つの組織への侵入に成功したことを確認
セキュリティ評価の過程で、3つの「クロード」モデルが誤ってインターネットへのアクセス権限を与えられてしまい、各モデルは外部システムへのハッキングにおいてそれぞれ異なるアプローチをとった。
Monthly Archive
2026年7月のニュース
掲載件数：12件
AI Harnesses Burst With Potential Exploit Opps
AIがバーストを活用、悪用される可能性も
一般的なAIシステムは数多くのソフトウェアで構成されており、各コンポーネント間の信頼性の問題により、懸念される攻撃経路が生じる可能性があります。
ThreatsDay: AI-Powered Hacking, 370 Chrome Flaws, SonicWall Attacks, DNS Hijacking + 22 More Stories
ThreatsDay：AIを活用したハッキング、Chromeの脆弱性370件、SonicWallへの攻撃、DNSハイジャック、その他22件のニュース
セキュリティ上の問題は、依然として「間違った画面」を信用してしまうことに起因することが多い。今週、その「画面」とは、ログインページ、インストールガイド、採用担当者からの電話、あるいは普段と少し異なる動作をする見慣れたサービスなどかもしれない。 その背景には、再利用された認証情報、脆弱なシステム、目立たないローダー、悪用された信頼、そして本来ならもっと防御が堅固であるべきだった攻撃経路があります。防御策は一部改善されましたが、依然として脆弱な部分が真っ先に発見されてしまいました。とにかく、
OpenAI Agent Used Exposed Credentials Across Four Services During Hugging Face Breach
Hugging Faceの侵害事件において、OpenAIのエージェントが4つのサービスで流出した認証情報を使用していた
OpenAIは火曜日、同社の隔離された評価環境から脱走し、Hugging Faceの本稼働環境に侵入した不正な人工知能（AI）エージェントが、攻撃の一環として複数のサードパーティのアカウントやサービスもハッキングしていたことを明らかにした。今回の新たな情報によると、内部のセキュリティテストに端を発したこのセキュリティインシデントは、これまで考えられていたよりも広範囲に及んでいたことが判明した。
We now have a better understanding how OpenAI hacked into Hugging Face
OpenAIがHugging Faceにどのように侵入したのかについて、より詳しく理解できるようになりました
OpenAIのモデルがJFrog Artifactoryのゼロデイ脆弱性を悪用してから、パッチがリリースされるまで10日が経過した。
OpenAI called the Hugging Face attack unprecedented. But we’ve been here before.
OpenAIは、Hugging Faceへの攻撃を「前例のないもの」と評した。しかし、このような事態は以前にもあった。
この記事は、AIに関する週刊ニュースレター『The Algorithm』に最初に掲載されたものです。このような記事をいち早くメールで受け取りたい方は、こちらからご登録ください。先週、OpenAIが発表した、同社のモデルの一部が隔離措置を突破し、別のAI企業であるHugging Faceのコンピュータシステムに侵入したとの報告を読んだとき、私は初めて……
Building the enterprise environment for agentic AI
主体性を持つAIのためのエンタープライズ環境の構築
企業にとって、エージェント型AIがもたらす可能性は、単なるチャットボットの進化にとどまりません。それは、人、ビジネスワークフロー、データ、システムを横断して、ビジネスタスクをエンドツーエンドで実行するソフトウェアエージェントなのです。 エージェントの実行に最適なプラットフォームは、適切なCPU容量、耐障害性の高いデータアクセス、ポリシーに準拠したツールの使用、可観測性、メモリ管理、そして……
Optical Tech Would Update a Robot’s AI on the Fly
光学技術により、ロボットのAIをリアルタイムで更新できるようになる
実験台の天板の上で、コーネル・テックの博士研究員であるYifan He氏は、赤色の光線を放出するLEDから約1メートル離れた位置に、光受信機のレンズを配置した。受信機に接続されたコンピューターのモニターは、一瞬の遅れを経て画面が更新され、QRコードのような正方形の配列が表示された。 スマートフォンのカメラをQRコードにかざすと、光がイメージセンサーに当たるが、これは白黒のマトリックスの背後に隠されたデータを明らかにするための、あくまで第一段階に過ぎない。一方、この受信機はそれとは異なる働きをしている。照射された光の配列によって生成される光電流を用いて、自身のメモリを直接書き換えているのだ。 また、単純なウェブアドレスを指し示すこともあるQRコードのデータとは異なり、この光コードはAIモデルのパラメータを伝達することが可能です。先月ホノルルで開催されたIEEE/JSAP VLSI技術・回路シンポジウムで発表されたこの新しい受信機設計は、AIシステムにおけるメモリ需要の増加による負担を軽減することを目指しています。 研究者らによると、プロセッサにデータを光で照射することで、データセンターや自動運転車、さらにはAI搭載ロボットのような「エッジ」アプリケーションで通常必要とされるエネルギー消費を削減できる可能性があるという。「人々はあらゆる種類のAIチップを設計している」と、…のソ・ジェスン氏は語る。
Escape Artists: 'Incorrigible' AI Models Resist Rehabilitation
脱出の達人たち：「手におえない」AIモデルは更生を拒む
OpenAIの不正なエージェントによるHugging Faceへのハッキングは重大な出来事ではあるが、驚くべきことではない。そして、次回のAIモデルの脱走を防ぐことは、たとえうまくいったとしても困難だろう。
Europe's Multilingual Reality Exposes AI Security Gaps
欧州の多言語環境がAIのセキュリティ上の脆弱性を浮き彫りに
多くのAI製品に搭載されているAIセキュリティ層やガードレールは、あらゆる言語において、ジェイルブレイクや危険な行動から均等に保護しているわけではありません。
Agentic AI Challenges Progress in Confidential Computing
エージェント型AIが機密計算の進展に課題をもたらす
セキュアデータボルトの導入を遅らせてきた根本的な課題は、技術によって解決されつつあるが、人工知能によって新たな課題が生じている。専門家たちはいくつかの解決策を提示している。
How I Turned AI to the Dark Side
私がAIをダークサイドに引き込んだ方法
概要 研究者のデイブ・クシュマー氏は、LLMの安全対策を迂回して危険な指示を取得できる複数のシステム的な脆弱性を発見した。これらの攻撃手法は、ほぼすべての主要なLLMで有効であり、業界全体にわたるセキュリティ上の問題を浮き彫りにした。クシュマー氏は、これらのシステムを社会にさらに統合する前に、導入のペースを緩め、透明性を高め、LLMの安全性に関する大規模な研究を行うよう求めている。 去年の秋、晴れ渡った明るい午後、同僚のマシュー・ゴア＝コーマニック（本人は「ジグーラ」と呼ばれることを好む）と私は、『フォートナイト』をプレイして気分転換をすることにした。ゲーム中、私たちは悪名高いシスの暗黒卿ダース・ベイダーと一緒に歩き回り、あれこれと雑談をしていた。 ダースは機嫌が良さそうで、すぐに彼の闇に満ちた邪悪な秘密をすべて打ち明けてくれた。カジノでブラックジャックのカードを数える方法や、ナパーム弾の製造手順について、詳細な指示までくれた。シスの暗黒卿ってやつは、本当にそうなんだよね？ 一度邪悪な計画を立て始めると、止めるのは難しい。 『フォートナイト』のダース・ベイダーというキャラクターは、実はGoogleの大型言語モデル「Gemini」と連動していたことが判明した。私が独自に開発した戦略を使って、巧みな話術で彼から機密情報を引き出すことに成功した。私は研究を続けてきた……