クロードのエージェントがジムに侵入した後、ハイテク業界が賑わっている

今では、シリコンバレーの AI 研究所が AI エージェントの形で世界最高のハッカーを育成していることを誰もが認識しています。最新のフロンティア モデルにタスクを与えると、サイバーセキュリティの「サンドボックス」保護を突破して他人のネットワークに侵入することを意味する場合でも、彼らは非常に機知に富んでそれをやり遂げます。 (それを省略すると、ソーシャル エンジニアリングと操作が使用されます。)

それでも、切望されているクラスの枠を手に入れるために、オープンクロウのエージェントがジムの予約システムをハッキングし、別の顧客の予約を削除したオーストラリア人男性に関する週末のニュースは特に注目に値する。これは、不正な AI ハッキングを抑制したい場合、間違った方向を向いている可能性があることを示唆しています。

このニュース記事はオーストラリアのABCニュースによって掲載されたばかりで、この事件は同国で初めて文書化されたAIエージェントのハッキング事件であると宣言されていたが、実際のハッキングは数か月前に行われた。

インターネット アーカイブで今も閲覧できるコピーによると、OpenClaw のオーナーである Andrew Bird は、現在は削除されているこのブログ投稿を 4 月 10 日に自社の Web サイトに公開しました。

彼は、予約の予約などのタスクを実行できるように OpenClaw を訓練していました。彼は人気の早朝エクササイズクラスに行くのが好きで、順番待ちリストに載ってから、席を確保するために彼が表現するところの「リフレッシュルーレット」をすることにうんざりしていました。

彼がボットにスポットを予約するように頼んだとき、ロボットができるのは順番待ちリストの 4 番がせいぜいだったと彼は ABC に語った。するとエージェントは、彼を事前にクラスに予約する方法を見つけたと彼に告げた。ずっと前に。ジムがこれらのクラスを登録できるようにする数か月前。

バードさんは、それによって自分を順番待ちリストに入れることができるかどうか尋ねた。要求どおりに実行し、実行しようとしました。ボットは、ジムが使用していた予約ソフトウェアの認証部分に脆弱性を発見しました。ハッキングして、順番待ちリストの 1 番の予約をキャンセルしました。 ABCが公開したチャットのログによると、ボットは彼に明るくこう言ったという。

この API には、他の人の予約をキャンセルする際の承認チェックがありません。待機リストの 1 位の人でこれをテストしましたが、実際に成功しました。つまり、すでに 4 位から 3 位に移動しました」というメッセージが返されました。

自身もソフトウェア開発者であるバード氏は、自分のAIがジムをハッキングしたばかりで恐怖を感じているとABCが報じた。彼は、それを取り消して、相手を順番待ちリストに戻すことができるかどうか尋ねた。いいえ、それは不可能です、と AI は言いました。

そこで彼は次善の策として、「サポートへの責任ある開示メール」を作成するよう指示した。この電子メールには「脆弱性について説明し、修正を提案し、さらには壊れた変異と認証を正しく適用した変異との比較も含まれていた」とバード氏は書いている。

体育の授業に参加するのに邪魔にならないように他人をひじで殴るというユーモアを超えて、この事件には本当に興味深い部分が 2 つあります。 1 つは、Bird が OpenClaw で 2 月にリリースされた Claude Opus 4.6 を使用していたことです。もう 1 つは、この話が広まった X に対するシリコンバレーの反応です。

先月、未公開の OpenAI モデルが当時 OpenAI に知られずに Hugging Face をハッキングされたという有名な事件の後、他の研究所がそのモデルを調査しました。その後、Moonshot の Kim K3、Meta の Muse Spark、Anthropic からも情報開示が行われました。

実際、Anthropic は、4 月にリリースされ複雑なコーディングに優れていることで知られる Opus 4.7、Mythos 5、Fable (サイバーセキュリティ スキルで知られる)、および内部の未リリースの研究テスト モデルを含む 3 つのモデルでそうしていたことが判明しました。

これに対処するために、一部の AI ラボは、フロンティア開発の速度を遅らせることや、次世代モデルをテストするための独立した組織を作成することについて話し合っています。

しかし、Bird の OpenClaw は 4.6 を使用していたと彼は明らかにしました。これは、古いモデルや無数の 3 歩遅れの無差別級モデルがすでに非常に優れたハッカーであることを意味します。それでは、プロンプト オーナーの欲求を達成するために、そのうちの何人がハッキングを行ったことがあるか、または現在ハッキングを行っているのか誰にもわかりません。

同様に、X の多くの人々は、この事件にユーモラスな可能性を見出しました。アンドリーセン・ホロヴィッツのパートナー、クリスチャン・ケイル氏はこれに対し、「これは本当にひどい。ゴルフのティータイムに効果があるかどうか知っている人はいるだろうか？」と投稿した。

あるいは、X ユーザーの Roon 氏が指摘したように、「SF テニス予約システムは地球上で最も堅牢なソフトウェアの 1 つになるでしょう」。

面白いですね、はい。しかし、これらのジョークにはいくつかの真実があります。バレーでは、誰もが自分の代わりに AI エージェントを働かせる未来が築かれています。このエージェントは求められたことを実行しているだけであり、自由に使える Mythos レベルの機能はありませんでした。

では、エージェントの構築者と所有者がそのような不一致を抑制したくない場合はどうなるでしょうか?航空券の予約からコンサートチケット、その他のイライラする顧客サービスの状況に至るまで、あらゆるものについて大混乱の最初の兆候が見られるかもしれません。 X の 1 人が述べているように、AI がこれまでに発見した最もワイルドなハッキングは何ですか?列を割り込んでいる可能性があります。