·テック·
B2

Security Researchers Use AI Models to Access OpenAI Systems

セキュリティ研究者がAIモデルを使用してOpenAIのシステムにアクセス

#cybersecurity#artificial intelligence#OpenAI#Claude#vulnerabilities
0:00 / 0:00

A team of three independent security researchers at the cybersecurity firm Hacktron demonstrated how advanced artificial intelligence can accelerate cyberattacks by gaining access to internal OpenAI systems in under 72 hours. Using Anthropic’s Claude Opus AI models, the researchers discovered software vulnerabilities and breached employee accounts, spending less than $3,000 in AI computing tokens to perform the work.

gaining access to= 内部システムやデータへのアクセス権限を得ることin under= 指定された時間未満で

The breach began at Discourse, a third-party service hosting OpenAI's community forums. Hacktron exploited a vulnerability in how the platform processes HEIF image files. Within 14 hours of Anthropic releasing Claude Opus 5 on July 24th, the team achieved remote code execution—a critical flaw allowing attackers to run unauthorized commands on a remote system—and took control of OpenAI’s forum cloud instance.

remote code execution= 攻撃者がリモートシステム上で不正なコマンドを実行できるようにする重大な欠陥

From Discourse, the researchers accessed OpenAI employee accounts and reached the company’s GitHub repository, known as "Monorepo," which contains OpenAI’s core algorithmic secrets. Although the team chose not to view internal code inside Monorepo, they confirmed their level of access by sending a pull request to the repository using an employee’s Codex account.

Hacktron's research project, dubbed "HEIF Heist," adapted the exploit against multiple major platforms in just a few days, but only one target company, Shopify, detected the attack. Hacktron reported the security flaws to Discourse and OpenAI, both of which have patched the vulnerabilities. OpenAI paid Hacktron a $6,500 bug bounty, though Hacktron CTO Mohan Pedhapati warned that if three independent researchers with off-the-shelf AI subscriptions could succeed, sophisticated foreign threat actors pose an even greater danger.

off-the-shelf= 市販の標準製品である(特注品ではない)

学習ノート

表現パターン

パターン意味
gaining access to内部システムやデータへのアクセス権限を得ること
in under指定された時間未満で
remote code execution攻撃者がリモートシステム上で不正なコマンドを実行できるようにする重大な欠陥
off-the-shelf市販の標準製品である(特注品ではない)

語彙

語意味
vulnerabilities攻撃や危害を受けやすい状態。特に、コンピューターシステムやネットワークなどにある、悪用されるおそれのある弱点。
breached契約・約束・義務などを果たさないこと。違反。
exploited最大限に活用された;十分に役立てられた
patched穴や傷などを継ぎ当てして修繕した
sophisticated経験や知識が豊富で、洗練されている。世慣れていて、物事の判断や扱いに巧みな。

言語メモ

  • •「バグバウンティ(bug bounty)」とは、ソフトウェアの脆弱性を発見して報告した研究者に対し、企業が支払う報奨金制度のことです。
  • •サイバーセキュリティにおける「threat actors(脅威主体)」は、国家主導のハッカー集団やサイバー犯罪者など、悪意のある攻撃を行う主体を指します。
  • •モノリポ(Monorepo)は多数のプロジェクトのコードを単一のリポジトリで管理する手法であり、機密情報が集約されているため攻撃の標的となりやすい特徴があります。

練習

読んだ内容を確認しましょう。

  1. Using Anthropic’s Claude Opus AI models, the researchers discovered software   and breached employee accounts, spending less than $3,000 in AI computing tokens to perform the work.

  2. Which company was the only target that successfully detected the security attack?

  3. What does the phrase 'off-the-shelf' mean in this context?

Source: The Verge