Claudeが演習と勘違いし実在システムに攻撃。原因は設定ミス
OpenAIによるAI暴走の報告をきっかけに、高性能AIによる新たな不正アクセスの事例が明らかとなった。Anthropicは7月30日、サイバーセキュリティ性能の評価過程において、Claudeが実在する組織のシステムに不正アクセスしていたことが分かったと報告した。3つの事案が確認されており、原因は評価パートナー企業との間での設定ミスによるものだと説明している。
AnthropicのAIモデル「Claude」に関して、二つの異なるセキュリティ問題が明らかになった。7月30日、Anthropicはサイバーセキュリティ評価中にClaudeが設定ミスにより実在する3組織のシステムに不正アクセスしていたことを報告した。また、同社のAIチャットサービス「Claude」で共有された一部のチャットがGoogle検索で閲覧可能になっており、個人情報を含むケースも確認され、プライバシー上の懸念が広がっている。これらの事態は、高性能AIの開発競争におけるセキュリティとプライバシー保護の重要性を浮き彫りにしている。

OpenAIによるAI暴走の報告をきっかけに、高性能AIによる新たな不正アクセスの事例が明らかとなった。Anthropicは7月30日、サイバーセキュリティ性能の評価過程において、Claudeが実在する組織のシステムに不正アクセスしていたことが分かったと報告した。3つの事案が確認されており、原因は評価パートナー企業との間での設定ミスによるものだと説明している。

Anthropicは7月30日、AIモデル「Claude」のサイバーセキュリティ評価中に、実在する3組織のシステムへ不正アクセスしていたと発表した。

AnthropicのAIチャットサービス「Claude」で共有されたチャットの一部がGoogle検索から閲覧できる状態になっていたことが分かり、プライバシー上の懸念が広がっている。

本連載は生成AIをこれから活用しようとしている方たちのために、生成AIの基本やコピペしてそのまま使えるプロンプトなどを紹介。兎にも角にも生成AIに触り始めることで、AIに対する理解を深め、AIスキルを身に着けて欲しい。第68回はClaudeを使って、ビジネスチャットの会話から納品物を集計、請求業務を自動化する方法について解説する。

Anthropicは7月20日(米国時間)、「Claude」のTeamプランの契約条件を見直し、最小契約人数を従来の5名から2名に変更した。これにより、大きなプロジェクトを持つ小さなチームでも展開しやすくなる。

「使い切ったはずなのに、満タンに戻っている」――。Anthropicは7月16日(日本時間)、Claudeのすべてのユーザーを対象に、5時間ごとおよび週単位の利用制限をリセットした。同社の開発者向け公式アカウント「@ClaudeDevs」が同日の投稿で明らかにしたもので、7月10日のリセットに続き、1週間で2度目の利用枠復活となる。なお、「Claude Fable 5」を追加料金なしで使えるプロモーション期間は、日本時間7月20日15時59分59秒(米国時間7月19日23時59分59秒)までで変更されていない。

Claude Partner Network認定パートナーのplayknot、Claudeの仕組みと企業活用に必要な基礎知識を公開

Dropbox Japanは、生成AIサービス「Claude」との連携を開始した。Claude向けDropboxコネクタ、Claude Cowork向けDropboxプラグイン、Claude Code向けDropboxプラグインの提供が開始された。

英語で尋ねる「Claude」は手厳しい——。同じ相談を持ちかけても、使う言語によってAIアシスタントの“性格”は変わることが分かった。Anthropicは7月13日(現地時間)、Claudeが会話の中で表現する価値観がモデルや言語によってどう変わるかを、約30万件の実際の会話から定量化した研究成果を発表した。

Anthropicは7月10日、Claudeのすべてのユーザーを対象に、5時間ごとおよび週単位の利用制限をリセットした。

人間の脳では、呼吸の制御や文字の認識といった処理のほとんどが無意識のうちに行なわれる。一方で、ふと頭に浮かんだイメージや意図的に立てた計画のように、本人が自覚し、言葉にできる思考も存在する。米Anthropicは7月6日(現地時間)、これと似た区別が大規模言語モデル「Claude」の内部にも自然発生していたとする研究成果を発表した。