Anthropic、OSS向け無料スキャンを発表｜AI報告の確認と修正は保守担当へ
- 公開
- 出典
- Introducing the Anthropic Cyber Mission（外部サイト）（Anthropic・発表）
- 確認日
- に出典の本文を確認
発表の要点
出典に書かれている内容の要約です。
Anthropicは10月8日、サイバーセキュリティーの取り組みの一つとして、オープンソース向けの「OSS Scanner」を発表しました。
申し込んだプロジェクトを、同社の最も能力の高いモデルで定期的にスキャンするサービスで、無料で提供します。
報告には、不具合が悪用され得る手順の実証例、説明、可能な場合は修正案が含まれます。
報告はモデルが作成し、人の確認を経ずに送られます。深刻度の評価などに誤りが含まれる場合があり、見つかった問題に対応できるプロジェクトを想定しています。
編集部の見解・提案
ここからは編集部の見解と提案です。当社が導入・検証した結果ではなく、検討するときの確認点として整理しています。
編集部は、今回の発表を、一般の企業が自社のサイトやサーバーを無料で診断してもらえるサービスの提供とは受け止めません。オープンソースのプロジェクト向けの発表で、参加の条件、受付の審査、日本からの利用は、この発表からは確認できません。報告には誤りが含まれ得るため、届いた内容は人が確かめる必要があります。
ここからは発表の内容ではなく、編集部の提案です。自社のサイトや業務の仕組みがオープンソースの部品を使っていて、その保守を委託している場合は、部品の更新を誰が担うかを決めておきます。報告や修正案を受け取ることと、実際に直して試し、反映することは分けて扱い、内容の確認、優先度の判断、修正と試験、許可された範囲での反映の順で進める流れを、委託先とも共有しておくことを提案します。また、自社の持ち物ではないサイトやサーバーを無断で調べることは避けてください。製品で試した結果ではありません。
モデルを使える範囲を審査する区分の話は以前のニュースで取り上げました。目的の違いを読み分け、担当者へ渡す情報を整理してください。
AIが出した結果を人が確かめる手順は集客業務のAI活用ガイドと任せる仕事と確認する仕事の分け方の記事にまとめています。
業務へのAIの組み込みを進めたいとき
AkatsukiのAI社員構築の支援では、決まった手順の仕事をAIが進め、送信や支払いの前には人が承認する仕組みを、業務に合わせてつくります。
チームで確認したいこと
- 参加の条件と対象を提供元の案内で確かめる
- 使っているオープンソースの部品と、更新の担当・委託先の許可の範囲を書き出す
- AIの報告と修正案は、確認・修正・試験の順に人が判断して反映する
出典・編集方針
- Introducing the Anthropic Cyber Mission（外部サイト）Anthropic、発表。に本文を確認。
AIニュースは公式の発表を一次情報とし、事実の要約と編集部の見解を分けて掲載しています。料金・性能の比較や、出典にない内容は載せません。記事の作り方と訂正の方針は編集方針にまとめています。
次に読む
自社の業務でAIをどう使うかを整理したいときは、AI活用について相談することもできます。
関連する支援：AI社員構築の支援
支援の内容と始め方は、AI社員構築の支援のページで説明しています。