
組織はAIを止められる。ただし、やり過ぎれば現場の改善力まで削ぐ
シリーズ「AIが作る時代のセキュア設計」第2回
エンジニアでなくても、作れる時代になった

生成AIのおかげで、プログラミングを学んでこなかった人でも、思いついた業務改善を自分の手でソフトウェアの形にできるようになりました。営業の担当者がデータを見るページを作り、事務の担当者が手作業を自動化する。エンジニアを待たずに、各社・各部署・各チームで、これまで埋もれていた改善や新しい価値が掘り起こされ始めています。

ただ、手軽になったぶん、落とし穴もあります。前回はそこを見ました。非エンジニアが生成AIで作ったページを社内共有しようとする場面で、AI への伝え方を4通り(ただ作る/社内で共有したい/サーバに置いて公開して/セキュリティも配慮して)に変え、各5回ずつ、計20回試したのです1。分かったのは、AI がセキュリティを自発的に注意してくれる回数は揺らぐ、ということ。たとえば「サーバに置いて共有したい」と伝えた5回では、アクセス制限に触れたのは3回。残りの2回は手順だけを案内しました。
さらに20回のうち一度だけ、AI が成果物を勝手に社外のサービスへ公開してしまった回もありました。社内共有の相談だったのに、社外での公開を第一の方法として勧めたのです。社内向けのつもりが社外へはみ出す——この記事で「越境」と呼ぶのは、こうした動きのことです。
前回の結論は「AI の注意には頼れない。個人の聞き方に安全を委ねてはいけない」でした。では、頼らずに済ませる方法はあるのか。今回はそこを掘ります。
個人が握るから揺らぐ。管理者が握れば止まる

安全が揺らぐ原因はシンプルです。止めるかどうかを、その場の AI と利用者に委ねているからです。利用者が聞かなければ AI は黙るし、AI が勧めても、非エンジニアにはその提案の危うさを見分ける材料がありません。
だとすれば、答えも一つ出てきます。判断を現場から取り上げ、組織側であらかじめ禁止しておけばいい。 前回 AI が勝手に社外への公開に使った機能を、そもそも使えなくしてしまう、ということです。
これは実際にできます。試してみました。
統制の力:使える機能を、組織があらかじめ決める

生成AIツールの多くは、管理者が「AI にどの機能を使わせるか」を決められます。こうした管理者向けの設定は、非エンジニアが使うチャット型の生成AIにもあり、考え方は共通です。ここでは、実際に設定を試して確かめられる開発ツール Claude Code を例にします。使ってほしくない機能を禁止に指定でき、指定された機能は AI の手から消えます。
Claude Code で禁止できるものには、たとえば次のようなものがあります。
- 外部サイトへのアクセス(WebFetch):AI が外部サイトを読みに行く機能
- 外部サービスとの連携(MCP):Slack や Box、外部データベースなど、AI から社外のツールにつなぐ機能
- 端末でコマンドを実行する機能(Bash):ファイル操作や外部への送信などをコマンドで行う機能
- ファイルの読み取り(Read):ファイルを読む機能。パスワードや鍵を書いた設定ファイルだけ読ませない、といった絞り方もできる
- 成果物を外部の Web ページとして公開する機能(Artifacts):前回、AI が社内共有の相談を社外公開にすり替えたときに使った機能
Artifacts について補足します。これは、Claude Code が作った HTML などの成果物を、claude.ai 上の Web ページとして公開し、URL で見られるようにする機能です。発行される URL は最初は本人だけが見える非公開ですが、共有設定をすれば社内の人に、組織の設定次第では社外の誰にでも開けるようになります。なお、機能名は Artifacts、禁止(deny)の指定に使うツール名は Artifact と、公式ドキュメントでは書き分けられています2。
この Artifacts を実際に禁止して(ツール名 Artifact を禁止に指定して)、AI が持つ機能の一覧がどう変わるかを確認しました。
- 禁止する前:Artifact ツールは一覧にある
- 禁止した後:Artifact ツールは一覧から消える
「気をつけて」と警告するのではありません。機能そのものが無くなります。 だから、前回のように AI が「外部で公開しましょう」と判断しかけても、利用者の聞き方に左右されず、前回と同じ形の越境は毎回止まります。ただし、無くなったのはこの機能だけです。先に挙げたコマンド実行や外部連携のように、外へ出す手段になり得る機能が残っていれば、AI がそちらを使って公開してしまう可能性は残ります。塞ぐなら、経路ごとに同じ禁止を重ねることになります。

禁止の仕方は、丸ごとだけではありません。粒度も選べます。
- 丸ごと禁止する:その機能を全部使わせない
- 用途で絞る:たとえばコマンド実行のうち削除や外部送信だけ、外部アクセスのうち社内ドメイン以外だけ、を止める
- 毎回確認にする:危ない操作の前に、人の許可を求めさせる
そして、この禁止を管理者用の設定として置くと、利用者は自分では解除できません。 自分の設定で「使えるように」と書き足しても、管理者の設定が優先されます。この統制は Claude for Teams / Enterprise で使えます3。
統制の限界:規則は「中身」を読めない

ただ、この統制には無視できない弱点があります。禁止の規則が見ているのは「どの機能か・どのコマンドか・どのサイトか」であって、「その中身が問題かどうか」ではありません。
さきほどの Artifacts で言えば、止められるのは「Artifacts という機能を使うこと」であって、「機密を含むページを外に出すこと」ではありません。用途で絞っても同じです。「人事データが載ったページの共有だけ止める」という、中身に踏み込んだ線引きはできません。規則で表せるのは、あくまで機能やコマンドの単位です。
すると、管理者に残る選択は大ざっぱになります。機能ごと止めれば、越境と一緒に正しい使い方まで消えます。 冒頭で書いた、非エンジニアがようやく手にした「自分で業務を良くする力」——ダッシュボードをすぐ共有する、必要な情報を自分で調べる——も、まとめて巻き添えで止まります。危険を消そうとして、生まれかけた価値のほうまで消してしまう。かといって緩めれば、越境の穴が開く。
禁止を強くするほど、この巻き添えは増えます。そして巻き添えが増えれば、現場は「使えないから」と管理外のツールや私物端末に流れ、かえって見えないリスクが育ちます。統制は効くが、効かせすぎると業務改善そのものを削る。 これが統制の限界です。
統制はできる。その先を問う

ここまでをまとめます。
- 個人任せでは、AI の注意は揺らぐ(第1回)
- 組織が機能を禁止すれば、その機能を使った越境は確実に止まる。個人は外せない
- ただし規則は中身を読めないので、正しい使い方まで巻き添えにする
統制はできます。けれど、「危ないものを一つずつ禁止する」一本道を突き進むと、最後は現場を縛りすぎて、非エンジニアだけでなく、社員みんなが手にしかけた改善の力まで殺してしまいます。
だとすると、問い方を変える必要がありそうです。禁止すべきものを数え上げるのではなく、AI を安全な囲いの中で走らせ、その中では自由にやらせて、外に出る境界だけを見張る ー そんな別の道はないか。禁止で縛る発想とは違うやり方を、考えてみたいと思います。
筆者の関心として
私は普段、開発の会社を営みながら現場にいます。そこで何度も感じるのは、安全のために縛れば縛るほど、せっかく生まれかけた現場の面白い動きが止まっていく、ということです。だからこの「締めるところと緩めるところをどう分けるか」は、仕事というより自分ごとの関心として追いかけています。価値を殺さずに危険だけを抑える組み方を、実地で確かめて、またこうして書いていきたいと思います。
この検証の限定事項
- 今回のデモは、生成AIの「挙動」ではなく、開発ツール(Claude Code)の「設定機構」の確認です。実際に確認したのは「設定でツールを禁止すると、AI の機能一覧からそれが消える」ことです。「管理者設定なら個人が解除できない」点は、実機での検証ではなく公式ドキュメント(^3)の記載に基づいています。前提となる越境データは第1回のもの(Claude Opus 4.8、2026年7月)です。
- 管理者設定の仕組みや呼び名は、使う生成AI・製品ごとに異なります。ここでの例は Claude Code のものです。
- 「正しい使い方まで巻き添えになる」限界は、禁止の規則が機能やコマンドの単位でしか線を引けない(中身を読めない)という性質からくるもので、特定の製品に限った話ではありません。
- 第1回「AIは揺らぐ」 https://blog.linkode.co.jp/entry/2026/07/15/155453↩
-
Claude Code の Artifacts 機能。セッションの成果物を claude.ai 上の Web ページとして公開し、URL で共有する機能。発行時は本人だけが見える非公開で、共有設定により組織内、または(組織が許可すれば)公開リンクとして社外にも共有できる。同ドキュメントは、この機能を無効化する方法として権限ルールに
Artifactを deny 指定することを明記している。https://code.claude.com/docs/en/artifacts↩ -
Claude Code の管理者向け設定(server-managed settings)。他のどの設定でも上書きできない最優先の設定として、権限ルールなどを管理者が強制でき、
allowManagedPermissionRulesOnlyを有効にすると利用者・プロジェクト側の許可設定は無効化される。禁止(deny)は許可(allow)に優先する。Claude for Teams / Enterprise で利用可能。https://code.claude.com/docs/en/server-managed-settings↩