生成AIを安全に使うには｜「なんとなく禁止」が現場を止めている

「社員が勝手にChatGPTを使っているようだが、機密情報を入れていないか心配だ」「かといって全面禁止にすると、時代に取り残される気がする」——経営者や人事のご担当者から、この種のご相談をいただくことが本当に増えました。

生成AIの安全性は、実は技術の問題というよりルールと仕組みの設計の問題です。つまり、情報システムの話であると同時に、人事・労務の話でもあります。この記事では、私たちが企業のAI活用支援で実際に整備している「セキュリティガードレール」——AIの行動を技術的に制限する仕組み——の考え方を解説します。

「なんとなく禁止」が、実は一番危ない

多くの会社の現在地は、明確な禁止でも許可でもない「なんとなく禁止」です。ルールがないので、真面目な社員ほど使わず、一部の社員が個人アカウントでこっそり使う。この状態が一番危険です。

理由は2つあります。第一に、会社が把握できない個人アカウントでの利用（いわゆるシャドーAI）は、何をどこに入力したか誰にも分かりません。事故が起きても気づけないのです。第二に、その間にもAIを使いこなす競合との生産性の差は、静かに開き続けます。

そしてもう一点、組織にとって見過ごせない副作用があります。ルールがない状態は、規律ある社員ほど損をする構造だということです。「たぶんダメだろう」と自制した人が非効率なまま働き、気にしない人だけが恩恵を受ける。これが続くと、まじめにやることが報われないという感覚が静かに広がります。「なんとなく禁止」は、リスクを放置したまま恩恵を捨て、そのうえ公平感まで損なっている状態なのです。

本当のリスクはどこにあるのか

「AIに入力すると情報が漏れる」と一括りに語られがちですが、リスクの経路を分解すると、対処はそれほど複雑ではありません。主な経路は次の3つです。

• 入力データがAIの学習に使われる: 無料版・個人向けプランでは、入力内容がAIモデルの改善（学習）に使われる場合があります。法人プランや適切な設定では、学習に使われない契約にできます
• アカウント・履歴の管理不備: 退職者のアカウントが残っている、共有リンクで会話履歴が誰でも見られる、といった運用面の穴。これは労務・情報管理の領域です
• 人間やAIの誤操作: 送信先の間違い、公開してよい情報と機密の区別がないままの利用、AIが意図せず機密ファイルに触れてしまうケース

チャット型AIとAIエージェントでは、守り方が違う

ブラウザで使うチャット型AI（ChatGPTやClaudeなど）は、法人プランの契約、学習に使わせないオプトアウト設定、アカウントの一元管理。この3点でかなりの部分を守れます。

一方、Claude CodeのようなAIエージェント——実際にPCの中でファイルを開き、作業をするAI——は話が別です。人間の部下と同じように仕事をしてくれる強力さの裏返しで、「どのファイルに触れるのか」「どんな操作を実行できるのか」を管理しなければ、チャット型とは桁違いのリスクになります。そして、これを人間の注意力だけで管理するのは不可能です。

そこで必要になるのが、セキュリティガードレールです。

セキュリティガードレール——AIが越えられない「柵」を設ける

私たちがガードレールと呼んでいるのは、マニュアルや口頭の注意ではありません。AIの行動そのものを技術的に制限する、3層の仕組みです。

第1層: ルールファイル

AIが仕事を始めるとき、必ず最初に読み込む「行動規範」をファイルとして備え付けます。機密ファイルは読まない、認証情報は出力しない、削除系の操作は確認を取る——人間でいえば就業規則ですが、決定的に違うのは、AIは毎回必ずこれを読んでから仕事を始めるという点です。就業規則を全員が毎朝読み返してから始業する職場、と考えると分かりやすいと思います。

第2層: 権限設定

ルールを「守らせる」のではなく「破れなくする」層です。AIがアクセスできるフォルダ、実行できる操作を、設定ファイルで許可制にします。機密フォルダには最初から触れない。外部への送信は許可された宛先だけ。物理的な柵なので、うっかりも故意も通れません。人事でいえば、権限設計そのものです。

第3層: 監視と自動ブロック

AIの操作を一つひとつ機械的にチェックし、危険な操作は実行される前に自動で止め、すべての操作を記録（ログ）として残す仕組みです。人が画面を見ていなくても、24時間働き続ける監視員がいる状態をつくります。

この3層に共通する思想は、「人の注意力に頼らない」ことです。ルールは破られることがあり、注意は忘れられます。しかし、柵は越えられません。個人の意識に依存しない設計という点で、これは労働安全衛生の考え方とまったく同じです。

ガードレールの上に、組織への導入を載せる

誤解のないように書いておくと、ガードレールは土台であって、それだけでAI活用が進むわけではありません。利用ポリシーの策定、先行部署でのパイロット導入、社員研修といった「組織に広げるステップ」は、この土台の上に載せるものです。順番が逆になると——つまり柵がないまま全社展開すると——冒頭の「なんとなく禁止」に逆戻りします。組織導入のステップについては、別の記事で詳しく書く予定です。

明日からのチェックリスト

自社の現在地を確認するには、次の6項目をチェックしてみてください。

• 生成AIの利用ルールが文書として存在するか
• 会社が把握しているアカウントで使われているか（個人アカウントの黙認になっていないか）
• 入力データが学習に使われない契約・設定になっているか
• AIエージェントを使う場合、触れるファイル・実行できる操作を制限する設定があるか
• AIの操作が記録として残り、後から確認できるか
• 「怖いから使わない」社員に、安全に使える理由を説明できているか

3つ以上「いいえ」がついた場合は、ガードレールの整備から始めることをおすすめします。

まとめ

生成AIの安全性は、禁止か解禁かの二択ではありません。チャット型AIは契約と設定で、AIエージェントは3層のガードレール（ルールファイル・権限設定・監視と自動ブロック）で、人の注意力に頼らずに守る。この土台があってはじめて、現場が萎縮せずに使える状態になります。

OhEN Funwork Studiosでは、ガードレールの設計・構築から、利用ポリシーの策定・社員研修・組織への定着までを一気通貫でご支援しています。ご相談はこちらからどうぞ。

この記事の要点

• 「なんとなく禁止」はシャドーAI（個人アカウントでの隠れ利用）を生み、リスク放置・機会損失・不公平感の3つを同時に招く最悪の状態
• リスクの経路は「学習利用・管理不備・誤操作」の3つに分解でき、それぞれ対処可能
• チャット型AIは法人契約・学習オプトアウト・アカウント管理で守れる。ファイルを操作するAIエージェントには技術的なガードレールが必須
• セキュリティガードレール3層 = ①ルールファイル ②権限設定 ③監視と自動ブロック。共通思想は「人の注意力に頼らない」で、労働安全衛生の考え方と同じ
• ポリシー策定・研修などの組織導入ステップは、ガードレールという土台の上に載せる