先日、私たちが担当したある研修でのことだ。地方で複数の介護施設を運営する法人の職員向けに、AIの基礎とセキュリティを学ぶハンズオン研修を行った。
冒頭に置いたのは、5問のクイズだった。「利用者との相談内容を録音し、AIに議事録を作らせてよいか」「出先で急ぎのとき、会社未承認のAIで相談してよいか」。手を挙げてもらいながら進めると、正解率は決して高くなかった。多くの職員が、良かれと思って際どい判断をしていた。
これは、この法人だけの話ではない。
「禁止しておけば安全」ではない
情報漏洩が怖いから、会社としてAI利用を禁止する。経営者の判断としては、誠実に見える。石橋を叩いて渡る姿勢そのものは、間違っていない。
だが、その禁止は現場のAI利用を止めない。止めるのは、会社から見える場所での利用だけだ。
現場は、便利さを一度知ってしまうと後戻りしない。会社が公式なツールを用意しなければ、職員は自分のスマートフォンで、個人の無料アカウントを使い始める。会社から見えない場所に、AI利用がそのまま移動するだけのことだ。これを「シャドーAI」と呼ぶ。
シャドーAIとは、社員の裏切りではない。会社がガードレールを渡すより先に、現場がAIに手を伸ばしただけのことだ。
なぜ「個人の無料AI」が危ないのか
ここで整理しておきたいのは、法人契約のAIと個人向け無料AIの違いだ。
Google WorkspaceなどのAI法人契約は、入力したデータが学習に使われない取り決めになっているのが一般的だ。一方、個人向けの無料プランには、入力内容がAIの学習に使われる可能性が残る。顧客の相談内容や利用者の病歴といった機微情報を、こちらに入力してしまうと、情報が外部に漏れる経路そのものを自分で作ってしまうことになる。
冒頭のクイズは、この境界線を職員自身に引かせるための仕掛けだった。実際に使った問いをいくつか紹介する。
- 顧客との相談音声から議事録を作らせてよいか → 会社が契約した法人プランであればよい。個人の無料アカウントはNG。
- 自社ホームページの内容を読み込ませ、事業計画を考えさせてよいか → すでに公開されている情報なので問題ない。
- 社内では承認済みのAIがあるのに、出先で急ぎのため未承認の個人契約AIを使ってよいか → NG。これがシャドーAIそのものである。
クイズという形式にしたのは、判断基準は「暗記」ではなく「反復」でしか身につかないからだ。一度説明しただけのルールは、繁忙期の一瞬の判断では思い出されない。
AIの回答を鵜呑みにした代償は、机上の空論ではない
ルールが必要なのは、情報漏洩だけが理由ではない。AIが出す答えそのものを、無条件に信じてよいわけではないという理由もある。
大規模言語モデルは、確率的にもっともらしい言葉をつなげる仕組みであり、事実確認の機能を内蔵していない。もっともらしい嘘、いわゆるハルシネーションが混じるのは、AIの欠陥というより仕組み上の宿命だ。
2025年10月、大手コンサルティングファームのDeloitte(デロイト)は、オーストラリア政府の雇用・労働関係省向けに納品した報告書について、一部返金に応じたと報じられた。報告書にはAI（Azure OpenAI）が生成した架空の学術論文の引用や、実在しない判例からの捏造された引用文が含まれており、シドニー大学の研究者の指摘で発覚した。契約金額44万豪ドル（約29万米ドル）のうち一部が返金され、報告書は数十カ所の修正を経て再提出された(TechRadar「Deloitte forced to refund Aussie government after admitting it used AI to produce error-strewn report」)。
世界最大級のコンサルティングファームでさえ、AIが出したもっともらしい参照元を人の目で確認しないまま提出し、信用を落とした。中小企業の現場であれば、なおのこと「AIが言ったから」で数値や固有名詞を確定させてはいけない。
ガードレールは、現場を縛るためのものではない
研修では、RAG（検索拡張生成）という仕組みも紹介した。あらかじめ指定した資料だけを参照させ、その範囲外の質問には「情報がありません」と答えさせる仕組みで、汎用のAIよりハルシネーションを大きく抑えられる。個人でも無料で使える段階まで、道具はすでに揃っている。
一方で、この法人が抱えていた課題もある。例えば、日々の記録をつけている既存の介護ソフトは、AIとリアルタイムで直接つながる作りにはなっていない。無理に連携システムを開発しようとすると、開発規模も期間も一気に膨らむ。現場で採られていた回避策は単純で、記録データをいったんCSVやPDFで書き出し、それをAIに読み込ませるという、地味だが確実なやり方だった。整った連携を待つより、今ある出力機能を使ってしまう方が早い。この発想は、以前に書いた「きれいに作ってから配る会社ほど、AIは広がらない」で触れた、ガードレールを先に渡して現場の工夫に委ねる考え方と根は同じだ。
最初の一歩は、契約プランの確認から
大きな仕組みを一度に整える必要はない。まず全社でどのAIツールが実際に使われているか、簡単な社内アンケートで洗い出すこと。そして、そのツールが法人契約かどうかを確認すること。これだけで、見えていなかったリスクの輪郭がはっきりする。
セキュリティを固めることと、現場の工夫に任せることは、矛盾しない。むしろ最低限の境界線を先に引いておくほうが、現場は安心してAIを使い倒せる。ルールのないグラウンドでは、選手は思い切りプレーできない。
自社で今、どのAIがどこまで使われているか、正確に答えられるだろうか。
まずは自社のAI利用の現在地を、無料の診断で確かめてみてほしい。
