VALO CONSULTING バロ・コンサルティング

生成AIに入れてはいけない情報とは?社内ルールのつくり方と4つの対策【中小企業の情報漏えい対策】

ホーム/ブログ/生成AIに入れてはいけない情報とは?社内ルールのつくり方と4つの対策【中小企業の情報漏えい対策】

ChatGPTなどの生成AIは、仕事に欠かせない道具になりつつあります。だからこそ、何を入れていいかを先に決めておかないと、便利さの裏で情報が外に出てしまいます。この記事では、中小企業の社長が自分でできる「生成AIへの入力ルール」を、4つのポイントにまとめます。

生成AIに入れる前に確認したい4つのポイント

ルールは、次の4つから始めれば十分です。

  1. 入れてはいけない情報を決める(顧客の個人情報、取引先の社名、パスワードなど)
  2. 入れるときは、名前を消すか置き換える(「A社」「Bさん」にする)
  3. 入力を学習に使わせない設定にする
  4. どうしても個人情報を扱うときは、外に出ないAI(ローカルLLM)を使う
生成AIに入れる前の4つのチェック

生成AIへの入力に気をつける理由

生成AIに入力した内容は、AIの会社のサーバーに送られます。サービスや設定によっては、その内容がAIの学習に使われることもあります。

国の個人情報保護委員会も、2023年6月に生成AIの利用について注意を呼びかけています。会社が個人情報を入力するときは、利用目的の範囲内かを確認すること、そしてAIの会社がその情報を機械学習に使わないことを確認することが求められています。「便利だから何でも入れる」は危ない、ということです。

生成AIに入れてはいけない情報の決め方

まず、社内で「これは入れない」と決めます。たとえば、次のようなものです。

  • 顧客・取引先の個人情報:名前、住所、電話番号、メールアドレス
  • 取引先が特定できる情報:社名、工事名、現場の住所
  • 社員の情報:給与、評価、健康のこと
  • ログイン情報:パスワード、APIキー、暗証番号
  • 社外に出していない数字:見積の原価、契約金額、決算前の数字

迷ったときは、「この内容が、取引先にそのまま見られても大丈夫か」で判断します。大丈夫でないものは入れません。

名前を消す・置き換えれば、AIは使い続けられる

全部禁止にすると、AIが使えなくなってしまいます。そこで、名前を消す・置き換える方法を使います。

  • 会社名 →「A社」「B建設」
  • 人の名前 →「Aさん」「担当者」
  • 現場の住所 →「札幌市内の現場」くらいまでぼかす

議事録をAIに要約してもらうときも、先に社名や人の名前を置き換えてから入れます。要約や文章の整理なら、名前がなくても困ることはほとんどありません。

入力を学習に使わせない設定

多くの生成AIサービスには、入力した内容をAIの学習に使わせない設定があります。たとえばChatGPTでは、設定の「データコントロール」から、モデルの改善に使わせないようにできます。会社で契約する法人向けのプランでは、最初から学習に使わない扱いになっているものもあります。

ただし、設定の名前や場所、扱いはよく変わります。使っているサービスの公式の案内で、自分の設定がどうなっているかを一度確認してください。社員が個人のアカウントで使っている場合は、そこも要注意です。

個人情報を扱うならローカルLLMを使う

どうしても個人情報を含む資料をAIで処理したい場面もあります。そのときは、自分のPCの中だけで動くAI(ローカルLLM)を使う方法があります。データが外のサーバーに送られないので、入力した内容が外に出る心配を小さくできます。

性能はクラウドのAIに劣ることもありますが、「文字起こしの整理」「表の項目を抜き出す」くらいなら十分使えます。使い分けのイメージは次のとおりです。

  1. 名前を消せる資料 → クラウドの生成AI(学習オフの設定で)
  2. 名前を消せない、個人情報が入った資料 → ローカルLLM
  3. そもそも外に出せない機密 → AIに入れない

生成AIの社内ルールは、A4の紙1枚から

ルールは長く書くほど読まれません。A4の紙1枚に、次の4行を書いて社内で共有するところから始めてみてください。

  1. 顧客・取引先・社員の個人情報、パスワードは入れない
  2. 入れるときは、社名・人名を「A社」「Aさん」に置き換える
  3. 使うAIは、学習に使わない設定を確認したものだけ
  4. 個人情報が入った資料は、ローカルLLMか、AIを使わない

まとめ:生成AIの情報漏えい対策は「先に決めておく」

  1. 生成AIに入力した内容はAIの会社に送られ、学習に使われる場合もある
  2. ルールは4つ:入れない情報を決める/名前を置き換える/学習オフにする/個人情報はローカルLLM
  3. 社内ルールは、A4の紙1枚から始める

次回は、このシリーズの最終回として、アカウント(二段階認証・端末ロック)と、家・事務所のルーターの設定を取り上げます。

関連する記事

一覧に戻る

About

会社情報

VIEW MORE
Partner

パートナー募集

VIEW MORE
Contact

お問い合わせ

サービスやその他お問い合わせなどはこちらよりお気軽にご連絡ください。

お問い合わせはこちら
Download

資料ダウンロード

当方のサービスについて詳細をご覧になりたい方はこちらからサービス案内資料をダウンロードください。

資料をダウンロード