セキュリティー研修「AIの安全な使い方」
初心者向けセキュリティー研修「AIの安全な使い方」の内容を、記事として読みやすくまとめました。難しい専門知識は必要ありません。AIを怖がるのではなく、ルールを知って安心して使えるようになることが目的です。便利に使って、情報と会社を守るための基本ルールを押さえましょう。
なぜ今？ AIのリスクが「10大脅威」の第3位に
IPA（情報処理推進機構）が毎年発表する「情報セキュリティ10大脅威」。2026年版の組織向けで、「AIの利用をめぐるサイバーリスク」が初めて選ばれ、いきなり第3位に入りました。
使う人が増え、うっかり情報漏えいが起きやすい
攻撃する側も、AIで詐欺を巧妙にしている
だからこそ、使う一人ひとりの意識が一番の対策
出典：IPA「情報セキュリティ10大脅威 2026」（2026年1月公表）
生成AIは「知識豊富だが経験不足の新人」
生成AIとは、ChatGPTやClaude、Geminiのように、質問すると文章や画像を作ってくれるAIのことです。IPAはAIをこう例えています。頼りになるけれど、任せきりにすると危ない存在です。
何でもすぐ答える：文章づくり・要約・翻訳・アイデア出しが得意
自信満々に間違える：知らないことも、それらしく答えてしまう
入力は保存されることも：サービスや設定によっては、入力内容が学習に使われる
だから、「渡す情報」と「仕上がり」は、必ず人が確認する。新人に仕事を頼む時と同じです。
AIで起きる3つのリスク
リスク① 情報が漏れる：社外秘や個人情報を入力して、会社の外に出てしまう → 対策：入力しない・置き換える
リスク② 間違い・権利侵害：AIの誤った答えや他人の作品を、そのまま使ってしまう → 対策：確かめてから使う
リスク③ だまされる：AIで作られた本物そっくりのメール・声・動画にだまされる → 対策：別の手段で確かめる
ここから1つずつ見ていきます。
リスク① 情報が漏れる
入力NGの情報と、それでも安全に使う方法
無料のAIや個人アカウントに、次の情報をそのまま入力してはいけません。ただし「だからAIは使えない」ではありません。
個人情報（氏名・住所・電話・メール）：「Aさん」などに置き換えてから入力する
お客様・取引先の情報（顧客名簿・見積・取引条件）：入力を学習に使わない法人契約のAIで扱う
社外秘・営業秘密（技術情報・図面・社内資料）：データが社外に出ない社内専用のAIで使う
ID・パスワード（ログイン情報・認証コード）：「****」に伏せて、仕組みだけを質問する
未発表の情報（新商品・業績・提携の予定）：学習・履歴オフにし、共有範囲を限定する
人事・評価の情報（人事評価・給与・健康情報）：個人が分からない形に加工してから使う
安全に使う3つの方法：① 置き換える ② 学習しない法人向けAI ③ 社内専用の環境
法人向けプランには、入力した内容をAIの学習に使わない契約や、履歴を残さない・共有範囲を限定する設定があります。どの方法が使えるかは会社のルールで決まるので、許可されたツールと範囲を確認してから使いましょう。
これは入力してOK？ 判断してみよう
一般的なビジネスメールの書き方を聞く → ○ OK：会社や個人の情報を含まない
お客様の名前入りの苦情メールを要約させる → × NG：個人情報。名前を消してから
公開中の自社ホームページの文章を直す → ○ OK：すでに公開されている情報
開発中の新商品の企画書を貼り付ける → × NG：未発表の社外秘情報
設定ファイルをパスワードごと貼り付ける → × NG：パスワード部分は必ず消す
※ 会社が許可した法人向けツールなら使える場合もあります。社内ルールを確認しましょう。エラーの相談でつい設定ファイルを丸ごと貼りがちですが、パスワードが入っていたら必ず消してください。
どうしても使いたい時は「置き換え」る
× そのまま入力（NG）：「株式会社サンプル商事の田中一郎様から、納品が3日遅れたと苦情が届きました。お詫びメールを作って」
○ 置き換えて入力（OK）：「取引先A社の担当者B様から、納品が3日遅れたと苦情が届きました。お詫びメールを作って」
コツ1：人名・社名は「A社」「Bさん」に
コツ2：金額・住所などは、ぼかすか消す
コツ3：本物の名前は、最後に自分で入れる
これだけで、情報漏えいのリスクを大きく減らせます。
使ってよいAIツールのルール
会社が許可したツールだけを使う：許可されていないAIサービスを、自己判断で仕事に使わない（「シャドーAI」と呼ばれます）
個人のアカウントで仕事をしない：無料版や個人契約では、入力内容がAIの学習に使われる設定の場合があります
設定と履歴を確認する：「学習に使わない」設定や履歴の保存範囲をチェック。分からなければ担当者へ
許可ツールの一覧や問い合わせ先は、社内ルールで確認しておきましょう。
リスク① のまとめ：迷ったら、入力しない。
一度AIに入力した情報は、取り消せないことがあります。判断に迷う情報は、AIに渡す前に上司や担当者へ相談しましょう。
リスク② 間違い・権利侵害
AIは、もっともらしく間違える
例：「この制度はいつ始まった？」と聞くと、AIが「2024年4月に始まりました。」と答える。→ 実は日付がまちがい！
このような「それらしい間違い」をハルシネーションと呼びます。特に数字、日付、人や会社の名前、法律や制度の内容は間違いやすいポイントです。
使う前の確認 3ステップ：
1. 数字・日付・名前は、元の資料や公式サイトで確かめる
2. 「どこに書いてある？」と、出典を確認する
3. 社外に出す文書や大事な判断は、人が最後にチェック
他人の権利を傷つけない
入れる時：そっくりを作らせない 他人の文章・イラスト・ロゴを読み込ませて、まねした物を作らない
使う時：似ていないか確認する 生成した文章や画像が、既存の作品や他社の商標に似ていないか確かめる
公開する時：社内の確認を通す ホームページ・広告・SNSに出す前は、決められた確認ルートを通す
権利の判断は専門的です。迷ったら、自分で決めずに法務担当や専門家へ相談しましょう。
リスク③ だまされる
AIで、詐欺は「本物そっくり」に
自然な日本語の詐欺メール：「日本語が変だから詐欺」と見破る方法は、もう通用しない
声・顔のなりすまし：社長や取引先の声・顔をまねて、送金や情報を求めてくる（ディープフェイク）
偽サイト・偽情報：本物そっくりのログイン画面やニュースで、情報を盗む・混乱させる
海外では2024年、ビデオ会議に映った幹部がディープフェイクで、約38億円をだまし取られた例もあります（香港）。
出典：IPA「情報セキュリティ10大脅威 2026」、報道より
撃退法は、これまでと同じ
IPAは「外見では詐欺師を見破れないと心得る」「AI仕込みの攻撃も撃退法は従来通り」と伝えています。大切なのは「確かめ方」です。
一度、立ち止まる：「至急」「内密に」と急かされたら、まず疑う
別の手段で確かめる：届いた番号ではなく、普段使う連絡先に折り返す
リンク・添付を開かない：心当たりがなければ、開かずに報告する
一人で決めない：送金や情報提供は、社内の手順とダブルチェックで
例）社長の声で「今すぐ振り込んで」→ 一度電話を切り、社長の普段の番号にかけ直す
参考：IPA「AI利用者のためのセキュリティ豆知識」（2026年4月）
これからの注意：AIに「作業を任せる」時
メール送信・予約・ファイル操作まで代わりに行う「AIエージェント」「AIブラウザ」が広がっています。便利ですが、AIが間違えると実際に送信や削除が起きてしまいます。
権限は必要な分だけ：使わせるフォルダやアカウントは最小限にする
実行の前に自分で確認：送信・購入・削除の前は、必ず内容を目で見る
「隠れた命令」に注意：Webページやファイルに、AIをだます命令が仕込まれることがある（プロンプトインジェクション）
社内用と社外用を分ける：AIブラウザは、社内システム用とWeb閲覧用で使い分ける
参考：IPA「AI利用者のためのセキュリティ豆知識」（2026年4月）
もしもの時：「やってしまった」時こそ、すぐ報告
社外秘を入力してしまった、怪しいリンクを開いてしまった……そんな時は次の3ステップです。
ステップ1 手を止める：それ以上の入力や操作をしない
ステップ2 すぐ報告する：社内の報告窓口へ、何をしたかを伝える
ステップ3 指示に従う：履歴の削除やパスワード変更などを一緒に行う
隠すほど被害は大きくなります。早い報告は「会社を守る行動」です。
まとめ：AI安全利用「7つの約束」
1. 会社が許可したAIだけを使う
2. 個人情報・社外秘は入力しない
3. 必要なら名前や数字を置き換える
4. AIの答えは、確かめてから使う
5. 他人の作品をまねさせない
6. 急かす連絡は、別の手段で確認する
7. 困った時・やってしまった時は、すぐ報告・相談する
この7つを守れば、AIは安心して使える心強い道具になります。
確認クイズ：OK？ それともNG？
Q1：お客様の名前と電話番号が入った問い合わせ一覧を、無料のAIサービスで集計してもらう
Q2：AIが出してくれた市場規模の数字を、そのまま提案書に載せる
Q3：社長そっくりの声で「至急、この口座に振り込んで」と電話が来た。どうする？
答え合わせ：
Q1 × NG：個人情報です。許可された社内ツールを使うか、名前・番号を消してから
Q2 × NG：AIは数字を間違えることがあります。元の資料や公式データで確かめてから
Q3 すぐ振り込まない：一度電話を切り、社長の普段の番号にかけ直す。そして報告する
AIは、ルールを守れば心強い相棒です。
参考：IPA「情報セキュリティ10大脅威 2026」／IPA「AI利用者のためのセキュリティ豆知識」（2026年4月公開）
コメント