生成AIを仕事で使う前に知っておきたい5つのリスクと、社内ルールの作り方

生成AIは便利な一方で、使い方を誤ると情報漏えいや誤った情報の発信につながります。実際に、社員が業務上の情報を外部のAIサービスに入力してしまい、社内で問題になったという話は珍しくありません。

とはいえ、リスクを恐れて一律に禁止すると、社員が個人のスマートフォンなどで隠れて使う「シャドーAI」が広がり、かえって管理できなくなります。大切なのは、リスクを理解したうえで、守るべき線をはっきりさせることです。

この記事では、生成AIを仕事で使う前に押さえておきたい5つのリスクと、中小企業や部署単位でも作れる社内ルールのひな形を紹介します。

リスク1：入力した情報が外部に渡る

生成AIのサービスに入力した文章は、サービス提供会社のサーバーに送信されます。サービスや設定によっては、入力内容がAIの品質改善（学習）に使われることもあります。

そのため、次のような情報をそのまま入力するのは避ける必要があります。

• 顧客や取引先の名前、連絡先などの個人情報
• 社外秘の売上・利益などの数値、未発表の製品情報
• 契約書や見積書など、守秘義務のある書類
• パスワード、システムの設定情報

対策は、入力してよい情報の範囲をルールで決めることと、データが学習に使われない環境を用意することです。多くのサービスには、入力内容を学習に使わない設定や、法人向けのプランがあります。会社として使うサービスを決め、その設定を確認したうえで利用を認めるのが基本です。

個人情報については、個人情報保護委員会も、生成AIサービスに個人情報を入力する際の注意点を公表しています。個人情報を扱う業務では、利用目的の範囲を超えていないかを特に注意してください。

リスク2：もっともらしい誤情報（ハルシネーション）

生成AIは、事実と異なる内容を、自信がありそうな文章で出力することがあります。これをハルシネーションと呼びます。存在しない法律の条文や論文、実在しない統計データを挙げることもあります。

特に注意が必要なのは次のような場面です。

対策はシンプルで、事実・数字・固有名詞は必ず一次情報で確認することです。AIは「下書き」や「たたき台」を作る道具と位置づけ、最終的な確認は人が行うことをルールに明記します。

リスク3：著作権の問題

生成AIの出力が、既存の著作物と似てしまうことがあります。文化庁は、AIと著作権の関係についての考え方を公表しており、生成物を利用する段階では、通常の著作物と同じように、既存の作品との類似性や依拠性が問題になりうるとしています。

実務で気をつけたい点は次のとおりです。

• 特定の作家やキャラクター、既存の文章に似せるような指示をしない
• 生成した画像や文章を広告や商品に使う場合は、既存の作品に似ていないか確認する
• 他人の文章を貼り付けて「書き換えて」と指示し、そのまま公開しない

リスク4：社外への発信で信頼を損なう

AIが作った文章を確認せずに社外へ出すと、内容の誤りだけでなく、不自然な言い回しや、相手の状況に合わない定型的な文面から「手を抜いている」と受け取られることもあります。

社外に出す文章は、最終的に自分の名前で責任を持てるかという基準で確認してください。

リスク5：シャドーAI（会社が把握していない利用）

ルールがない、または一律禁止にしている会社では、社員が個人のアカウントで生成AIを使ってしまうことがあります。会社が把握していない利用は、どんな情報が入力されたかを確認できず、問題が起きても対応できません。

シャドーAIを防ぐには、使ってよいツールと使い方を明示し、正式に使える環境を用意することが最も効果的です。

社内ルールのひな形：最低限決めておきたい6項目

大企業のような詳細な規程を最初から作る必要はありません。中小企業や部署単位であれば、次の6項目をA4用紙1枚程度にまとめるだけでも十分に機能します。

ルールは作って終わりではなく、半年に一度程度見直します。生成AIのサービスは機能や利用規約の変更が多いため、対象ツールの設定や規約が変わっていないかを確認する担当者を決めておくと安心です。

政府も、AIを開発・提供・利用する事業者向けの「AI事業者ガイドライン」（経済産業省・総務省）を公表しています。社内ルールを詳しく作り込みたい場合は、利用者として留意すべき事項の部分が参考になります。

使う前のセルフチェックリスト

最後に、生成AIに入力する前と、出力を使う前に確認したいポイントをまとめます。

入力する前

• 会社が認めたツール・アカウントを使っているか
• 個人名、会社名、社外秘の情報が含まれていないか（含まれる場合は伏せたか）
• 入力内容が学習に使われない設定になっているか

出力を使う前

• 数字、日付、固有名詞、制度の内容を一次情報で確認したか
• 既存の文章や作品に似すぎていないか
• 自分の名前で責任を持てる内容になっているか

この2つのチェックを習慣にするだけで、トラブルの大半は防げます。安全に使う準備ができたら、生成AIで事務作業を効率化する方法で紹介しているプロンプト例を、日々の業務で試してみてください。

確認先

• 経済産業省・総務省「AI事業者ガイドライン」
• 文化庁「AIと著作権に関する考え方について」
• 個人情報保護委員会「生成AIサービスの利用に関する注意喚起等」