BLOG

生成AIを社内で使う機会が増える中で、「自社のマニュアルや業務資料をもとに回答してほしい」と感じる方も多いのではないでしょうか。

生成AIをより業務に役立てるためには、社内にある資料やデータをうまく活用することがポイントになります。

一方で、社内データを扱う場合には、情報が外に漏れないか、間違った回答をしてしまわないかといった不安を感じることもあるでしょう。

そのため、安心して活用するためには、自社に合った方法を選び、適切な対策を行うことが大切です。

本記事では、生成AIに社内データを活用させる方法の種類や導入時に気をつけたいポイント、リスクを減らすための対策についても紹介します。

💡生成AIと社内データを安全な環境で活用したい企業様へAthena Platformは、ローカルLLMの活用や入出力の制御、利用履歴の管理などの機能を一つの基盤で提供し、社内データを安全に活用できる生成AI環境の構築を支援します。社内の資料やナレッジを活用しながら、安心して生成AIを業務に取り入れたい方は、ぜひAthena Platformのサービス内容をご覧ください。⇨Athena Platformについて詳しくはこちら

生成AIに社内データを学習させる方法

生成AIを業務で活用するためには、自社のマニュアルや社内資料、FAQなどの社内データをうまく活用することが重要です。

なぜなら、生成AIはそのままでは一般的な知識しか持っておらず、自社特有のルールや手順までは理解していないためです。

そのため、社内データをもとに回答できるようにする仕組みを整えることで、より実用的なAIとして活用できるようになります。

社内データを活用する代表的な方法をわかりやすく解説します。

• プロンプトエンジニアリング
• RAG
• ファインチューニング

プロンプトエンジニアリング

プロンプトエンジニアリングとは、AIへの指示文（プロンプト）を工夫し、社内データをもとに回答させる方法です。

社内の資料やマニュアルの内容をプロンプトに含めることで、その情報を参考にした回答を得ることができます。

たとえば、「以下の社内マニュアルをもとに回答してください」と入力すると、AIはその内容に沿って、自社のルールに合った回答を行います。

この方法のメリットは、仕組みがシンプルで始めやすい点です。

特別なシステム開発は不要で、プロンプトを工夫するだけで社内情報を活用でき、内容を変更すればすぐに反映できるため、最新の情報にも対応しやすいのが特徴です。

一方で、入力できる文字数には制限があるため、多くの資料を扱う用途には向いていません。

また、プロンプトの作り方によって回答の質が変わるため、運用が担当者に依存しやすいという課題もあります。

そのため、小規模な資料の活用や、試験的な導入に適した方法といえます。

RAG

RAGとは、社内データを検索し、その結果をもとにAIが回答する仕組みです。

質問が入力されると、関連する社内資料をデータベースから探し、その内容をもとにAIが回答を作ります。

この仕組みにより、AIは社内のマニュアルやFAQなどを参考にしながら、実際の業務に合った回答を行うことができます。

RAGのメリットは、多くの社内データを効率よく活用できる点です。

必要な情報を自動で検索するため、資料が多い場合でも対応でき、元のデータを更新すれば回答にも反映されるため、最新の情報をもとに回答できるのも特徴です。

さらに、どの資料を参考にしたかを確認できるため、回答の根拠を把握しやすくなります。

一方で、導入には検索システムやデータベースの準備が必要になるため、プロンプトエンジニアリングに比べて手間がかかります。

また、検索がうまく行われない場合、適切な回答が得られないこともあります。

そのため、社内に多くの資料があり、それらを活用して生成AIを本格的に運用したい場合に適した方法といえます。

ファインチューニング

ファインチューニングとは、既存の生成AIにさらに自社のデータを追加で学習させ、自社の業務に合った回答ができるようにする方法です。

社内のFAQや対応履歴などを学習させることで、自社のルールや表現に沿った回答ができるようになります。

この方法のメリットは、自社に最適化された回答を安定して得られる点です。

毎回資料を検索しなくても、自社に合った回答を自然に生成できるため、回答のばらつきを減らすことができ、回答の形式や言い回しを統一しやすいのも特徴です。

一方で、データの準備や学習に手間やコストがかかるという課題があります。

また、内容を変更する場合は再学習が必要になるため、頻繁に更新される情報には向いていません。

RAGが必要なときに資料を検索して回答するのに対し、ファインチューニングは知識をAIに覚えさせる方法です。

そのため、回答の形式や専門性を統一したい場合に適した方法といえます。

ここまで解説しましたプロンプトエンジニアリング、RAG、ファインチューニングの概要やメリット、デメリットについて改めて整理しているので、以下の表もご参考ください。

名称 ｜ 概要 ｜ メリット ｜ デメリット

プロンプトエンジニアリング ｜ プロンプトに社内資料を直接含めて、AIに回答させる方法 ｜ ・導入が簡単・システム開発が不要・柔軟に内容を変更できる ｜ ・文字数制限がある・大量データに不向き・運用が属人化しやすい

RAG ｜ 社内データを検索し、その結果をもとにAIが回答する仕組み ｜ ・大量データを活用できる・最新情報を反映しやすい・回答の根拠を確認できる ｜ ・導入に手間とコストがかかる・検索精度に依存する

ファインチューニング ｜ 自社データを追加学習させ、AIを自社向けに最適化する方法 ｜ ・回答品質が安定する・自社に合った回答が可能・表現を統一できる ｜ ・学習コストがかかる・更新に再学習が必要・頻繁な更新に不向き

生成AIに社内データを学習させるメリット

生成AIに社内データを学習させる主な方法を紹介しましたが、これらの方法を使うことで、生成AIを一般的な知識を持つAIから、自社の業務に役立つAIとして活用できるようになります。

では、実際に社内データを学習させることで、どのようなメリットがあるのでしょうか。

特に重要なメリットである自社のノウハウを反映した回答ができることと誤った回答のリスクを減らせることの2つについて、わかりやすく解説します。

自社のノウハウやナレッジを反映した回答の出力

生成AIは、もともとインターネット上の情報など、一般公開されているデータを中心に学習しています。

そのため、そのまま使うと一般的には正しいけれど、自社には当てはまらない回答をすることがあり、たとえば、社内独自の業務フローや、会社ごとに異なるルール、商品仕様などについては、正しく答えることができません。

そこで、社内マニュアルやFAQ、業務手順書などを学習させることで、自社のルールやノウハウに沿った回答ができるようになります。

たとえば、「この製品の社内での対応手順は？」といった質問にも、自社の資料をもとにした具体的な回答が可能になり、社員がマニュアルを探す手間を減らせるだけでなく、経験の浅い社員でも適切な判断がしやすくなります。

また、ベテラン社員が持っている知識や過去の対応事例などもAIで活用できるようになるため、ノウハウの共有や属人化の解決にもつながります。

誤った回答が生成されるリスクを軽減

生成AIには、ハルシネーションと呼ばれる問題があります。

これは、AIがもっともらしい内容を生成するものの、実際には誤った情報や根拠のない内容を答えてしまう現象です。

生成AIはそれらしい文章を作ることが得意なため、間違っていても自然な文章として出力してしまうことがあります。

そこで、社内データを学習させることで、このリスクを大きく減らすことができます。

AIが社内の正しいマニュアルや資料をもとに回答するようになるため、推測ではなく、根拠のある回答を生成しやすくなります。

特にRAGのように、実際の資料を参照しながら回答する仕組みを使えば、事実に基づいた回答を行いやすくなります。

また、回答の基準が社内資料に統一されるため、業務の品質を安定させることにもつながります。

ただし、社内データ自体が古かったり誤っていた場合は、その内容をもとに回答してしまうため、データの管理や更新も重要になります。

生成AIによる社内データ活用事例

生成AIに社内データを学習させることで、自社のノウハウを反映した回答が可能になり、誤った回答のリスクも軽減できることを解説しました。

こうしたメリットは、すでに多くの企業で実際の業務改善につながっています。

特に、マニュアルやFAQ、業務手順書などの社内ナレッジを活用しているため、ここでは、具体的な企業事例をもとに、生成AIがどのように社内データを活用し、仕事を効率よく進めたり、対応の質を高めたりするのに役立っているのか、具体的な企業の活用事例をご紹介します。

• 朝日生命
• JR東日本
• あおぞら銀行
• JR西日本

朝日生命

項目 ｜ 内容

背景 ｜ 社内資料が多く、必要な情報を探すのに時間がかかる

手段 ｜ RAG

ソリューション ｜ 質問するとAIが社内資料を探して回答する仕組みを導入

朝日生命では、社内にあるマニュアルや業務資料に対してRAG技術を使い、AIが社内の文書の中から質問に関連する情報を探し、その内容をもとに回答を生成しています。

保険業務では、商品内容や契約条件、手続きの方法など、多くの情報を正しく確認する必要があります。

朝日生命では、これらに関する社内文書が3,500件以上あり、必要な情報を探すのに時間がかかることが課題となっていました。

また、分からないことがある場合には、担当部署やベテラン社員に確認する必要があり、対応に手間がかかることもありました。

RAGを活用することで、社員がAIに質問するだけで、関連する資料をもとにした回答を確認できるようになり、情報を探す時間を減らせることが期待されています。

経験の浅い社員でも正しい情報を参考にしながら対応しやすくなり、社内の知識を共有しやすくなることもメリットです。

参考：株式会社PKSHA Technology「朝日生命が「PKSHA AI ヘルプデスク」を導入、生成AIによる社内文書検索・回答生成を検証開始」

JR東日本

項目 ｜ 内容

背景 ｜ 社内文書から必要な情報を探すのに時間がかかる

手段 ｜ RAG

ソリューション ｜ AIチャットが社内文書をもとに回答する仕組みを導入

JR東日本では、社内の規定や業務マニュアルなどの文書をより活用しやすくするために、技術を使った生成AIシステムの開発と導入を進めています。

このシステムは、登録された社内文書の内容をもとに、社員の質問に対してAIが適切な回答を示すことができる仕組みです。

これまで、社員が必要な情報を確認する際には、多くの社内文書の中から該当する内容を探す必要があり、時間がかかることがありました。

そこでJR東日本では、生成AIを活用することで、社員が自然な言葉で質問するだけで、関連する文書の内容をもとに回答を得られるようにする取り組みを進めています。

社内文書をより効率的に検索できるようになり、社員が必要な情報をスムーズに確認できる環境づくりにつながることが期待されています。

参考：東日本旅客鉄道株式会「生成 AI チャットの全社員展開及び生成 AI の内製開発について」

あおぞら銀行

項目 ｜ 内容

背景 ｜ 行内ルールや用語を正しく確認できる仕組みが必要

手段 ｜ ファインチューニング＋RAG

ソリューション ｜ 行内データで学習した専用LLMを開発

あおぞら銀行では、社内の規程や業務に関する資料をより活用しやすくするために、行内のデータをもとに学習したあおぞらLLMというAIを開発しており、社内の業務に関する質問に対して適切な回答ができるようにすることを目指しています。

銀行の業務では、さまざまなルールや手順に従って正確に対応することが求められるため、必要な情報をすぐに確認できることがとても重要です。

そこで、あおぞら銀行では、社内の文書をもとにAIが質問に答えることができるようにする技術を活用し、業務を支援する仕組みを開発しています。

このAIは、行内で使われる用語や業務の流れを理解し、質問の内容に合った回答を示せるように改良が進められています。

実際の業務を想定した確認では、AIの回答の正確さがこれまでより大きく向上していることが確認されています。

参考：株式会社neoAI「あおぞら銀行 x neoAI オンプレミス型次世代AI基盤構築に向けて、 金融・行内特化LLMを開発　プロジェクトのベンチマークでの応答精度が大幅に向上」

JR西日本

項目 ｜ 内容

背景 ｜ 通話内容の要約作成に時間がかかる

手段 ｜ プロンプトエンジニアリング

ソリューション ｜ 通話内容をAIが自動で要約する仕組みを導入

JR西日本では、カスタマーセンター業務の効率化と業務負担の軽減を目的として、生成AIの導入を進めています。

カスタマーセンターでは、毎月多くの電話による問い合わせを受け付けており、オペレーターは対応後に通話内容を文章としてまとめる作業を行っていました。

しかし、この要約作業には時間と手間がかかることに加え、人によってまとめ方に違いが出るという課題がありました。

そこで、生成AIを活用した要約システムを導入し、通話内容を文字にしたデータをもとに、自動で要約を作成できるようにしました。

オペレーターは、通話内容のテキストを入力するだけで要約結果を確認できるため、要約作業にかかる時間を減らすことができます。

実証実験では、この仕組みを使うことで、業務の後処理時間が短縮されるなど、効率化の効果が確認されました。また、AIが要約を作成することで、要約内容のばらつきを減らし、情報を共有しやすくなることも期待されています。

参考：株式会社JR西日本カスタマーリレーションズ「JR西日本カスタマーリレーションズとLLM DXパートナー ELYZA、通話内容要約業務に言語生成AIを導入」

生成AIに社内データを学習させる際の注意点

企業の事例をもとに、生成AIが社内データを活用して業務効率化やナレッジ共有に役立っていることを紹介しました。

このように、生成AIは社内業務を大きく変える可能性を持っていますが、その一方で、導入や運用の方法を誤ると、業務品質の低下や情報漏洩などのリスクにつながる可能性もあります。

生成AIは、与えられたデータをもとに回答を作る仕組みであるため、どのようなデータを使うか、どのように管理するかが非常に重要です。

ここでは、社内データを生成AIに活用させる際に、特に注意すべきポイントについて解説します。

• 学習データへの不適切なデータの混入
• 情報漏洩のリスク
• ハルシネーションのリスク

学習データへの不適切なデータの混入

生成AIの回答の質は、もとになるデータの内容に大きく左右されるため、不正確な情報や偏った内容が含まれていると、AIも同じように偏った回答をしてしまう可能性があります。

実際に、Appleが提供していたクレジットカードApple Cardでは、AIによる与信判断において、同じ条件でも男性の方が女性より高い利用限度額が設定されるケースが報告され、問題になりました。

この原因の一つとして、過去のデータに含まれていた偏りが影響した可能性が指摘されています。

社内データでも同様に、古い情報や個人の判断に基づく内容、不完全な資料などが含まれていると、AIが誤った基準で回答してしまう可能性があります。

そのため、学習に使用するデータは事前に確認し、正確で信頼できるものだけを使うことが重要です。

AIの精度を高めるためには、データの量だけでなく、質の管理も欠かせません。

参考：Reuters「Apple co-founder says Apple Card algorithm gave wife lower credit limit」

情報漏洩のリスク

生成AIに社内データを活用させる際には、情報漏洩のリスクにも注意が必要です。

特に、顧客情報や契約情報、技術資料などの機密性の高いデータを扱う場合、不適切な設定や運用によって、意図しない形で情報が外部に漏れてしまう可能性があります。

たとえば、外部の生成AIサービスに社内情報をそのまま入力した場合、その内容がAIの学習に利用されたり、他のユーザーへの回答に影響したりする可能性があります。

また、アクセス権限の管理が不十分だと、本来閲覧できない社員が機密情報を含む回答を取得してしまうリスクもあります。

こうしたリスクを防ぐためには、社内専用の環境でAIを利用することや、アクセス権限を適切に設定することが重要です。

また、どのデータをAIに利用させるのかを明確に管理し、機密情報の取り扱いルールを整備することも必要です。

ハルシネーションのリスク

生成AIは、文章を理解して考えているように見えますが、実際には次に続く言葉を確率的に予測する仕組みによって回答を作っています。

回答に必要な情報が十分に与えられていない場合でも、学習したパターンをもとに、もっともらしい言葉を選びながら嘘の文章を生成してしまうことがあります。

社内データを活用している場合でも、このリスクが完全になくなるわけではありません。

たとえば、関連する資料が見つからなかった場合や、質問の内容が曖昧だった場合、AIが推測で回答を生成してしまうことがあります。

その結果、実際には存在しない手順やルールを提示してしまう可能性があります。

こうした問題を防ぐためには、AIの回答をそのまま業務判断に使うのではなく、最終的には人が確認する仕組みを整えることが重要です。

また、不明な場合は回答しないといったルールをAIに設定することも必要です。

生成AIの社内データ利用におけるリスクを減らす対策例

生成AIに社内データを活用する際に、不適切なデータの混入や情報漏洩、ハルシネーションなどのリスクがあることを解説しました。

生成AIは非常に便利な一方で、使い方や運用方法を誤ると、企業にとって大きな問題につながる可能性がありますが、適切な対策をすることで、リスクを大きく減らすことができます。

重要なのは、安全に使える環境を整えること、AIの入出力を適切に制御すること、AIの回答を人が確認することの3つです。

• セキュアな環境で生成AIを利用する
• 入出力に制限を設ける
• 出力のファクトチェックを必ず実施する

セキュアな環境で生成AIを利用する

生成AIを社内で活用するためには、情報を安全に扱える環境を整えることが大切です。

特に、顧客情報や社内の技術資料など、外部に漏れてはいけない大切な情報を扱う場合には注意が必要です。

一般的なクラウドサービスにそのまま情報を入力すると、社外に送信されてしまう可能性があり、意図せず情報が外部に送られてしまったり、誰でもアクセスできる状態になってしまうと、情報漏えいのリスクが高まります。

こうしたリスクを減らすためには、社内のネットワーク内や専用の環境で生成AIを利用する方法が有効です。

たとえば、オンプレミス環境に生成AIを構築すれば、社内の情報を外部に出さずにAIを活用することができます。

株式会社Athena Technologyでは、このような安全性を重視した生成AI活用を支援するために、オンプレミス環境での運用に対応したNVIDIA DGX Sparkの導入支援サービスを提供しています。

本サービスでは、 DGX Sparkを用いた環境構築、LLMの導入、業務で使えるAIへの調整までを一貫して支援し、社内ネットワーク内で安全に生成AIを活用できる環境を構築するものです。

セキュアな環境で生成AIの活用を検討していて、もっと詳しく知りたい方は下記のお問い合わせURLからぜひ連絡してみてください。

https://athenatech.jp/contact

入出力に制限を設ける

生成AIを安全に利用するためには、AIへの入力内容やAIからの出力内容を適切に制御することも重要です。

たとえば、社員が誤って機密情報を入力してしまったり、AIが機密情報を含む回答を出力してしまうと、情報漏洩につながる可能性があります。

こうしたリスクを防ぐためには、特定のキーワードや個人情報を検知し、入力や出力を制限する仕組みを導入することが有効です。

また、利用できるデータの範囲をあらかじめ限定することで、不要な情報へのアクセスを防ぐこともできます。

Athena社が提供するAthena Firewallでは、生成AIへの入力や出力を監視し、機密情報や不適切な内容を自動で検知・制御することが可能ですので、ぜひサービス内容を確認してみてください。

出力のファクトチェックを必ず実施する

生成AIの回答は、自然でわかりやすく書かれているため、正しい内容のように見えることがあります。

しかし、実際には誤った情報や古い情報が含まれている場合もあります。

そのため、AIの回答をそのまま使用するのではなく、人が内容を確認するファクトチェックが大切です。

特に、顧客への対応や重要な判断に関わる場面では、元の資料や公式の情報と見比べて、内容が正しいかどうかを確認する必要があります。

このように確認の手順を取り入れることで、誤った情報によるトラブルを防ぐことができます。

また、AIの回答とあわせて参考にした資料を表示する仕組みを使うことで、回答の元となった情報を確認しやすくなります。

生成AIの便利さを活かしながら、安全に活用するためには、人による確認と仕組みの両方を組み合わせて運用することが重要です。

セキュアな生成AIの活用の実現には「Athena Platform」

これまで、生成AIを安全に活用する具体的な方法を説明しましたが、便利さと安全性の両方を大切にしながら使える仕組みを整えることが重要です。

そのためには、生成AIを導入するだけでなく、安定した環境で社内のデータを適切に管理し、利用状況を管理できる仕組みを整えることが求められます。

そのための基盤の1つとしてAthena Platformがあります。

Athena Platformは、企業が生成AIを安心して使えるように、安全に守られていることや利用状況をきちんと管理できることを重視して作られています。

Athena Platformは、社内のネットワーク内や専用の環境で生成AIを利用できる仕組みに対応しています。

社内の機密情報を外部に送信することなく、安全に生成AIを活用することができます。

また、利用できる人やアクセスできる情報を制限することもできるため、大切な情報を適切に管理することが可能です。

オンプレミス環境や閉じたネットワーク環境でも利用できるため、高い安全性が求められる企業でも安心して導入できます。

Athena Platformでは、誰が生成AIを利用したか、どのような内容を入力し、どのような回答が出力されたかを確認することができます。

AIの利用状況を把握しやすくなり、問題が発生した場合でも原因を確認することができます。

また、AIがどのような処理を行ったのかを記録として残せるため、安心して生成AIを業務に活用することができます。

このようにAthena Platformは、生成AIの便利さを活かしながら、安全に管理し、安心して活用できる環境づくりを支援していますので、これから社内データの活用も見据えた本格的な生成AIの導入を考えている方はぜひサービスサイトをご覧ください。

まとめ

生成AIを活用することで、社内の資料や知識を、必要なときにすぐ見つけて活用できるようになります。

これまで時間をかけて資料を探していた業務も、AIを活用することで効率よく進められるようになります。

ただし、その効果を十分に引き出すためには、AIを導入するだけでなく、正しいデータを使うことや、安全に利用できる環境を整えることが大切です。

使い方や管理の方法をしっかり整えることで、生成AIは日々の業務を支えるツールになります。

まずは自社の業務に合った方法から取り入れ、運用しながら改善を重ねていくことで、無理なく生成AIを業務に定着していきましょう。