生成AIを活用するにあたり、いくつか知っておくべき用語があります。

プロンプトとは、AIへの指示書のことです。
生成AIは、入力されたプロンプトをもとに回答やコンテンツを生成します。
例えば、「お客様への御礼メールを作成して」と入力すると、生成AIはその指示に沿ったメール文のたたき台を作成します。
また、複雑な内容や条件を反映したい場合は、より具体的に伝えることで、期待に近い回答を得ることができます。
生成された内容が期待と異なる場合は、プロンプトの見直しや追加の指示によって回答の精度を向上させることができます。

オプトアウトとは、入力したデータをAIモデルの学習に利用させない設定です。企業向け生成AIサービスでは、初期から入力データが学習に利用されない設定となっていることが一般的です。一方、個人向けサービスでは初期からオプトアウトの設定になっていないことも多く、機密情報や個人情報を取り扱う際はオプトアウトの設定に注意が必要です。

ハルシネーションとは、生成AIが誤った情報をあたかも正しい内容であるかのように生成してしまう現象です。
例えば、「A株式会社について調べてください」と指示したにもかかわらず、類似名称のまったく別の企業である「株式会社A」の情報を出力してしまう、といったことがあります。
ハルシネーションを完全になくすことは難しいため、生成された内容は必ず信頼できる情報源を確認することが重要です。また、プロンプトの内容を具体的にすることで、発生リスクを低減できます。

シャドーAIとは、企業が導入していない生成AIツールを従業員が業務で利用することを指します。
シャドーAIでは企業のルールが適用されないため、機密情報や個人情報の入力により、情報漏洩やコンプライアンス違反などのリスクが高まります。
シャドーAIは企業が生成AIツールを導入しないことで発生するリスクと言えるため、企業が安全な生成AIツールを正式に導入し、ガイドラインを整備することも検討すると良いでしょう。

AI活用の際に発生するリスクとして代表的なものは以下の通りです。