AIの基礎

セクション 9 / 40

AIを活用する時の注意事項

便利だけど万能ではない。事故を避ける常識

AIは強力ですが万能ではありません。トラブルを避けるための“常識”をおさえましょう。

① ハルシネーション(もっともらしい嘘)

AIは事実でないことを、自信たっぷりに言うことがあります。これをハルシネーション(hallucination=幻覚)と呼びます。LLMは“事実を調べる”のではなく“それっぽい続き”を作るため起きます。

数字・固有名詞・法律・最新情報は要・裏取り

重要な事実は鵜呑みにせず、必ずファクトチェック(裏取り)を。大事な判断をAIだけで決めないこと。

② 最新情報・専門領域に弱いことがある

モデルには学習データの“締め切り(カットオフ)”があり、それ以降の出来事は知りません。法律・医療・税務などは、AIだけに頼らず専門家や公式情報を確認しましょう。

③ 著作権・剽窃

生成物が既存作品に似てしまうことがあります。商用利用の可否は各サービスの利用規約と、生成物自体の権利に注意(→「生成メディア」のセクションで詳しく)。

④ 個人情報・機密情報

AIに入れた情報は、保存・学習に使われる場合があります。他人の個人情報・社外秘・パスワードは入力しないのが鉄則です(→「セキュリティ」のセクション)。

⑤ 最後の責任は人間

AIの出力をそのまま使って起きた問題の責任は、使った人にあります。AIは“優秀な下書き係/相棒”で、最終決裁は人間です。

合言葉は「信頼するな、検証せよ」

Trust, but verify。AIを少し疑いながら使うくらいが、ちょうどよいバランスです。

理解度チェック

すべて正解すると、次のセクションが開きます(はい・いいえ)。

  1. Q1.AIが事実でないことを、自信たっぷりに答えてしまう現象を「ハルシネーション」という。

  2. Q2.AIの回答は常に最新で正確なので、重要な数字や法律もそのまま信じてよい。

  3. Q3.AIの出力をそのまま使って問題が起きても、責任は人間ではなくAI側にある。

すべての問いに「はい・いいえ」で答えると押せます