AIの基礎
セクション 9 / 40
AIを活用する時の注意事項
便利だけど万能ではない。事故を避ける常識
AIは強力ですが万能ではありません。トラブルを避けるための“常識”をおさえましょう。
① ハルシネーション(もっともらしい嘘)
AIは事実でないことを、自信たっぷりに言うことがあります。これをハルシネーション(hallucination=幻覚)と呼びます。LLMは“事実を調べる”のではなく“それっぽい続き”を作るため起きます。
数字・固有名詞・法律・最新情報は要・裏取り
重要な事実は鵜呑みにせず、必ずファクトチェック(裏取り)を。大事な判断をAIだけで決めないこと。
② 最新情報・専門領域に弱いことがある
モデルには学習データの“締め切り(カットオフ)”があり、それ以降の出来事は知りません。法律・医療・税務などは、AIだけに頼らず専門家や公式情報を確認しましょう。
③ 著作権・剽窃
生成物が既存作品に似てしまうことがあります。商用利用の可否は各サービスの利用規約と、生成物自体の権利に注意(→「生成メディア」のセクションで詳しく)。
④ 個人情報・機密情報
AIに入れた情報は、保存・学習に使われる場合があります。他人の個人情報・社外秘・パスワードは入力しないのが鉄則です(→「セキュリティ」のセクション)。
⑤ 最後の責任は人間
AIの出力をそのまま使って起きた問題の責任は、使った人にあります。AIは“優秀な下書き係/相棒”で、最終決裁は人間です。
合言葉は「信頼するな、検証せよ」
Trust, but verify。AIを少し疑いながら使うくらいが、ちょうどよいバランスです。
理解度チェック
すべて正解すると、次のセクションが開きます(はい・いいえ)。
Q1.AIが事実でないことを、自信たっぷりに答えてしまう現象を「ハルシネーション」という。
Q2.AIの回答は常に最新で正確なので、重要な数字や法律もそのまま信じてよい。
Q3.AIの出力をそのまま使って問題が起きても、責任は人間ではなくAI側にある。
すべての問いに「はい・いいえ」で答えると押せます