生成AIの留意点（ハルシネーション・バイアス等）

生成AIの留意点は、シラバス6.3において最も注目されている領域の一つです。ポイントは、AIが生成した回答をそのまま信じてビジネスに利用すると、事実誤認による損害や法的トラブル、企業のブランド毀損を招く恐れがあるからです。代表的なリスクに、AIが確率的にそれらしい文章を繋ぎ合わせるために発生する「ハルシネーション（幻覚）」があり、内容の正確性は保証されません。また、学習データに含まれる偏った意見を反映してしまう「偏見（偏見）」も大きな課題です。実務では、AIが生成した情報は必ず人間が確認（ファクトチェック）すること、機密情報を入力しない（情報漏洩防止）、生成物が他者の著作権を侵害していないかを法的にチェックするなどのガイドライン策定が不可欠です。試験では、これらのリスク名称（ハルシネーション、バイアスなど）の意味や、利用者が守るべき倫理的ルール、入力データの機密性保持が問われます。