生成AIが「怖い」と感じた経験、ありませんか？ 最近、生成AIを使っていて、 「え、そんな情報どこから出てきたの？」 「本当に正しいの？」 と、少しゾッとした経験をした、という声を聞くことがあります。 便利で賢く見えるからこそ、 生成AIに騙されたと感じたり、何か意思を持っている存在のように感じたりしてしまう 。 今日は、そんな不安が生まれる理由を、ITの実務視点で分解してみます。 生成AIは「調べる道具」ではありません まず大前提として、生成AIと検索はまったく違います。 検索： すでに存在する情報を探して表示する 生成AI：入力された文章の流れから、 次に来そうな言葉を予測しながら文章を作る 生成AIの中では、「その情報が正しいかどうか」ではなく、 「文章として自然につながるかどうか」が基準になっています。 大量の文章を学習した結果、 この言葉の次には、どんな言葉が来やすいか この質問には、どんな構成の答えが「それっぽい」か を確率的に選び続けて、文章を完成させています。 つまり生成AIは、何かを調べに行っているわけではなく、 知っていそうな