【AIの罠】「AIの言う通りにしたらデータが消えた」急増するトラブルと正しい付き合い方

2026/05/27

こんにちはあいちパソコンクリニックの竹内です。

最近、仕事でもプライベートでも、AI（人工知能）がぐっと身近な存在になりましたよね。一部の専門的なジャンルを除けば、質問すれば何でも答えてくれますし、文章や画像などの成果物も一瞬で作ってくれます。

しかし、便利すぎる反面、「AIの言うことをすべて鵜呑みにしてしまう危険性」が今、大きな問題となっています。

1. ニュースでも話題に！AIの判断が引き起こした大騒動

先日、プロ野球の監督が暴行容疑で逮捕・辞任するというショッキングなニュースがありました。

事の発端は「姉妹喧嘩の仲裁に入った父親（監督）が、姉を投げ飛ばした」という家庭内のトラブル。ここまではよくある（と言っては難ですが）家族の衝突だったかもしれません。しかし、問題はその先です。

投げ飛ばされたお姉さんがAIに相談したところ、児童相談所への連絡を勧められ、そのまま電話をかけたそうです。さらに、連絡を受けた児童相談所が詳しい事情を深く聞き取らないまま警察に通報したため、結果として現職監督の逮捕という大騒動にまで発展してしまいました。

AIは確かに便利なアドバイスをくれますが、「その場の空気」や「家族間の微妙なニュアンス」までは汲み取れません。その結果、事態が予想以上に大きくなってしまうケースがあるのです。

2. パソコンサポートの現場で起きた「AIの言う通りにしてデータ全消滅」

これは、私たちの身近にあるパソコンやスマホの操作でも全く同じことが言えます。

先日、パソコンサポートの現場でこのようなご相談がありました。

「あるアプリの調子が悪かったので、AIに直し方を聞いてその通りに試したら、データがすべて消えてしまった」

ご本人は作業に必死だったため「具体的にどんな操作をしたか」を覚えておらず、こちらでも原因の特定（推測）すらできない状態でした。

もちろん、AIが提示した手順自体は間違っていなかったかもしれませんが、作業中にボタンを押し間違えたなどの「ヒューマンエラー」があった可能性もあります。しかし、「よくわからないけど、AIが言っているから大丈夫だろう」と盲信するあまり、事前のバックアップすら取らずに進めてしまったことが、致命的なデータ紛失に繋がってしまいました。

3. なぜAIの答えで失敗してしまうのか？

AIは万能の神様ではありません。私たちがAIを使うとき、以下の2つのリスクを常に頭に入れておく必要があります。

プロンプト（指示文）が不適切だと、誤った情報を返す確率が高くなる こちらの質問の仕方が大雑把だったり、前提条件が抜けていたりすると、AIは「間違った前提」のまま、もっともらしい嘘（ハルシネーション）を回答してきます。
リスクの警告を無視してしまう AIは「これをするとデータが消える可能性があります」といったリスクを小さく書くことがあります。人間がそこを読み飛ばして実行すると、取り返しのつかないことになります。

「これからはパソコンのサポートもすべてAIがやってくれる」という噂もありますが、現実はまだまだそんなレベルには達していません。