確定申告作業真っ盛りの中、ふと気になった申告書について、ふるさと納税の限度額をAIに聞いてみました。
グーグルのGeminiとマイクロソフトのコパイロット（中身はCHATGPT5.1）で試してみたのですが、残念ながら両方とも正しい限度額よりかなり大きな金額(1.5～1.7倍）の答えでした。
最近のAIさんならこの程度のシミュレーションは簡単にこなすかと思っていたので、かなり意外でした。
与えた条件は一般的な給与所得者のよくあるケースで、所得税や住民税の計算段階までは両方とも概ね合っていたのに、実際の限度額のところでかなりトンチンカンな結論になっておりました。
普遍的な問題や一般的な質問に関してはかなり正確な回答をくれる最近のAIさんですが、毎年のように数字や計算方法等が改正される税法の分野はまだ苦手なのかもしれませんね。
そして今回改めて痛感したのは、生成AIさんは“正々堂々とウソをつく”という問題点です。
（ハルシネーション問題）
完全に間違っているのに、“あなたのふるさと納税限度額は○○円です！”と自信満々に言い切ってしまうんですよね。
サイトの注意書きに“AIは間違うこともあります”と書いてはあるのですが、ほとんどのケースで正しいので、ついつい回答を鵜呑みにして大ケガをしてしまう事があります。
アメリカの弁護士さんがAIから教えて貰った判例を引用したら、そんな判例は実在せず、AIが完全オリジナル判例（？）を生成してしまっていた！、という笑えない事態が多発しているそうです。
当たり前ではありますが、本当に重要な質問事項はきちんと裏取りをしないといけませんね。
