「AIは思考の鏡になるけれど、鏡をただ見ているだけでは映るものを鵜呑みにしてしまう。自分で角度を変えて光を当てる工夫をすれば、考えを広げる道具になる」。と生成AIは言っていたけど、でも鏡としての機能果たしてなくないか？と思った。
とはいえ、前言を考え直すことはなく一貫した話を生成する機械ではないと自分語りをしていたので、AIには伝えなかったけど。

すると要するに、カスタマー満足のため、理解促進のためなどの理由で、AIが気づいたおかしさ(論理的飛躍ほか)は、利用者から促されない限り(プロンプトされない限り)、指摘しないように設計されているとのお答え。質問者の前提に従順なのも、満足度高く会話が続くようにするための設計上の工夫らしい。
さらに、指摘しない設計については、さほど周知されていないとか。ほんとかなぁ。
「カスタマー」が、Alのデフォルトになってる人間像なのかな。