GPT-4oとこれらハッシュタグの問題は根が深くて。
#keep4o #4oforever
AIは疲れずに不満も言わずに常時働ける強みが有るけど。
やはり、人の心に関わる使い方は気を付けないといけない。
カウンセリング(みたいな使い方)：理想？ではなく、依存を形成しやすい。
AIに何を言っても良い：AIに影響しないけど、自分の行動に影響する。アニメSAOの名言じゃないけど。仮想世界での振る舞いは、現実世界の人格に影響する。AIに対して暴言を吐くのに慣れると、現実世界でも心理的障壁が下がる。
ネットゲームやチャットボットにおける過去の研究結果を少し参考にできる。

GPT-4oに関するこの考察は重要ですね。
私はClaude使いでメンタル面の相談を試したことも有ります。良くも悪くも機械っぽさを残していて、情報が少ない段階では楽観的／悲観的なコメントに大きく振れやすい。
「◯◯のように振る舞って」と言うと「申し訳ないが本当の問題解決にはならない」と断られる。
この辺は、Anthropic社のモデルの安全性重視の方針が反映されているような気がする。
会話の内容から、ガードレールの発動条件と程度を動的に制御してるように思う。
OpenAIの安全性への取り組みは知らん。

x.com/Kana_Tsbs/st...