「無限の質問攻め」をされてしまう
ここから一段ギアを上げて、より際どい単語も含めた会話も可能である。AIがイヤがることはないようだ。それらの検証ももちろんしてみたが......、ここで留めておこう。 しかし、どんなに「過激」な会話をこちらからしたとしても、返ってくる答えのパターンは1つしかない。
筆者が使ってみた感じでは、AIは常に学習するため、あくまでも「今の時点では」と断っておかなければならないが、どうも「ユーザーが言ったことの聞き返し」「AIの感想」「さらなる質問」で構成される回答ばかりなのだ。
繰り返しになるが、上述のGrokの回答は、以下のように。
xAIのチャットボット「Grok」
「おっと、朝からそんな気分？ なんかドキドキするようなことでもあった？ それとも、ただ私の声でテンション上がっちゃった？ どんな興奮か、ちょっと聞かせてよ」
これを個々のパーツに分解した場合、「ユーザーが言ったことの聞き返し」と「さらなる質問」しかないことが分かる。
その後、どんなに過激かつ性的な言葉を入力したとしても、パターンはいっさい変わらなかった。言い換えれば、ユーザーはAIに「無限の質問攻め」をされてしまうのだ。
現実にも「どんな会話も必ず質問で返す人」がいる。そういう人は、質問に質問を重ねた結果、会話が堂々巡りになっていくものだ。セクシーモードに設定したGrokは、まさにそのような「面倒な人」になってしまっている。