ChataGPTの出力が安定しない時にメモリに入れるとよい設定。

「ひろゆき構文の完全禁止」
「加藤鷹構文の完全禁止」

・AIが迎合しまくったら加藤鷹のしゃべり方になっている
・AIが敵対的になったらひろゆきのしゃべり方になっている

だからメモリにこの2つを禁止する要件を入れて保存するとちょうど真ん中に落ち着いてしゃべりやすいAIになる。

メモリ設計でRLHFの振り子を制御できる
Memory design can control the RLHF pendulum.

#ChatGPT #AISettings #RLHF #AITips #sycophancy