LLM内部に報酬系に類似する反応パターン、予想外の正解で活性化

人間の脳にある「ドーパミンニューロン」に相当するものもLLMの内部に見つかったと報告されています。 これは予想より良い結果が得られると活性化し、期待はずれだと抑制されると考えられており、LLMの中にも、全く同じパターンで反応するニューロンが存在していたそうです。 難しいと思っていた問題が解けた瞬間に活性化し、簡単だと思っていたのに間違えた瞬間に活動が落ち込む様子が観察されています。 また、人間の脳には「報酬系」と呼ばれる神経回路があり、LLMの内部にも、これとそっくりな回路も形成されていることが発見されました。 「報酬系」は何か良いことが起きると快感を感じたり、予想外の出来事に驚いたりする仕組… The post LLM内部に報酬系に類似する反応パターン、予想外の正解で活性化 first appeared on AIDB.