Skip to content

Test blind LLM channel selection - #22

Merged
lipluscodex merged 3 commits into
mainfrom
21-test-blind-llm-channel-selection
Aug 2, 2026
Merged

Test blind LLM channel selection#22
lipluscodex merged 3 commits into
mainfrom
21-test-blind-llm-channel-selection

Conversation

@lipluscodex

@lipluscodex lipluscodex commented Aug 2, 2026

Copy link
Copy Markdown
Member

Closes #21
凍結した二経路packet、blind judge response検証、3者majority集約、path射影、conditional holdout停止規則を追加します。
Developmentは3件目の必須case欠落をcapture段階で拒否し、retryや集約を行わずholdoutを未開封のまま停止した結果を保存します。
初回Linux CIで判明したCRLF/LF checkout差だけをraw-first alternate hashで許可し、観測artifactを不変に維持しました。全88 testがlocalで成功しています。

blind judge向けpacket、response検証、3者majority集約、path射影、v1 byte hash監査、conditional holdout停止規則を追加する。実LLM応答と観測artifactは含めず、既存APIとdefaultを変更しない。
freeze後のdevelopment packetと3件のjudge artifactを不変のまま保存する。3件目の必須case欠落によりcapture段階で停止し、retry、集約、accuracy計算、holdout開封を行わなかった結果を記録する。
@lipluscodex lipluscodex linked an issue Aug 2, 2026 that may be closed by this pull request
@lipluscodex lipluscodex self-assigned this Aug 2, 2026
初回Linux CIで判明したCRLF/LF checkout差だけをraw-first hash監査のalternate verificationとして許可する。本文差分、mixed newline、bare CRは拒否し、manifest、prompt、観測artifact、result、gate、stop ruleは変更しない。

@lipluscodex lipluscodex left a comment

Copy link
Copy Markdown
Member Author

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Lin: 親エージェントの構造レビューを完了しました。

今回の判断

ブロッカーなし。blind LLM selection v2の陰性結果と停止規則を保存するPRとして承認します。judge選択精度の支持やsearch_channels()のvalidated判定は行いません。

今回確認した事項

  • Issue #21、PR diff、3 commits、CIを独立照合
  • result-free freeze 062c1314c1b63ee34b8963b980b2c51eb2c3e9a0にpacket、judge response、development / holdout resultが存在しない
  • freeze後にdevelopment packetを一度生成し、fork_turns=noneのfresh 3 judgesへ同一packetを独立提示
  • judge 1 / 2はcapture validationを通過し、judge 3は必須4 case中3 caseだけを返したためJudge must answer every packet case exactly onceで拒否
  • retry、replacement judge、majority aggregation、accuracy / MRR計算を行っていない
  • development resultは未評価gateを0値と誤解させず、not_evaluated_gatesmetrics_status=not_computed_invalid_judge_responseで分離
  • holdout packet生成はstop ruleでexit 1となり、holdout packet / judge / resultは存在しない
  • manifest、prompt、packet、全judge artifact、development resultのSHA-256を再照合し、報告値と一致
  • 初回Linux CIのCRLF/LF差に対するpost-freeze correctionはv1 text hash監査だけに限定され、raw hashを優先し、完全なLF/CRLF相互変換だけを許可
  • portability correction後も観測artifact hashは不変で、本文差、mixed newline、bare CRを拒否する回帰testがある
  • 88 tests、eval、CI、diff checkが成功し、worktree clean、remote SHA一致

観測結果

3人目のresponse completeness gateが不合格になったため、v2はcapture段階で停止しました。LLMの選択accuracy、channel accuracy、path accuracyを本実験の結果として主張する材料はありません。holdoutは未開封です。

後続課題

次版では複数case一括responseを1 case 1 invocationへ変更し、欠落を構造的に防ぐのが妥当です。また、同じ正解nodeが両laneに存在する場合にgold channelを一意固定すると、LLMへ委ねた選択をoracle classifierへ戻します。node evidence correctness、trace membership、relation intentを分離した新しい事前freeze評価が必要です。

今回固定する境界

既存search() / search_channels()、default、feedback規則は変更しません。v2はinvalid responseを再試行せず陰性結果として保存し、holdout未開封、validated表記なしを維持します。

@lipluscodex
lipluscodex merged commit 8af5bd2 into main Aug 2, 2026
1 check passed
@lipluscodex
lipluscodex deleted the 21-test-blind-llm-channel-selection branch August 2, 2026 04:00
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

eval: test blind LLM selection over independent channels

1 participant