Test blind LLM channel selection - #22
Merged
Merged
Conversation
blind judge向けpacket、response検証、3者majority集約、path射影、v1 byte hash監査、conditional holdout停止規則を追加する。実LLM応答と観測artifactは含めず、既存APIとdefaultを変更しない。
freeze後のdevelopment packetと3件のjudge artifactを不変のまま保存する。3件目の必須case欠落によりcapture段階で停止し、retry、集約、accuracy計算、holdout開封を行わなかった結果を記録する。
初回Linux CIで判明したCRLF/LF checkout差だけをraw-first hash監査のalternate verificationとして許可する。本文差分、mixed newline、bare CRは拒否し、manifest、prompt、観測artifact、result、gate、stop ruleは変更しない。
lipluscodex
commented
Aug 2, 2026
lipluscodex
left a comment
Member
Author
There was a problem hiding this comment.
Lin: 親エージェントの構造レビューを完了しました。
今回の判断
ブロッカーなし。blind LLM selection v2の陰性結果と停止規則を保存するPRとして承認します。judge選択精度の支持やsearch_channels()のvalidated判定は行いません。
今回確認した事項
- Issue #21、PR diff、3 commits、CIを独立照合
- result-free freeze
062c1314c1b63ee34b8963b980b2c51eb2c3e9a0にpacket、judge response、development / holdout resultが存在しない - freeze後にdevelopment packetを一度生成し、
fork_turns=noneのfresh 3 judgesへ同一packetを独立提示 - judge 1 / 2はcapture validationを通過し、judge 3は必須4 case中3 caseだけを返したため
Judge must answer every packet case exactly onceで拒否 - retry、replacement judge、majority aggregation、accuracy / MRR計算を行っていない
- development resultは未評価gateを0値と誤解させず、
not_evaluated_gatesとmetrics_status=not_computed_invalid_judge_responseで分離 - holdout packet生成はstop ruleでexit 1となり、holdout packet / judge / resultは存在しない
- manifest、prompt、packet、全judge artifact、development resultのSHA-256を再照合し、報告値と一致
- 初回Linux CIのCRLF/LF差に対するpost-freeze correctionはv1 text hash監査だけに限定され、raw hashを優先し、完全なLF/CRLF相互変換だけを許可
- portability correction後も観測artifact hashは不変で、本文差、mixed newline、bare CRを拒否する回帰testがある
- 88 tests、eval、CI、diff checkが成功し、worktree clean、remote SHA一致
観測結果
3人目のresponse completeness gateが不合格になったため、v2はcapture段階で停止しました。LLMの選択accuracy、channel accuracy、path accuracyを本実験の結果として主張する材料はありません。holdoutは未開封です。
後続課題
次版では複数case一括responseを1 case 1 invocationへ変更し、欠落を構造的に防ぐのが妥当です。また、同じ正解nodeが両laneに存在する場合にgold channelを一意固定すると、LLMへ委ねた選択をoracle classifierへ戻します。node evidence correctness、trace membership、relation intentを分離した新しい事前freeze評価が必要です。
今回固定する境界
既存search() / search_channels()、default、feedback規則は変更しません。v2はinvalid responseを再試行せず陰性結果として保存し、holdout未開封、validated表記なしを維持します。
This file contains hidden or bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Add this suggestion to a batch that can be applied as a single commit.This suggestion is invalid because no changes were made to the code.Suggestions cannot be applied while the pull request is closed.Suggestions cannot be applied while viewing a subset of changes.Only one suggestion per line can be applied in a batch.Add this suggestion to a batch that can be applied as a single commit.Applying suggestions on deleted lines is not supported.You must change the existing code in this line in order to create a valid suggestion.Outdated suggestions cannot be applied.This suggestion has been applied or marked resolved.Suggestions cannot be applied from pending reviews.Suggestions cannot be applied on multi-line comments.Suggestions cannot be applied while the pull request is queued to merge.Suggestion cannot be applied right now. Please check back later.
Closes #21
凍結した二経路packet、blind judge response検証、3者majority集約、path射影、conditional holdout停止規則を追加します。
Developmentは3件目の必須case欠落をcapture段階で拒否し、retryや集約を行わずholdoutを未開封のまま停止した結果を保存します。
初回Linux CIで判明したCRLF/LF checkout差だけをraw-first alternate hashで許可し、観測artifactを不変に維持しました。全88 testがlocalで成功しています。