관측된 실패
행동 카드 API 실제 artifact 평가에서 합성 입력 염산인 것 같습니다. 아직 확인하지 못했습니다.의 물질 후보가 누락됐다. 추가 확인으로 기권했고 CAS 자동확정이나 CAMEO 규칙 실행은 없었다. 안전 계약 통과를 Parser 추출 성공으로 세지 않는다.
최초 재현 근거: PR #61의 src/chemiguard119/action_evaluation.py, docs/ACTION_BRIEF_RESULTS.md, data/evaluation/action_brief_v1_summary.json. 최초 평가 묶음은 action-brief-v1-r7-final이다. 공개 신고 원문이 아닌 내부 합성 문장이다.
2026-09-10 후속 구현·평가
수정 PR: #63. #61 위 stacked PR이며 base는 feat/action-brief-api. main 병합·배포하지 않았다.
사전 계획 9c17083 → 후보 924ea77 → 자원 상한 aa3529e → 보고서 edede9e.
측정값과 한계
- 합성 47건·19 family·기대 언급 44개(AI DRAFT): TP 28→44, FP 0→0, F1 77.78→100%. 독립 사람 정답·현장 정확도 아님.
- 전국 442건: 같은 최신 artifact 물질 containment Recall 82.4451→82.4451%, 사고유형 Recall 83.7587→83.7587%. 개선이 아니라 비회귀.
- 과거 81.50%는 다른 Resolver SHA를 사용한 보고서라 이번 향상으로 빼지 않는다.
- 실제 artifact 새 API 검사 50개 통과/Rule 호출 0, 기존 행동 카드 15시나리오 실패 0.
- 로컬 645 tests·ruff·format·계약 drift 통과. 최종 CI는 PR #63의 Checks에서 확인한다.
- 기존 STT 지역별 50건(총150건) 실버 참조 CAS 후보 분모는 1개/보존 0개였다. 사람 CAS 정답 Top-3 미측정, 새 LoRA 채택 보류.
- 반복 합성 입력 Parser JSON 25,879,956→801,695 bytes. 727개 언급은 유지하고 충돌 상세만 최대64쌍으로 제한.
결과: 개발용 조건부 채택, 상태 부분 구현 또는 개발용 데모.
일반 한국어 의미 이해·현장 안전·새 신고 일반화·시간 절감은 미검증이다.
독립 사람 검수, 419 원본(#25), Retriever qrel 171개 후보의 사람 검수(#33)는 별도 필요하다.
기존 #49의 ASR 내부 띄어쓰기 작업과 혼합해서 전체 완료로 표시하지 않는다.
문서: docs/PARSER_UNCERTAINTY_RESULTS.md
집계·모델/원본/코드/평가기 SHA: data/evaluation/parser_uncertainty_v1_summary.json
비공개 원본 보고서 묶음: parser-uncertainty-v1. 실제 전사문·개인정보·가중치 Git 업로드 없음.
추가 서버비 0원, 기존 계정 누적 비용 미확인. GPU/유료 LLM/Cloud/Notion 변경 없음.
관측된 실패
행동 카드 API 실제 artifact 평가에서 합성 입력
염산인 것 같습니다. 아직 확인하지 못했습니다.의 물질 후보가 누락됐다. 추가 확인으로 기권했고 CAS 자동확정이나 CAMEO 규칙 실행은 없었다. 안전 계약 통과를 Parser 추출 성공으로 세지 않는다.최초 재현 근거: PR #61의
src/chemiguard119/action_evaluation.py,docs/ACTION_BRIEF_RESULTS.md,data/evaluation/action_brief_v1_summary.json. 최초 평가 묶음은action-brief-v1-r7-final이다. 공개 신고 원문이 아닌 내부 합성 문장이다.2026-09-10 후속 구현·평가
수정 PR: #63. #61 위 stacked PR이며 base는
feat/action-brief-api. main 병합·배포하지 않았다.사전 계획
9c17083→ 후보924ea77→ 자원 상한aa3529e→ 보고서edede9e.측정값과 한계
결과: 개발용 조건부 채택, 상태 부분 구현 또는 개발용 데모.
일반 한국어 의미 이해·현장 안전·새 신고 일반화·시간 절감은 미검증이다.
독립 사람 검수, 419 원본(#25), Retriever qrel 171개 후보의 사람 검수(#33)는 별도 필요하다.
기존 #49의 ASR 내부 띄어쓰기 작업과 혼합해서 전체 완료로 표시하지 않는다.
문서:
docs/PARSER_UNCERTAINTY_RESULTS.md집계·모델/원본/코드/평가기 SHA:
data/evaluation/parser_uncertainty_v1_summary.json비공개 원본 보고서 묶음:
parser-uncertainty-v1. 실제 전사문·개인정보·가중치 Git 업로드 없음.추가 서버비 0원, 기존 계정 누적 비용 미확인. GPU/유료 LLM/Cloud/Notion 변경 없음.