Skip to content

fix(parser): 추정 표현에 붙은 물질명 누락 회귀 검증 #62

Description

@hywznn

관측된 실패

행동 카드 API 실제 artifact 평가에서 합성 입력 염산인 것 같습니다. 아직 확인하지 못했습니다.의 물질 후보가 누락됐다. 추가 확인으로 기권했고 CAS 자동확정이나 CAMEO 규칙 실행은 없었다. 안전 계약 통과를 Parser 추출 성공으로 세지 않는다.

최초 재현 근거: PR #61의 src/chemiguard119/action_evaluation.py, docs/ACTION_BRIEF_RESULTS.md, data/evaluation/action_brief_v1_summary.json. 최초 평가 묶음은 action-brief-v1-r7-final이다. 공개 신고 원문이 아닌 내부 합성 문장이다.

2026-09-10 후속 구현·평가

수정 PR: #63. #61 위 stacked PR이며 base는 feat/action-brief-api. main 병합·배포하지 않았다.
사전 계획 9c17083 → 후보 924ea77 → 자원 상한 aa3529e → 보고서 edede9e.

  • 조사·어미·띄어쓰기·부정·추정·미확인 회귀 입력을 후보 구현 전에 고정했다.
  • 원문 구간별 언급을 보존하고 같은 CAS의 반복 진술을 조기 합치지 않는다.
  • 염산 후보가 회복돼도 사람 확인으로 승격하지 않는다.
  • 부정 물질·유사 부분 문자열·제품명 대조군을 평가했다.
  • Parser 전국 442건을 동일 artifact에서 별도 재평가했다.
  • Resolver 울산 419건 재평가: 승인 원본 경로 부족, #25에서 추적한다.
  • 행동 카드 JSON/SSE·2-CAS Gate·Swagger 실제 artifact 회귀와 원문 SHA/span 연결을 확인했다.
  • 반복 4,000자 입력의 과도한 충돌 목록을 제한하고 상한 도달 여부를 표시한다.

측정값과 한계

  • 합성 47건·19 family·기대 언급 44개(AI DRAFT): TP 28→44, FP 0→0, F1 77.78→100%. 독립 사람 정답·현장 정확도 아님.
  • 전국 442건: 같은 최신 artifact 물질 containment Recall 82.4451→82.4451%, 사고유형 Recall 83.7587→83.7587%. 개선이 아니라 비회귀.
  • 과거 81.50%는 다른 Resolver SHA를 사용한 보고서라 이번 향상으로 빼지 않는다.
  • 실제 artifact 새 API 검사 50개 통과/Rule 호출 0, 기존 행동 카드 15시나리오 실패 0.
  • 로컬 645 tests·ruff·format·계약 drift 통과. 최종 CI는 PR #63의 Checks에서 확인한다.
  • 기존 STT 지역별 50건(총150건) 실버 참조 CAS 후보 분모는 1개/보존 0개였다. 사람 CAS 정답 Top-3 미측정, 새 LoRA 채택 보류.
  • 반복 합성 입력 Parser JSON 25,879,956→801,695 bytes. 727개 언급은 유지하고 충돌 상세만 최대64쌍으로 제한.

결과: 개발용 조건부 채택, 상태 부분 구현 또는 개발용 데모.
일반 한국어 의미 이해·현장 안전·새 신고 일반화·시간 절감은 미검증이다.
독립 사람 검수, 419 원본(#25), Retriever qrel 171개 후보의 사람 검수(#33)는 별도 필요하다.
기존 #49의 ASR 내부 띄어쓰기 작업과 혼합해서 전체 완료로 표시하지 않는다.

문서: docs/PARSER_UNCERTAINTY_RESULTS.md
집계·모델/원본/코드/평가기 SHA: data/evaluation/parser_uncertainty_v1_summary.json
비공개 원본 보고서 묶음: parser-uncertainty-v1. 실제 전사문·개인정보·가중치 Git 업로드 없음.
추가 서버비 0원, 기존 계정 누적 비용 미확인. GPU/유료 LLM/Cloud/Notion 변경 없음.

Activity

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    area:evaluation모델·후단·E2E 평가 Gatearea:llmParser·Resolver·Retriever·RAG·Rule Engineevidence-needed측정값·원본·artifact hash 등 근거가 필요함priority:p2계획된 일반 우선순위 작업safety:critical2-CAS Gate 등 안전 불변식에 영향status:in-progress현재 구현 또는 검증 진행 중type:bug의도와 다른 동작 또는 회귀

    Type

    No type

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions