Deploy reviewed operational cloud-sea model

.dockerignore

@@ -15,5 +15,7 @@ scripts/deploy.local.env
 **/*.db-*
 **/*.sqlite
 **/*.sqlite-*
-data/cloudsea/models
+data/cloudsea/models/*.pkl
+data/cloudsea/models/*.pickle
+data/cloudsea/models/candidates
 *.tar

.env.example

@@ -31,8 +31,9 @@ ANALYTICS_DB_PATH=/app/data/analytics/analytics.db
 CLOUDSEA_ENABLED=true
 CLOUDSEA_ADMIN_TOKEN=your_cloudsea_admin_token_here
 CLOUDSEA_DB_PATH=/app/data/cloudsea/cloudsea.db
-# 生产默认规则引擎；模型须经 operational/time-split 门禁并随受审镜像晋级
+# 默认关闭；生产 compose 仅对随镜像发布且通过 strict JSON/time-split 门禁的模型开启
 CLOUDSEA_ML_ENABLED=false
+# CLOUDSEA_MODEL_PATH=/app/baked/models/spot_wunvshan_dianjiangtai.json
 # 仅迁移旧模型时临时开启；pickle 可执行任意代码，生产保持 false
 CLOUDSEA_ALLOW_LEGACY_PICKLE_MODELS=false
 CLOUDSEA_CONTRIBUTE_ENABLED=true

.gitignore

@@ -19,6 +19,7 @@ yunhai-*-amd64.tar
 **/*.sqlite
 **/*.sqlite-*
 data/cloudsea/models/*.pkl
+data/cloudsea/models/candidates/
 internal/config.local.json
 internal/PAPER-ABSTRACT.md
 internal/research-paper.html

CHANGELOG.md

@@ -1,5 +1,20 @@
 # Changelog
 
+## 2.1.0 — 2026-07-28
+
+### Operational ML
+
+- Five-Woman Mountain now uses a reviewed point model trained from exact ECMWF IFS HRES 00Z single runs that were available before the D-1 18:00 decision cutoff.
+- The fixed 14-feature logistic model uses time-ordered out-of-fold Platt calibration. Its final 15-day holdout achieved 0.65 balanced accuracy, 1.00 recall, and 0.209 Brier score versus the rule baseline's 0.50, 0.60, and 0.250.
+- Model artifacts are non-executable JSON and load only after strict schema, point identity, finite-number, source, chronological-evaluation, and quality-gate validation.
+- Admin retraining produces a candidate only. Production activation requires review, CI, an immutable image, backup, and smoke tests.
+
+### Data quality
+
+- Forecast archive backfill now uses the Single Runs API and records the exact ECMWF run. The former Historical Forecast backfill could no longer be mislabeled as an as-issued forecast.
+- Training uses only the surface fields consistently available across the long-term HRES archive; unavailable pressure-level values and constant point features are excluded.
+- The Five-Woman Mountain terrain and sunrise-sector profile is baked into the image so rule comparison and production inference use the same auditable DEM and local-water context without a runtime DEM dependency.
+
 ## 2.0.0 — 2026-07-28
 
 ### Security

Dockerfile

@@ -32,13 +32,15 @@ RUN pip install --no-cache-dir --require-hashes -r requirements.lock -i "${PIP_I
 
 COPY backend/app ./app
 COPY scripts/docker-entrypoint.sh /app/docker-entrypoint.sh
+COPY scripts/train_cloudsea_model.py scripts/train_operational_model.py /app/scripts/
 RUN groupadd --gid 10001 yunhai \
     && useradd --uid 10001 --gid yunhai --no-create-home --shell /usr/sbin/nologin yunhai \
     && chmod +x /app/docker-entrypoint.sh
 
 COPY data/scenic-spots ./data/scenic-spots
 COPY data/terrain ./data/terrain
 COPY data/cloudsea/curated-spots ./baked/curated-spots
+COPY data/cloudsea/models ./baked/models
 COPY --from=frontend-build /app/dist ./static
 
 ARG BUILD_ID=dev
@@ -52,7 +54,9 @@ ENV STATIC_DIR=/app/static
 ENV ANALYTICS_DB_PATH=/app/data/analytics/analytics.db
 ENV CLOUDSEA_DB_PATH=/app/data/cloudsea/cloudsea.db
 ENV CLOUDSEA_CURATED_SPOTS_DIR=/app/data/cloudsea/curated-spots
+ENV CLOUDSEA_MODEL_PATH=/app/baked/models/spot_wunvshan_dianjiangtai.json
 ENV CLOUDSEA_ML_ENABLED=false
+ENV CLOUDSEA_ALLOW_LEGACY_PICKLE_MODELS=false
 ENV SHARE_ASSETS_DIR=/app/data/share-assets
 ENV SHARE_CACHE_DIR=/app/data/share-cache
 ENV TZ=Asia/Shanghai

README.md

@@ -35,7 +35,7 @@
 | 层级 | 说明 |
 |------|------|
 | **规则引擎** | 基于文献的模糊逻辑评分（850/700 hPa 垂直场、逆温、低云/能见度补偿、Type A/B 型态） |
-| **ML 模型** | 日出窗口 03–07 点由标注数据训练的 Logistic 回归（**v7**，62 维 precursor + dawn 特征，点位专属 pkl） |
+| **ML 模型** | 五女山点将台在 03–07 点启用点位 Logistic 回归；使用前夜至日出的 14 个跨年份稳定特征，模型为严格校验的只读 JSON |
 | **底层观测** | 分层云量、垂直场剖面、云海型态、地面态等原始气象字段完整展示 |
 
 内置 **五女山、大黑山、黄山、庐山** 等精选景区观景点，也支持天地图 POI 搜索与地图拖拽自定义坐标。配套 **开放标注 / 审核 / ML 训练** 共建闭环（见下方 [共建计划](#-日出云海预测模型--共建计划)）。
@@ -59,11 +59,21 @@
 | 🔗 **预测分享** | 分享页、OG 预览图、竖版长图；分享图动态渲染，不落盘占用硬盘 |
 | 🏔️ **精选景区** | 预置观景点海拔、坐标、季节权重；支持全国 POI |
 | 📝 **开放标注** | 匿名贡献 ID、POI/社区点云海标注、审核后入训练集 |
-| 🔬 **标注回测** | 开放标注页、Historical Forecast 回测、Admin 审核与重训 API |
+| 🔬 **标注回测** | 开放标注页、精确历史模型运行回测、Admin 审核与受审候选生成 |
 | 📈 **预测反馈** | 用户访问预测时自动快照；次日 forecast vs 实况回测；**标注页所有人可看**历史预测 vs 实况双轨对比 |
 
 ---
 
+## 🆕 2026-07-28 · 可审计 operational ML
+
+- 训练输入改为 Open-Meteo Single Runs 中决策截点前已发布的 ECMWF IFS HRES 00Z 运行，不再把事后拼接资料标成前夜预报。
+- 五女山点将台使用 72 个可重建标注日训练；最后 15 天完全隔离评估，含 5 个正例、10 个负例。
+- 生产融合模型时间外平衡准确率 **65%**、召回率 **100%**、Brier **0.209**；同期规则基线为 **50% / 60% / 0.250**。
+- 模型为非可执行 JSON，严格校验点位、特征、来源、时间外协议和质量门禁后才加载；旧 Pickle 仍保持禁用。
+- Admin 只生成候选模型，不能在线热替换；通过审查后随不可变镜像发布并可回滚。
+
+---
+
 ## 🆕 2026-06-24 补丁 · v7.1 贴地雾校准
 
 > 详细说明：[`internal/RELEASE-2026-06-V7.1.md`](internal/RELEASE-2026-06-V7.1.md) · 用户文档：[更新说明](https://yunhai.timkj.com/docs/release-notes.html)
@@ -187,10 +197,10 @@ python3 scripts/export_prediction_feedback.py --spot-id wunvshan --viewpoint-id
 | | 日出质量独立标注（可见 / 遮挡 / 不可拍） | ✅ **已完成**（入库；**暂不入**云海 ML，待日出模型） |
 | **开放贡献与审核** | 匿名 Contributor ID、30 条/日限额、pending → approved 审核 | ✅ **已完成** |
 | | 标注页 Admin 可视化审核队列 UI | 🔶 **部分**（API 已有，`label.html?admin=1` 待增强） |
-| **社区点位专属模型** | 单点 accumulated ≥30 天 approved 后启用 spot 专属 ML pkl | ✅ **已完成**（五女山、东灵山 v7 已部署） |
+| **社区点位专属模型** | 单点 ≥30 天后生成受审 JSON 候选，通过时间外门禁再随版本发布 | 🔶 **部分**（五女山点将台已部署；其他点位继续积累/评估） |
 | **全国 POI 通用模型** | 汇总多地区 approved 样本，训练跨点位泛化 ML | 🔶 **部分**（全局 `--approved-only` 训练已有；POI 专项管线规划中） |
 | **精选落库** | approved ≥15 天 → 写入 `scenic-spots/*.json`，搜索可见 | ✅ **已完成**（Admin API） |
-| **定期重训** | 标注增量或周期触发自动重训 + LOOCV 门禁部署 | 🔶 **部分**（手动 `POST .../train` + `hot-patch-prod.sh`；cron 未接） |
+| **定期重训** | 标注增量后生成候选 + 时间外门禁 + 受审镜像部署 | 🔶 **部分**（Admin 可生成候选；自动发布刻意关闭） |
 | **预测反馈** | 访问快照、次日回测、标注页历史预测 vs 实况（**全员可见**） | ✅ **已完成**（2026-06） |
 | **深链与收藏** | `/?spot=&vp=`、`/?lat=&lng=`、`/label.html?...` 直达预测/标注 | ✅ **已完成** |
 
@@ -206,7 +216,7 @@ python3 scripts/export_prediction_feedback.py --spot-id wunvshan --viewpoint-id
 
 **贡献流程**：主页选 POI → 「标注此点位」→ 选择日期 → 1/2/3 标注云海 → 可选标注日出质量 → 社区点可持久化编辑坐标。
 
-**Admin 流程**（需 Token）：审核队列 → approve/reject → 达标社区点 `curate` 落库 → `train` 重训云海 ML（不含日出质量字段）。
+**Admin 流程**（需 Token）：审核队列 → approve/reject → 达标社区点 `curate` 落库 → `train` 生成受审候选（不含日出质量字段，不在线热部署）。
 
 详细设计见 [`internal/open-annotation-plan.md`](internal/open-annotation-plan.md) · 标注操作见 [`internal/CLOUDSEA-LABEL.md`](internal/CLOUDSEA-LABEL.md)
 
@@ -215,7 +225,7 @@ python3 scripts/export_prediction_feedback.py --spot-id wunvshan --viewpoint-id
 | 阶段 | 目标 |
 |------|------|
 | **近期** | 模型版本与贡献数公开展示；日出 ML 训练脚本（基于 `sunrise_quality`） |
-| **中期** | **单点专属 ML**（每社区点/精选点独立 pkl + 自动切换） |
+| **中期** | **单点专属 ML**（每社区点/精选点独立安全 JSON + 受审版本切换） |
 | **远期** | **全国 POI 通用 ML**（跨纬度/地形泛化）；定时重训 CI；贡献排行榜 |
 
 **确认结论（截至当前版本）**：
@@ -285,16 +295,22 @@ cd frontend && npm install && npm run dev
 # http://localhost:5173
 ```
 
-### 3. 评估云海 ML（实验性）
+### 3. 评估受审云海 ML
 
 ```bash
-# 只用于本地评估；生产默认规则引擎
-export CLOUDSEA_ML_ENABLED=true
-# 实际按 spot 加载未纳入 Git 的 spot_{spot}_{viewpoint}.pkl
-export CLOUDSEA_MODEL_PATH=../data/cloudsea/models/cloudsea_candidate.pkl
+# 先用精确 ECMWF 单次运行回填候选库（不要对生产库直接操作）
+python3 scripts/backfill_forecast_archive.py \
+  --db /path/to/review-copy.db \
+  --spot-id wunvshan --viewpoint-id dianjiangtai
+
+# 最后 15 天隔离评估；门禁失败不会写模型
+python3 scripts/train_operational_model.py \
+  --db /path/to/review-copy.db \
+  --spot-id wunvshan --viewpoint-id dianjiangtai \
+  --output data/cloudsea/models/spot_wunvshan_dianjiangtai.json
 ```
 
-模型不得由发布脚本临时训练。候选模型必须使用 `operational` 气象输入，并通过时间外/月度验证、样本量与特征复杂度审查后，才能在单独的受审版本中晋级；当前生产保持 `CLOUDSEA_ML_ENABLED=false`。
+模型不得由发布脚本临时训练或在线热替换。候选必须使用精确 single-run 气象输入，并通过时间外验证、安全 JSON 校验、样本量与特征复杂度审查后，才能在单独的受审版本中晋级。五女山受审模型在生产启用，其他点位门禁未通过时继续使用规则引擎。
 
 ### 4. Docker
 
@@ -330,7 +346,7 @@ docker compose -f docker-compose.prod.yml up -d
 | `PATCH` | `/api/contribute/locations/{id}` | 编辑我的社区点位名称/坐标/海拔 |
 | `GET` | `/api/satellite/cloud` | Himawari 红外裁切 |
 | `GET` | `/api/internal/cloudsea/review-queue` | 待审标注（Admin Token） |
-| `POST` | `/api/internal/cloudsea/train` | 手动重训 ML（Admin Token） |
+| `POST` | `/api/internal/cloudsea/train` | 生成受审 ML 候选（Admin Token；不热部署） |
 | `GET` | `/api/internal/cloudsea/prediction-history` | 某日历史预测访问（Admin Token） |
 | `POST` | `/api/internal/cloudsea/reconcile` | 手动触发预测回测（Admin Token） |
 | `POST` | `/api/internal/cloudsea/watch` | 手动触发气象 watcher（Admin Token） |
@@ -343,20 +359,22 @@ Swagger：`http://localhost:8000/docs`
 ## 🔬 ML 与标注工作流
 
 ```bash
-# 1. 回填标注日完整垂直场气象
-python3 scripts/backfill_meteo_hourly.py
-
-# 2. 训练 ML v7（仅 approved 标注 · operational 气象）
-python3 scripts/train_cloudsea_model.py \
-  --db data/cloudsea/cloudsea.prod.db \
+# 1. 在生产数据库副本中回填决策时可见的精确 00Z 模型运行
+python3 scripts/backfill_forecast_archive.py \
+  --db /path/to/review-copy.db \
+  --spot-id wunvshan --viewpoint-id dianjiangtai
+
+# 2. 训练 + 时间外质量门禁（失败不产出）
+python3 scripts/train_operational_model.py \
+  --db /path/to/review-copy.db \
   --spot-id wunvshan --viewpoint-id dianjiangtai \
-  --window v7 --mode operational --enhanced --db-only
+  --output data/cloudsea/models/spot_wunvshan_dianjiangtai.json
 
 # 3. 模型输出
-# data/cloudsea/models/spot_wunvshan_dianjiangtai.pkl
-# data/cloudsea/models/spot_donglingshan_fengding.pkl
+# data/cloudsea/models/spot_wunvshan_dianjiangtai.json
+# 仅包含系数、缩放参数、训练指纹与质量证据，不包含原始标注
 
-# 4. 生产标准发版（规则引擎；含测试、审计、备份与自动回滚）
+# 4. 生产标准发版（受审模型 + 规则；含测试、审计、备份与自动回滚）
 cp scripts/deploy.local.env.example scripts/deploy.local.env   # 首次
 bash scripts/release-prod.sh
 
@@ -367,7 +385,7 @@ bash scripts/run-scheduled-tasks.sh
 
 **开放标注页**：https://yunhai.timkj.com/label.html（无需账号，服务端签发匿名会话 Cookie）
 
-**Admin**：审核 / 落库 / 重训见 [共建计划](#-日出云海预测模型--共建计划) · 操作细节 [`internal/CLOUDSEA-LABEL.md`](internal/CLOUDSEA-LABEL.md)
+**Admin**：审核 / 落库 / 候选模型生成见 [共建计划](#-日出云海预测模型--共建计划) · 操作细节 [`internal/CLOUDSEA-LABEL.md`](internal/CLOUDSEA-LABEL.md)
 
 ---
 

backend/.env.example

@@ -31,8 +31,9 @@ CLOUDSEA_ENABLED=true
 CLOUDSEA_ADMIN_TOKEN=dev_cloudsea_token_change_me
 CLOUDSEA_DB_PATH=data/cloudsea/cloudsea.db
 CLOUDSEA_AUTO_SNAPSHOT=true
-# 本地训练/评估可显式开启；默认与生产一致使用规则引擎
+# 默认关闭；生产 compose 仅对随镜像发布且通过 strict JSON/time-split 门禁的模型开启
 CLOUDSEA_ML_ENABLED=false
+# CLOUDSEA_MODEL_PATH=/app/baked/models/spot_wunvshan_dianjiangtai.json
 CLOUDSEA_ALLOW_LEGACY_PICKLE_MODELS=false
 CLOUDSEA_CONTRIBUTE_ENABLED=true
 CONTRIBUTOR_SESSION_SECRET=dev_contributor_secret_change_me_at_least_32_bytes

backend/app/config.py

@@ -35,7 +35,9 @@ class Settings(BaseSettings):
     cloudsea_auto_snapshot: bool = True
     cloudsea_ml_enabled: bool = False
     cloudsea_allow_legacy_pickle_models: bool = False
-    cloudsea_model_path: str = str(_PROJECT_ROOT / "data" / "cloudsea" / "models" / "cloudsea_ml_v2.pkl")
+    cloudsea_model_path: str = str(
+        _PROJECT_ROOT / "data" / "cloudsea" / "models" / "cloudsea_ml_v2.json"
+    )
     cloudsea_contribute_enabled: bool = True
     cloudsea_daily_label_cap: int = 30
     cloudsea_max_locations_per_contributor: int = 10

backend/app/engine/cloudsea_features.py

@@ -114,6 +114,16 @@
 DAY_FEATURE_NAMES = DAY_FEATURE_NAMES + TERRAIN_FEATURE_NAMES + OBSERVABLE_FEATURE_NAMES
 
 _REQUIRED_METEO_KEYS = ("rh_700", "cloud_high", "inversion")
+_OPERATIONAL_REQUIRED_METEO_KEYS = (
+    "cloud_low",
+    "cloud_mid",
+    "cloud_high",
+    "visibility",
+    "rh",
+    "wind",
+    "temp",
+    "dewpoint",
+)
 
 
 def label_to_target(status: str) -> float:
@@ -132,6 +142,11 @@ def meteo_row_complete(row: dict) -> bool:
     return all(row.get(k) is not None for k in _REQUIRED_METEO_KEYS)
 
 
+def operational_meteo_row_complete(row: dict) -> bool:
+    """Fields consistently archived by ECMWF IFS HRES single runs since March 2024."""
+    return all(row.get(k) is not None for k in _OPERATIONAL_REQUIRED_METEO_KEYS)
+
+
 def build_meteo_hour_row(hourly: dict, idx: int, *, precip48: float | None = None) -> dict:
     times = hourly.get("time", [])
     t_str = times[idx]