一款给老年人使用的图片信息核验工具。拍一张照片或从相册选一张图,系统会提取最需要核验的一条说法,再从权威资料中查找依据,用大白话告诉用户能不能信、接下来怎么做。
我妈妈经常把网上看到的视频发给我,问我里面的事情是不是真的。有些内容我一眼也看不出来,还要再去查资料。家族群里的长辈也会转发一些明显不可信的消息。比如我爸爸看过“某地出现一条龙”的 AI 视频,当时真的相信了。
这些经历让我想到,可以把“发给子女帮忙看”的过程做成一个更简单的工具,让老人自己拍张图就能先查一遍。
- 健康偏方、保健品功效和用药说法
- 养老金、医保、补贴和公共服务信息
- 转账、领奖、扫码、验证码等资金与隐私风险
- 热点事件、奇闻画面和疑似 AI 视频截图中的事件
明确属于汽车产品、股票、普通商品测评、娱乐八卦等内容时,会直接提示超出范围,不再继续联网搜索。公共政策和热点事件的边界允许适度放宽,最终仍须通过权威证据筛选。
- 图片模型读取画面和文字,提取一条最影响用户决定的说法
- 程序判断是否属于支持范围;范围外立即结束
- 查询百炼权威证据知识库
- 没有直接证据时,查询指定辟谣网站
- 没有直接证据时,程序先为问题选择 3~5 个最相关的权威网站,调用千问内置联网搜索
- 首轮无结果时,再进行全网权威来源兜底;所有结果仍须通过来源、作者和主张匹配校验
- 输出结论、理由、权威来源和行动建议
热点画面核验的是“画面声称的事件有没有可信来源证实”。单张截图不会被直接判定为 AI 生成。
- 图片只在本次核验期间保存在浏览器内存和服务端内存中
- 服务端完成核验后立即释放图片字节,不写入本地磁盘、数据库或对象存储
- 浏览器仅为处理中页和结果页保留临时缩略图;返回首页、选择下一张图或关闭页面时清除
- 后台只记录文字化的核验对象、分类、回复、依据数量、耗时和错误信息,用于后续优化
- 上传日志不记录原始文件名
- 前端:React、TypeScript、Vite、Tailwind CSS
- 后端:FastAPI、SQLAlchemy、SQLite
- 图片理解与判断:阿里云百炼通义千问
- 权威资料:百炼知识检索服务
- 联网搜索:千问内置联网搜索(按问题路由到 3~5 个权威来源)
- 部署:魔搭创空间 Docker,统一监听
7860端口
- 复制
backend/.env.example为backend/.env,填写百炼 Key、知识检索服务 ID 和管理口令 - 在
backend下创建 Python 3.12 虚拟环境并安装requirements.txt - 在
frontend下执行npm ci - 执行
bash scripts/dev-up.sh - 浏览器打开
http://localhost:5173
后端测试:
backend/.venv/bin/python -m pytest -q当前自动化测试共 98 项。
前端构建:
cd frontend && npm run build项目根目录已经包含 Dockerfile。创空间选择 Docker 类型,使用平台提供的免费 CPU 资源即可,无需单独购买阿里云服务器、域名或对象存储。
需要在创空间 Secret 中配置:
LLM_API_KEYKNOWLEDGE_BASE_API_KEYSEARCH_API_KEYADMIN_ACCESS_TOKEN
需要配置的普通变量:
KNOWLEDGE_BASE_PROVIDER=bailianKNOWLEDGE_BASE_AGENT_ID=aid-d150385757324711a043048596c1d0aeKNOWLEDGE_BASE_URL=https://ws-gaemrqt57ahk92ih.cn-beijing.maas.aliyuncs.com/api/v1/indices/knowledge/searchSEARCH_PROVIDER=qwenKEEP_ORIGINAL_IMAGE=falseDATABASE_URL=sqlite:////mnt/workspace/shizhenshijia/szsj.db
/mnt/workspace 用于保存文字化的后台记录。项目不会在这里保存用户图片。
frontend/:手机端页面backend/:接口、核验管线、来源校验和后台记录Dockerfile:魔搭创空间部署入口docs/:运行和部署说明
本项目计划开源。密钥、用户图片和运行数据库均不进入代码仓库。