Skip to content

Latest commit

 

History

1 Commit

Folders and files

NameName
Last commit message
Last commit date
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

是真是假

一款给老年人使用的图片信息核验工具。拍一张照片或从相册选一张图,系统会提取最需要核验的一条说法,再从权威资料中查找依据,用大白话告诉用户能不能信、接下来怎么做。

💡 为什么做这个产品

我妈妈经常把网上看到的视频发给我,问我里面的事情是不是真的。有些内容我一眼也看不出来,还要再去查资料。家族群里的长辈也会转发一些明显不可信的消息。比如我爸爸看过“某地出现一条龙”的 AI 视频,当时真的相信了。

这些经历让我想到,可以把“发给子女帮忙看”的过程做成一个更简单的工具,让老人自己拍张图就能先查一遍。

🔍 可以核验什么

  • 健康偏方、保健品功效和用药说法
  • 养老金、医保、补贴和公共服务信息
  • 转账、领奖、扫码、验证码等资金与隐私风险
  • 热点事件、奇闻画面和疑似 AI 视频截图中的事件

明确属于汽车产品、股票、普通商品测评、娱乐八卦等内容时,会直接提示超出范围,不再继续联网搜索。公共政策和热点事件的边界允许适度放宽,最终仍须通过权威证据筛选。

🧭 核验流程

  1. 图片模型读取画面和文字,提取一条最影响用户决定的说法
  2. 程序判断是否属于支持范围;范围外立即结束
  3. 查询百炼权威证据知识库
  4. 没有直接证据时,查询指定辟谣网站
  5. 没有直接证据时,程序先为问题选择 3~5 个最相关的权威网站,调用千问内置联网搜索
  6. 首轮无结果时,再进行全网权威来源兜底;所有结果仍须通过来源、作者和主张匹配校验
  7. 输出结论、理由、权威来源和行动建议

热点画面核验的是“画面声称的事件有没有可信来源证实”。单张截图不会被直接判定为 AI 生成。

🛡️ 隐私处理

  • 图片只在本次核验期间保存在浏览器内存和服务端内存中
  • 服务端完成核验后立即释放图片字节,不写入本地磁盘、数据库或对象存储
  • 浏览器仅为处理中页和结果页保留临时缩略图;返回首页、选择下一张图或关闭页面时清除
  • 后台只记录文字化的核验对象、分类、回复、依据数量、耗时和错误信息,用于后续优化
  • 上传日志不记录原始文件名

🧱 技术组成

  • 前端:React、TypeScript、Vite、Tailwind CSS
  • 后端:FastAPI、SQLAlchemy、SQLite
  • 图片理解与判断:阿里云百炼通义千问
  • 权威资料:百炼知识检索服务
  • 联网搜索:千问内置联网搜索(按问题路由到 3~5 个权威来源)
  • 部署:魔搭创空间 Docker,统一监听 7860 端口

▶️ 本地运行

  1. 复制 backend/.env.example 为 backend/.env,填写百炼 Key、知识检索服务 ID 和管理口令
  2. 在 backend 下创建 Python 3.12 虚拟环境并安装 requirements.txt
  3. 在 frontend 下执行 npm ci
  4. 执行 bash scripts/dev-up.sh
  5. 浏览器打开 http://localhost:5173

后端测试:

backend/.venv/bin/python -m pytest -q

当前自动化测试共 98 项。

前端构建:

cd frontend && npm run build

🚀 部署到魔搭创空间

项目根目录已经包含 Dockerfile。创空间选择 Docker 类型,使用平台提供的免费 CPU 资源即可,无需单独购买阿里云服务器、域名或对象存储。

需要在创空间 Secret 中配置:

  • LLM_API_KEY
  • KNOWLEDGE_BASE_API_KEY
  • SEARCH_API_KEY
  • ADMIN_ACCESS_TOKEN

需要配置的普通变量:

  • KNOWLEDGE_BASE_PROVIDER=bailian
  • KNOWLEDGE_BASE_AGENT_ID=aid-d150385757324711a043048596c1d0ae
  • KNOWLEDGE_BASE_URL=https://ws-gaemrqt57ahk92ih.cn-beijing.maas.aliyuncs.com/api/v1/indices/knowledge/search
  • SEARCH_PROVIDER=qwen
  • KEEP_ORIGINAL_IMAGE=false
  • DATABASE_URL=sqlite:////mnt/workspace/shizhenshijia/szsj.db

/mnt/workspace 用于保存文字化的后台记录。项目不会在这里保存用户图片。

📁 目录

  • frontend/:手机端页面
  • backend/:接口、核验管线、来源校验和后台记录
  • Dockerfile:魔搭创空间部署入口
  • docs/:运行和部署说明

本项目计划开源。密钥、用户图片和运行数据库均不进入代码仓库。

About

是真是假 — AI 图片信息核验工具:识别图片中的说法,从权威资料查证,给老年人用大白话讲清能不能信

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages