llm-analyzer

Practical local LLM automation for analyzing texts – from course exercises to personal experiments.

📁 Estrutura do Projeto

llm-analisador/
├── app/
│   ├── main.py            # FastAPI app com endpoint de análise
│   └── llm_client.py      # Cliente para se comunicar com o modelo (Ollama)
├── Dockerfile             # Container com FastAPI
├── requirements.txt       # Dependências Python
└── README.md              # Instruções de uso

Requisitos

Antes de tudo, instale os requisitos:

python3 -m pip install --no-cache-dir -r requirements.txt

ou

pip install --no-cache-dir -r requirements.txt

Certifique-se de que o Tesseract esteja instalado no seu sistema:

Windows: https://github.com/UB-Mannheim/tesseract/wiki (Após instalar, configure o caminho no código se necessário)

🔧 Instalar o Ollama localmente (apenas 1 vez)

Ollama roda os modelos com aceleração por GPU e cria uma API local automaticamente.

✅ Comando para instalar:

Linux/macOS:

curl -fsSL https://ollama.com/install.sh | sh

Windows:

Baixe em: https://ollama.com/download

⚙️ Rodar o modelo (exemplo com phi3)

ollama run phi3

Ollama vai baixar o modelo e criar um servidor local na porta 11434.

---

🧪 Testando localmente

1. Rode o Ollama com o modelo:

ollama run phi3

2. Rode a API (fora do Docker):

python -m uvicorn app.main:app --reload

3. Teste a API (exemplo via cURL ou Python):

curl -X POST http://localhost:8000/analisar \
  -H "Content-Type: application/json" \
  -d '{"texto": "A empresa XPTO apresentou proposta com o modelo Impressora LaserJet 1200 por R$ 1.500,00.", "pergunta": "Quais as propostas do texto contendo Fornecedor/Autor, marca/modelo e valor?"}'

4. Teste a API IMG (exemplo via cURL ou Python):

curl -X POST "http://localhost:8000/analisar-imagem?pergunta=Qual%20o%20texto%20na%20imagem" \
  -H  "accept: application/json" \
  -H  "Content-Type: multipart/form-data" \
  -F "file=@caminho/da/imagem.png"

🐳 Dockerizar (opcional, depois de testar)

Build:

docker build -t llm-analisador .

Run:

docker run -p 8000:8000 llm-analisador

---