Servidor MCP (Model Context Protocol) con interfaz de línea de comandos (CLI) para chatear con modelos LLM a través de la API de Groq. Mantiene historial de conversación y permite interacción multi-turno directamente desde la terminal.
- Chat conversacional con historial completo desde la terminal
- Tres tools MCP disponibles: chat simple, chat con historial y listado de modelos
- Integración con la API de Groq (gratuita y de alta velocidad)
- Modelo por defecto:
llama-3.3-70b-versatile - Configuración de API Key mediante variables de entorno
- Entorno virtual aislado con venv
| Modelo | Proveedor | Tokens de contexto | Velocidad |
|---|---|---|---|
llama-3.3-70b-versatile |
Meta via Groq | 128,000 | ~900 tok/s |
llama-3.1-8b-instant |
Meta via Groq | 128,000 | ~2,000 tok/s |
mixtral-8x7b-32768 |
Mistral via Groq | 32,768 | ~700 tok/s |
gemma2-9b-it |
Google via Groq | 8,192 | ~800 tok/s |
| Paquete | Versión | Descripción |
|---|---|---|
mcp |
latest | SDK oficial de Model Context Protocol |
groq |
latest | Cliente oficial de la API de Groq |
python-dotenv |
latest | Carga variables de entorno desde .env |
- Python 3.10 o superior
- Cuenta gratuita en Groq Console
- Git
git clone https://github.com/tu-usuario/MCP-GROQ-SERVER.git
cd MCP-GROQ-SERVER# Crear el venv
python -m venv venv
# Activar en Mac / Linux
source venv/bin/activate
# Activar en Windows
venv\Scripts\activatepip install mcp groq python-dotenvCrea un archivo .env en la raíz del proyecto:
GROQ_API_KEY=gsk_xxxxxxxxxxxxxxxxxxxxxxxxObtén tu API Key gratis en console.groq.com → API Keys.
Con el venv activado, ejecuta:
python cli.pyEl cliente levanta el servidor MCP automáticamente en segundo plano y abre la interfaz de chat:
=== Cliente MCP ===
Escribe 'salir' para terminar.
Tú: ¿Qué es Docker?
Asistente: Docker es una plataforma de contenedores que permite...
Tú: ¿Y cómo se diferencia de una máquina virtual?
Asistente: A diferencia de una VM, Docker no virtualiza el hardware...
Tú: salir
Escribe salir para cerrar el chat. El servidor se cierra automáticamente.
MCP-GROQ-SERVER/
├── server.py # Servidor MCP con las tools de Groq
├── cli.py # Cliente CLI interactivo
├── .env # API Key (no se sube a git)
├── .gitignore
└── README.md
| Tool | Descripción |
|---|---|
chat |
Chat simple con un prompt |
chat_with_history |
Chat multi-turno con historial completo |
list_models |
Lista los modelos disponibles |