Skip to content

Latest commit

 

History

3 Commits

Folders and files

NameName
Last commit message
Last commit date
 
 
 
 
 
 
 
 
 
 

Repository files navigation

🤖 MCP-GROQ-SERVER

Python MCP Groq Model License

Servidor MCP (Model Context Protocol) con interfaz de línea de comandos (CLI) para chatear con modelos LLM a través de la API de Groq. Mantiene historial de conversación y permite interacción multi-turno directamente desde la terminal.


✨ Características

  • Chat conversacional con historial completo desde la terminal
  • Tres tools MCP disponibles: chat simple, chat con historial y listado de modelos
  • Integración con la API de Groq (gratuita y de alta velocidad)
  • Modelo por defecto: llama-3.3-70b-versatile
  • Configuración de API Key mediante variables de entorno
  • Entorno virtual aislado con venv

🧠 Modelo de IA

Modelo Proveedor Tokens de contexto Velocidad
llama-3.3-70b-versatile Meta via Groq 128,000 ~900 tok/s
llama-3.1-8b-instant Meta via Groq 128,000 ~2,000 tok/s
mixtral-8x7b-32768 Mistral via Groq 32,768 ~700 tok/s
gemma2-9b-it Google via Groq 8,192 ~800 tok/s

📦 Paquetes instalados

Paquete Versión Descripción
mcp latest SDK oficial de Model Context Protocol
groq latest Cliente oficial de la API de Groq
python-dotenv latest Carga variables de entorno desde .env

📋 Requisitos

  • Python 3.10 o superior
  • Cuenta gratuita en Groq Console
  • Git

🚀 Instalación

1. Clona el repositorio

git clone https://github.com/tu-usuario/MCP-GROQ-SERVER.git
cd MCP-GROQ-SERVER

2. Crea y activa el entorno virtual

# Crear el venv
python -m venv venv

# Activar en Mac / Linux
source venv/bin/activate

# Activar en Windows
venv\Scripts\activate

3. Instala las dependencias

pip install mcp groq python-dotenv

4. Configura tu API Key

Crea un archivo .env en la raíz del proyecto:

GROQ_API_KEY=gsk_xxxxxxxxxxxxxxxxxxxxxxxx

Obtén tu API Key gratis en console.groq.com → API Keys.


▶️ Uso

Con el venv activado, ejecuta:

python cli.py

El cliente levanta el servidor MCP automáticamente en segundo plano y abre la interfaz de chat:

=== Cliente MCP ===
Escribe 'salir' para terminar.

Tú: ¿Qué es Docker?
Asistente: Docker es una plataforma de contenedores que permite...

Tú: ¿Y cómo se diferencia de una máquina virtual?
Asistente: A diferencia de una VM, Docker no virtualiza el hardware...

Tú: salir

Escribe salir para cerrar el chat. El servidor se cierra automáticamente.


🗂️ Estructura del proyecto

MCP-GROQ-SERVER/
├── server.py       # Servidor MCP con las tools de Groq
├── cli.py          # Cliente CLI interactivo
├── .env            # API Key (no se sube a git)
├── .gitignore
└── README.md

🛠️ Tools MCP disponibles

Tool Descripción
chat Chat simple con un prompt
chat_with_history Chat multi-turno con historial completo
list_models Lista los modelos disponibles

About

Servidor MCP (Model Context Protocol) con interfaz CLI para chatear con LLMs via Groq API. Soporta historial de conversación, comandos especiales y modelos Llama 3.3, Mixtral y Gemma2.

Topics

Resources

Stars

1 star

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages