Sigue los siguientes pasos para instalar y ejecutar el dashboard:
-
Descargar Ollama: Para levantar un servidor que permita correr los LLMs de Meta, en este casos LLama 3.1 de 8b de parámetros y Llama 3.2 de 1b de parámetros. Esta descarga se puedes hacer desde: https://ollama.com/download, dependiendo de si la instalación se hará en una máquina con sistema operativo Windows, Linux o MacOs.
-
Instalación de Ollama: Una vez descargado el archivo .exe, proceder a instalar Ollama en la máquina.
-
Descargar los Pesos de los Modelos de META: Para descargar los pesos de los modelos de META mencionados anteriormente, se debe abrir una terminal de linea de comandos y correr los siguientes comandos:
ollama pull llama3.1:8b
ollama pull llama3.2:1b
-
Levantar Servidor de Ollama: Se procede a levantar el servidor de Ollama que permitirá consumir los modelos mencionados anteriormente através de una API, para esto se debe abrir una terminal de linea de comando y correr el siguiente comando:
ollama serve
Posterior a esto, se recomienda reiniciar la máquina.
-
Clonar el repositorio
git clone https://github.com/UN-GCPDS/chatbot-chec.git
-
Ir al directorio del repositorio
cd chatbot-chec
-
Crear un ambiente virtual
python -m venv venv
-
Activar el ambiente virtual
-
En Windows:
venv\Scripts\activate
-
En macOS/Linux:
source venv/bin/activate
-
-
Instalar los requerimientos
pip install -r requirements.txt
-
Ejecutar la aplicación
python main.py