ChatBoat est un chatbot RAG construit avec Langchain, ChromaDB, Ollama et Streamlit. Il utilise les modèles nomic-embed-text pour générer l'embedding et Mistral 7B pour proposer une réponse à l'utilisateur. Il fonctionne sans recourir à aucune API et donc totalement hors ligne.
Il a été paramétré pour répondre à des questions de droit et de sécurité maritime au profit des opérateurs du CROSS Jobourg.
Une version plus puissante fondée sur le modèle text-embedding-ada-002 d'OpenAI a aussi été déployée. Le déploiement a été effectué en docker.
L'aperçu présenté ci-dessous n'est pas interactif.