Connaissez-vous la solution Open Source 100% locale pour créer votre ChatGPT/GenIA Jan ? Jan fonctionne entièrement sur votre bureau. Vous devez récupérer et déployer les LLM mais le reste s’exécute sur votre machine. Le cœur de Jan est Cortex. Il s’agit d’une API d’IA pour exécuter et personnaliser des LLM. Vous pouvez utiliser les modèles Huggingface ou les LLM proposés par Cortex. Attention : il vous appartient de mettre à jour régulièrement les LLM.
Jan fonctionne avec les GPU NVidia, les processeurs Apple Mx, les Mac Intel, Linux Debian et Windows 64 bits. Elle peut faire tourner Llama, Gemma, Mistral, etc. L’application propose une API serveur équivalente à OpenAI. Il est possible de prolonger janvier.
Pour installer Jan, vous avez besoin de Node, Yarn et make. Des applications installables sont disponibles si vous ne souhaitez pas compiler les sources. Jan est toujours en développement. La dernière version stable est la 0.5.13. La version 0.5.14 est en version bêta.
GitHub : https://github.com/janhq/jan
-Site officiel : https://jan.ai/
Technologie