Utiliser vos LLM favoris sans blocage
Publié le 17 novembre 2024 - par Andy Cinquin
LLMChatGPTAPI
N'avez-vous jamais rêvé de ne plus être bloqué dans l'utilisation de vos LLM favoris ? ChatGPT et ses 3 messages par jour ? Et Claude avec son unique message par jour ? Et Gemini qui est tout autant gratuit que complètement bourré dans la qualité des réponses ?
Je vous présente ici un repo GitHub très sympa :
ChatGPTNextWeb/ChatGPT-Next-Web
ChatGPTNextWeb/ChatGPT-Next-Web
L'idée, c'est d'avoir le même genre d'UI que ChatGPT, etc., mais d'utiliser ses clés d'API pour payer à la requête. Pour vous donner un ordre d'idée, en l'utilisant très intensément durant une semaine entière pour ForVoyez, nous l'avons utilisé pour faire des tests sur le SaaS. J'ai payé un peu moins de 2 $ la semaine, en l'utilisant BEAUCOUP, quasiment toute la journée pendant 5 jours, sans aucun blocage, et avec des super réponses.
Comment ça marche ?
On le télécharge et on le déploie sur son environnement local (Coolify / CapRover / custom, ou peu importe).
On le télécharge et on le déploie sur son environnement local (Coolify / CapRover / custom, ou peu importe).
On configure nos clés d'API à l'intérieur, avec comme variables d'environnement obligatoires "ANTHROPIC_API_KEY" qu'on récupère ici :
Anthropic Console
Et "OPENAI_API_KEY", qu'on récupère ici :
OpenAI Platform
Et enfin "CODE", qui va définir notre code d'accès.
Anthropic Console
Et "OPENAI_API_KEY", qu'on récupère ici :
OpenAI Platform
Et enfin "CODE", qui va définir notre code d'accès.
On le met sur un sous-domaine, et hop !
On a notre propre ChatGPT, plus qu'à cliquer sur "Click here".
On remplit notre clé, et voilàààà :
Dans nos configurations, on peut ensuite retrouver tout ce dont on pourrait avoir besoin, et nous pouvons changer de modèle à notre guise en fonction de nos besoins.
Nous pouvons également configurer des masks, qui sont des conversations pré-remplies qui donnent pas mal de contexte !
En vous remerciant de votre visite, n'hésitez pas à me
contacter pour toute demande de renseignements, devis ou
proposition de collaboration. Je me ferai un plaisir de
vous répondre dans les plus brefs délais.
Vous avez aimé cet article ? N'hésitez pas à le partager !