Utilise un modèle hébergé sur votre propre serveur Ollama (par exemple derrière Caddy). Vos messages sont alors envoyés à ce serveur, en HTTPS.
Un contexte plus grand consomme plus de mémoire sur le serveur : avec 4 Go de RAM, restez à 4096 pour un modèle de 4 milliards de paramètres. Si le serveur manque de mémoire, il le signale.
Un contexte plus grand consomme plus de mémoire. Le modèle est rechargé au prochain message si le contexte change. L'historique est tronqué automatiquement.
…