Infomaniak partage les valeurs de Tech Café : éthique, écologie et respect de la vie privée. Découvrez les services de notre partenaire sur Infomaniak.comMise à jour du dossier qui vous propose d'installer et utiliser votre propre interface avec un modèle de langage sur votre appareil, sans dépendre des services en ligne...
❤️ Patreon
? Discord
? techcafe.fr

Ce qui n'a pas changé, ou juste un min-p.

Top modèles

Mistral et ses dérivés, Mixtral, Miqu, et Yi, l’outsider venu de Chine.
LLAVA et le multimodal.
Qwen, Orion, Phi2, Deepseek et les autres.
Les “Frankenmerges” : Solar, Goliath, c’est du lourd.
Retrouvez tout ça ici, où là en gguf.

Nouveautés logicielles

Les formats : c’est pire qu’avant, évidemment.
LM Studio a son serveur, idéal pour Open Interpreter.
Jan l’alternative open source et Ollama.
RAG doll : GPT4All a un atout caché !
Koboldcpp et Sillytavern, l’alternative weeb mais surpuissante.
Fine tuning artisanal : les Lora sur Oobabooga.
Llamacpp : serveur, et finetune sur CPU.

Participants

Une émission préparée par Guillaume Poggiaspalla
Présenté par Guillaume Vendé