LLM Cost & Latency Optimizer - **name_fr:** Optimiseur de coûts et latence LLM - **tl_en:** Cut LLM app costs and latency with caching, model selection, batching and prompt optimization - **tl_fr:** Réduire les coûts et la latence des apps LLM via cache, choix de modèle, batching et optimisation de prompts - **creator:** @patricio0312rev - **type:** Agent skill - **url:** https://github.com/patricio0312rev/skills - **cat:** AI - **kws:** llm, cost optimization, latency, caching, model selection, batching, token costs, performance - **license:** MIT **Description EN:** Curated by Skill Harbor — a practical optimizer for LLM applications: cost-breakdown analysis with a call-tracking pattern, caching strategies (hashed/LRU caches), model-selection guidance, batching and prompt-optimization techniques, plus how to locate latency hotspots and produce configuration recommendations. By @patricio0312rev, listed here with credit to its creator. Honest caveats: the pricing examples in the code may drift as providers change their prices — always re-check current API pricing before trusting any dollar figure; the techniques are stack-agnostic patterns, not a hosted service. Skill Harbor never reviews the code, review it yourself before use. Discovered via skills.sh. **Description FR:** Sélectionné par Skill Harbor — un optimiseur pratique pour applications LLM : analyse de la ventilation des coûts avec un pattern de suivi d'appels, stratégies de cache (caches hashés/LRU), conseils de choix de modèle, techniques de batching et d'optimisation de prompts, plus comment localiser les points chauds de latence et produire des recommandations de configuration. Crédit : @patricio0312rev. Bémols honnêtes : les exemples de prix dans le code peuvent dater car les fournisseurs changent leurs tarifs — revérifiez toujours les prix d'API actuels avant de vous fier à un chiffre ; les techniques sont des patterns agnostiques, pas un service hébergé. Skill Harbor ne vérifie jamais le code, examinez-le vous-même avant usage. Découvert via skills.sh. **Install prompt EN:** ``` Prerequisites: none — a pure techniques skill; an LLM app whose costs/latency you want to optimize Install "LLM Cost & Latency Optimizer" for me. Give my agent the cost and latency optimization toolkit — cost breakdown analysis, caching strategies, model selection, batching, prompt optimization and latency hotspot detection Repository: https://github.com/patricio0312rev/skills/blob/main/ai-engineering/cost-latency-optimizer/SKILL.md 1. Fetch the SKILL.md file for the patricio0312rev-skills-cost-latency-optimizer skill from the repository into a temporary folder and summarize what it does in one or two sentences. 2. Safety check: review the SKILL.md for anything suspicious (unexpected network calls, shell commands, credential harvesting). This repo should contain zero secrets in code, credentials only via the secure vault, allowed hosts declared in the SKILL.md. Verify that holds here; STOP on any red flag and tell me. 3. Install it as a skill: copy SKILL.md into the agent's skills directory, in a folder named "patricio0312rev-skills-cost-latency-optimizer". 4. Verify with no network calls: frontmatter valid, files in place. 5. Report what was installed, where, and what I still need to do myself (e.g. nothing — it is a pure techniques skill). GitHub is optional: if I have a GitHub account or the gh CLI, you may use it; otherwise public access is fine. Never require it unless it's in the prerequisites above. Rules: don't touch anything outside the temp folder and the install target. If anything looks off, stop and ask me. ``` **Install prompt FR:** ``` Prérequis : aucun — un skill de techniques pur ; une app LLM dont vous voulez optimiser coûts et latence Installe-moi « Optimiseur de coûts et latence LLM ». Donne à mon agent la boîte à outils d'optimisation des coûts et de la latence — analyse de ventilation des coûts, stratégies de cache, choix de modèle, batching, optimisation de prompts et détection des points chauds de latence Dépôt : https://github.com/patricio0312rev/skills/blob/main/ai-engineering/cost-latency-optimizer/SKILL.md 1. Récupère le fichier SKILL.md du skill patricio0312rev-skills-cost-latency-optimizer depuis le dépôt dans un dossier temporaire et résume en une ou deux phrases ce qu'il fait. 2. Contrôle de sécurité : examine le SKILL.md pour tout contenu suspect (appels réseau inattendus, commandes shell, récolte d'identifiants). Ce dépôt ne doit contenir aucun secret dans le code ; les identifiants passent uniquement par le coffre sécurisé, les hôtes autorisés sont déclarés dans le SKILL.md. Vérifie que c'est bien le cas ; STOP sur le moindre signal d'alerte et préviens-moi. 3. Installe-le comme skill : copie SKILL.md dans le répertoire des skills de l'agent, dans un dossier nommé « patricio0312rev-skills-cost-latency-optimizer ». 4. Vérifie sans aucun appel réseau : frontmatter valide, fichiers en place. 5. Indique ce qui a été installé, où, et ce qu'il me reste à faire moi-même (p. ex. rien — c'est un skill de techniques pur). GitHub est optionnel : si j'ai un compte GitHub ou la CLI gh, tu peux l'utiliser ; sinon l'accès public suffit. Ne jamais l'exiger sauf si c'est dans les prérequis ci-dessus. Règles : ne touche à rien en dehors du dossier temporaire et de la cible d'installation. Si quelque chose semble anormal, arrête-toi et demande-moi. ``` ---

Cut LLM app costs and latency with caching, model selection, batching and prompt optimization - **tl_fr:** Réduire les coûts et la latence des apps LLM via cache, choix de modèle, batching et optimisation de prompts - **creator:** @patricio0312rev - **type:** Agent skill - **url:** https://github.com/patricio0312rev/skills - **cat:** AI - **kws:** llm, cost optimization, latency, caching, model selection, batching, token costs, performance - **license:** MIT **Description EN:** Curated by Skill Harbor — a practical optimizer for LLM applications: cost-breakdown analysis with a call-tracking pattern, caching strategies (hashed/LRU caches), model-selection guidance, batching and prompt-optimization techniques, plus how to locate latency hotspots and produce configuration recommendations. By @patricio0312rev, listed here with credit to its creator. Honest caveats: the pricing examples in the code may drift as providers change their prices — always re-check current API pricing before trusting any dollar figure; the techniques are stack-agnostic patterns, not a hosted service. Skill Harbor never reviews the code, review it yourself before use. Discovered via skills.sh. **Description FR:** Sélectionné par Skill Harbor — un optimiseur pratique pour applications LLM : analyse de la ventilation des coûts avec un pattern de suivi d'appels, stratégies de cache (caches hashés/LRU), conseils de choix de modèle, techniques de batching et d'optimisation de prompts, plus comment localiser les points chauds de latence et produire des recommandations de configuration. Crédit : @patricio0312rev. Bémols honnêtes : les exemples de prix dans le code peuvent dater car les fournisseurs changent leurs tarifs — revérifiez toujours les prix d'API actuels avant de vous fier à un chiffre ; les techniques sont des patterns agnostiques, pas un service hébergé. Skill Harbor ne vérifie jamais le code, examinez-le vous-même avant usage. Découvert via skills.sh. **Install prompt EN:** ``` Prerequisites: none — a pure techniques skill; an LLM app whose costs/latency you want to optimize Install "LLM Cost & Latency Optimizer" for me. Give my agent the cost and latency optimization toolkit — cost breakdown analysis, caching strategies, model selection, batching, prompt optimization and latency hotspot detection Repository: https://github.com/patricio0312rev/skills/blob/main/ai-engineering/cost-latency-optimizer/SKILL.md 1. Fetch the SKILL.md file for the patricio0312rev-skills-cost-latency-optimizer skill from the repository into a temporary folder and summarize what it does in one or two sentences. 2. Safety check: review the SKILL.md for anything suspicious (unexpected network calls, shell commands, credential harvesting). This repo should contain zero secrets in code, credentials only via the secure vault, allowed hosts declared in the SKILL.md. Verify that holds here; STOP on any red flag and tell me. 3. Install it as a skill: copy SKILL.md into the agent's skills directory, in a folder named "patricio0312rev-skills-cost-latency-optimizer". 4. Verify with no network calls: frontmatter valid, files in place. 5. Report what was installed, where, and what I still need to do myself (e.g. nothing — it is a pure techniques skill). GitHub is optional: if I have a GitHub account or the gh CLI, you may use it; otherwise public access is fine. Never require it unless it's in the prerequisites above. Rules: don't touch anything outside the temp folder and the install target. If anything looks off, stop and ask me. ``` **Install prompt FR:** ``` Prérequis : aucun — un skill de techniques pur ; une app LLM dont vous voulez optimiser coûts et latence Installe-moi « Optimiseur de coûts et latence LLM ». Donne à mon agent la boîte à outils d'optimisation des coûts et de la latence — analyse de ventilation des coûts, stratégies de cache, choix de modèle, batching, optimisation de prompts et détection des points chauds de latence Dépôt : https://github.com/patricio0312rev/skills/blob/main/ai-engineering/cost-latency-optimizer/SKILL.md 1. Récupère le fichier SKILL.md du skill patricio0312rev-skills-cost-latency-optimizer depuis le dépôt dans un dossier temporaire et résume en une ou deux phrases ce qu'il fait. 2. Contrôle de sécurité : examine le SKILL.md pour tout contenu suspect (appels réseau inattendus, commandes shell, récolte d'identifiants). Ce dépôt ne doit contenir aucun secret dans le code ; les identifiants passent uniquement par le coffre sécurisé, les hôtes autorisés sont déclarés dans le SKILL.md. Vérifie que c'est bien le cas ; STOP sur le moindre signal d'alerte et préviens-moi. 3. Installe-le comme skill : copie SKILL.md dans le répertoire des skills de l'agent, dans un dossier nommé « patricio0312rev-skills-cost-latency-optimizer ». 4. Vérifie sans aucun appel réseau : frontmatter valide, fichiers en place. 5. Indique ce qui a été installé, où, et ce qu'il me reste à faire moi-même (p. ex. rien — c'est un skill de techniques pur). GitHub est optionnel : si j'ai un compte GitHub ou la CLI gh, tu peux l'utiliser ; sinon l'accès public suffit. Ne jamais l'exiger sauf si c'est dans les prérequis ci-dessus. Règles : ne touche à rien en dehors du dossier temporaire et de la cible d'installation. Si quelque chose semble anormal, arrête-toi et demande-moi. ``` ---

Version: