Snips est une plate-forme AI Voice Assistant 100% sur l'appareil et privé
Exécuteurs LLM locaux, assistants de code IA, moteurs d’inférence et pipelines RAG.
Snips est une plate-forme AI Voice Assistant 100% sur l'appareil et privé
Se lancer rapidement avec les grands modèles linguistiques en local
“Nous voulions que l'utilisation des LLM locaux soit aussi simple que celle d'un conteneur Docker.”
Run LLMs on your Mac
Llama2 Embeddings FastAPI Server
An AI "Be My Eyes"-like web app with a llama.cpp backend
DocumentAI open source avec Ollama
Ollama pour la reconnaissance vocale en temps réel
Ollama pour smartphones
Some blind hackers are bridging IRC to LMMs running locally
Tune LLaMa3.1 on Google Cloud TPUs
Assistant vocal local utilisant Ollama, les transformateurs et la boîte à outils Coqui TTS
J'ai ajouté la prise en charge des LLM locaux à Apple Notes (via Ollama)
Extension Chrome LLM locale
Utilisation de LLama2 pour corriger les erreurs d'OCR
Équilibreur de charge open source pour llama.cpp
Test de performance des modèles LLM locaux
J'ai entraîné un modèle de 125 millions de paramètres pour permettre la saisie semi-automatique des partitions de piano directement sur l'appareil.
feel how fast a local LLM runs before you buy the hardware
Find the best local LLM for your hardware, ranked by benchmarks
Ollama for classical ML models, 336x faster than Python
high performance LLM inference engine in C++ and CUDA
Fichier binaire permettant d'exécuter les modèles GGUF via Vulkan sur AMD/Intel/Nvidia
Dictée vocale OSS intégrée à l'appareil pour macOS, sans modèle à télécharger
Quantifiez n'importe quel modèle pour qu'il puisse s'exécuter sur votre machine
Découper un fichier audio en sélectionnant du texte, entièrement sur l'appareil
Un gestionnaire de cluster GPU de 40 Mo pour vLLM/SGLang, sans avoir besoin de K8s