Snips is a AI Voice Assistant platform 100% on-device and private
Ejecutores locales de LLM, asistentes de código con IA, motores de inferencia y RAG.
Snips is a AI Voice Assistant platform 100% on-device and private
Get up and running with large language models locally
“We wanted local LLMs to feel as effortless as running a Docker container.”
Run LLMs on your Mac
Llama2 Embeddings FastAPI Server
An AI "Be My Eyes"-like web app with a llama.cpp backend
Open-Source DocumentAI with Ollama
Ollama for realtime speech-to-text
Ollama for Smartphones
Some blind hackers are bridging IRC to LMMs running locally
Tune LLaMa3.1 on Google Cloud TPUs
Asistente de voz local que utiliza Ollama, Transformers y el kit de herramientas de síntesis de voz Coqui
He añadido compatibilidad con modelos de lenguaje grandes (LLM) locales a Apple Notes (a través de Ollama)
local LLM Chrome extension
Using LLama2 to Correct OCR Errors
Equilibrador de carga de código abierto para llama.cpp
Local LLM Benchmark
He entrenado un modelo de 125 millones de parámetros para autocompletar partituras de piano en el propio dispositivo
Comprueba la velocidad a la que funciona un LLM local antes de comprar el hardware
Encuentra el mejor LLM local para tu hardware, clasificado según los resultados de las pruebas de rendimiento
Ollama para modelos clásicos de aprendizaje automático: 336 veces más rápido que Python
motor de inferencia LLM de alto rendimiento en C++ y CUDA
Archivo binario que ejecuta modelos GGUF a través de Vulkan en AMD/Intel/Nvidia
Dictado por voz OSS integrado en el dispositivo para macOS, sin necesidad de descargar ningún modelo
Cuantifica cualquier modelo para que se ejecute en tu ordenador
Recorta el audio seleccionando el texto, todo ello directamente en el dispositivo
Un gestor de clústeres de GPU de 40 MB para vLLM/SGLang, sin necesidad de K8s