Snips is a AI Voice Assistant platform 100% on-device and private
Executores locais de LLM, assistentes de código com IA, motores de inferência e RAG.
Snips is a AI Voice Assistant platform 100% on-device and private
Comece a usar modelos de linguagem de grande porte localmente
“We wanted local LLMs to feel as effortless as running a Docker container.”
Run LLMs on your Mac
Llama2 Embeddings FastAPI Server
An AI "Be My Eyes"-like web app with a llama.cpp backend
DocumentAI de código aberto com o Ollama
Ollama para conversão de fala em texto em tempo real
Ollama para smartphones
Alguns hackers cegos estão conectando o IRC a LMMs em execução localmente
Ajustar o LLaMa 3.1 nas TPUs do Google Cloud
Assistente de voz local utilizando o Ollama, transformers e o kit de ferramentas Coqui TTS
Adicionei suporte a LLM local ao Apple Notes (por meio do Ollama)
Extensão do Chrome para LLM local
Usando o LLama2 para corrigir erros de OCR
Equilibrador de carga de código aberto para llama.cpp
Avaliação comparativa de LLM local
Treinei um modelo de 125 milhões de parâmetros para preenchimento automático de partituras de piano no próprio dispositivo
experimente a velocidade de execução de um LLM local antes de comprar o hardware
Encontre o melhor LLM local para o seu hardware, classificado por testes de desempenho
Ollama para modelos clássicos de aprendizado de máquina, 336 vezes mais rápido que o Python
mecanismo de inferência LLM de alto desempenho em C++ e CUDA
Arquivo binário que executa modelos GGUF via Vulkan em placas AMD/Intel/Nvidia
Dictado de voz OSS no próprio dispositivo para macOS, sem necessidade de baixar nenhum modelo
Quantize qualquer modelo para que ele seja executado no seu computador
Corte o áudio selecionando o texto, totalmente no próprio dispositivo
A 40 MB GPU cluster manager for vLLM/SGLang, no K8s needed