Framework flexible para inferencia y ajuste fino de LLM en entornos heterogéneos
Open Sourceaillminferenceframework
Gratis
Framework flexible para inferencia y ajuste fino de LLM en entornos heterogéneos
Ejecuta modelos de LLM, visión, voz, imágenes y video localmente