Calificaciones del editor: Calificaciones de los usuarios:[Total: 0 Promedio: 0] @media(min-width: 500px) { } @media(min-width: 800px) { }
Faraday.dev es un software gratuito que puede descargar e instalar en su PC que le permite ejecutar LLM de código abierto. Viene con algunos modelos de IA listos para usar que puede descargar y conectar a la aplicación y luego usar. Proporciona una interfaz de chat como ChatGPT donde puede hacer preguntas y devolverá respuestas generadas por IA.
Por ahora, viene con algunos modelos que puede descargar y cargar en el software y luego continuar con el charla interactiva. Sin embargo, para ejecutarlo en una PC local, debe tener una PC con una buena configuración de hardware. Se requieren al menos 8 GB de RAM para ejecutar el modelo más bajo. Aparte de eso, le ofrece un agradable chat donde puede ingresar un mensaje de texto y luego AI responderá.
¿Cómo ejecutar LLM de código abierto en su PC con este software gratuito?
Puede descargar la aplicación de escritorio de Faraday desde aquí. Tiene un tamaño bastante pesado y, por lo tanto, después de descargarlo, lo instala y lo ejecuta. Ahora aparecerá la interfaz principal que se ve como se muestra arriba, y tiene una lista de modelos compatibles.
Entonces, lo primero que debe hacer es seleccionar un modelo para cargarlo. Si tiene 8 GB de memoria, comience con uno más pequeño. Solo espere unos segundos mientras se descarga el modelo.
Una vez que se haya descargado el modelo, selecciónelo en la interfaz y luego lo llevará a la interfaz de chat. Desde aquí, ya puedes hacerle cualquier pregunta. Puede seguir haciéndole preguntas y él seguirá brindándole las respuestas.
Puede crear múltiples conversiones para diferentes temas y luego hacer las preguntas correspondientes. La precisión de las respuestas depende del modelo que haya seleccionado. Los modelos más pequeños pueden generar respuestas incorrectas sobre temas específicos, como la codificación. Este es el comportamiento esperado y para obtener mejores resultados, necesita un mejor hardware para poder usar modelos más potentes.
Pensamientos finales:
Si está buscando un software gratuito para ejecutar los LLM de código abierto ya disponibles, entonces usted es el lugar correcto. Simplemente descargue e instale la aplicación de escritorio Faraday.dev y luego pruebe los diferentes modelos de código abierto para chatear. Puede usarlos para generar subtítulos en las redes sociales, responder preguntas genéricas y hacer mucho más.
