Redaktørvurderinger: Brukervurderinger:[Totalt: 0 Gjennomsnitt: 0] @media(min-bredde: 500px) { } @media(min-bredde: 800px) { }
Faraday.dev er en gratis programvare som du kan laste ned og installere på din PC som lar deg kjøre åpen kildekode LLM. Den kommer med noen ferdiglagde AI-modeller som du kan laste ned og koble til appen og bruke deretter. Det gir et chat-grensesnitt som ChatGPT der du kan stille spørsmål og det vil returnere AI-genererte svar.
For nå kommer det med noen få modeller som du kan laste ned og laste inn i programvaren og deretter fortsette med interaktiv chat. Men for å kjøre den på lokal PC, må du ha en PC med god maskinvarekonfigurasjon. Minst 8 GB RAM kreves for å kjøre den laveste modellen. Bortsett fra det gir den deg en hyggelig chat der du kan skrive inn tekstmelding og så vil AI svare.
Hvordan kjører du Open Source LLM-er på din PC med denne gratis programvaren?
Du kan laste ned skrivebordsappen av Faraday herfra. Den er ganske tung i størrelse, så etter nedlasting installerer du den og kjører den. Hovedgrensesnittet vil nå vises som ser ut som vist ovenfor, og det har en liste over støttede modeller.
Så, det første du må gjøre er å velge en modell, last den inn. Hvis du har 8 GB minne, så start med en mindre. Bare vent i noen sekunder mens den laster ned modellen.
Når modellen er lastet ned, velg den fra grensesnittet og så tar den deg til chat-grensesnittet. Herfra kan du nå stille alle spørsmål. Du kan fortsette å stille den spørsmål, og den vil fortsette å gi deg svarene.
Du kan opprette flere konverteringer for forskjellige emner og deretter stille spørsmålene deretter. Nøyaktigheten av svarene avhenger av modellen du har valgt. De mindre modellene kan generere feil svar på spesifikt emne som koding. Dette er forventet oppførsel, og for bedre resultater trenger du bedre maskinvare slik at du kan bruke kraftigere modeller.
Avsluttende tanker:
Hvis du leter etter en gratis programvare å kjøre de allerede tilgjengelige open source LLM-ene, så er du rett sted. Bare last ned og installer Faraday.dev-skrivebordsappen, og prøv deretter de forskjellige open source-modellene du kan chatte med. Du kan bruke dem til å generere bildetekster på sosiale medier, svare på generelle spørsmål og gjøre mye mer.
