Redaktørbedømmelser: Brugerbedømmelser:[Totalt: 0 Gennemsnit: 0] @media(min-width: 500px) { } @media(min-width: 800px) { }
Faraday.dev er en gratis software, som du kan downloade og installere på din pc, som giver dig mulighed for at køre open source LLM’er. Den kommer med nogle færdiglavede AI-modeller, som du kan downloade og tilslutte til appen og derefter bruge. Det giver en chatgrænseflade som ChatGPT, hvor du kan stille spørgsmål, og den vil returnere AI-genererede svar.
For nu kommer den med et par modeller, som du kan downloade og indlæse i softwaren og derefter fortsætte med interaktiv chat. Men for at køre det på lokal pc, skal du have en pc med god hardwarekonfiguration. Der kræves mindst 8 GB RAM for at køre den laveste model. Bortset fra det giver det dig en hyggelig chat, hvor du kan indtaste tekstprompt, og så vil AI svare.
Hvordan kører man Open Source LLM’er på din pc med denne gratis software?
Du kan downloade desktop-appen af Faraday herfra. Det er ret tungt i størrelse, og så efter at have downloadet, installerer du det og kører det. Hovedgrænsefladen vises nu, som ser ud som vist ovenfor, og den har en liste over understøttede modeller.
Så den første ting du skal gøre er at vælge en model, indlæse den. Hvis du 8 GB hukommelse, så start med en mindre. Bare vent et par sekunder, mens den downloader modellen.
Når modellen er blevet downloadet, skal du vælge den fra grænsefladen, og så vil den tage dig til chatgrænsefladen. Herfra kan du nu stille ethvert spørgsmål. Du kan blive ved med at stille den spørgsmål, og den vil blive ved med at give dig svarene.
Du kan oprette flere konverteringer for forskellige emner og derefter stille spørgsmålene i overensstemmelse hermed. Nøjagtigheden af svarene afhænger af den model, du har valgt. De mindre modeller kan generere forkerte svar om specifikke emner såsom kodning. Dette er den forventede adfærd, og for bedre resultater har du brug for bedre hardware, så du kan bruge mere kraftfulde modeller.
Afsluttende tanker:
Hvis du leder efter en gratis software til at køre de allerede tilgængelige open source LLM’er, så er du det rigtige sted. Bare download og installer Faraday.dev desktop-app og prøv derefter de forskellige open source-modeller at chatte med. Du kan bruge dem til at generere billedtekster på sociale medier, besvare generiske spørgsmål og gøre meget mere.
