Redaktörsbetyg: Användarbetyg:[Totalt: 0 Genomsnitt: 0] @media(min-bredd: 500px) { } @media(min-bredd: 800px) { }
Faraday.dev är en gratis programvara som du kan ladda ner och installera på din PC som låter dig köra LLM med öppen källkod. Den kommer med några färdiga AI-modeller som du kan ladda ner och koppla in i appen och sedan använda. Den tillhandahåller ett chattgränssnitt som ChatGPT där du kan ställa frågor och det kommer att returnera AI-genererade svar.
För tillfället kommer det med några modeller som du kan ladda ner och ladda in i programvaran och sedan fortsätta med interaktiv chatt. Men för att köra den på lokal PC måste du ha en PC med bra hårdvarukonfiguration. Minst 8 GB RAM krävs för att köra den lägsta modellen. Utöver det erbjuder den dig en trevlig chatt där du kan ange en textuppmaning och sedan svarar AI.
Hur kör man LLM med öppen källkod på din dator med denna gratis programvara?
Du kan ladda ner skrivbordsappen av Faraday härifrån. Den är ganska tung i storlek och så efter nedladdning installerar du den och kör den. Huvudgränssnittet kommer nu att visas som ser ut som ovan, och det har en lista över modeller som stöds.
Så, det första du behöver göra är att välja en modell och ladda den. Om du har 8 GB minne, börja med ett mindre. Vänta bara i några sekunder medan den laddar ner modellen.
När modellen har laddats ner, välj den från gränssnittet och sedan tar den dig till chattgränssnittet. Härifrån kan du nu ställa vilken fråga som helst. Du kan fortsätta ställa frågor till den och den kommer att fortsätta ge dig svaren.
Du kan skapa flera omvandlingar för olika ämnen och sedan ställa frågorna därefter. Korrektheten i svaren beror på vilken modell du har valt. De mindre modellerna kan generera fel svar på ett specifikt ämne som kodning. Detta är det förväntade beteendet och för bättre resultat behöver du bättre hårdvara så att du kan använda mer kraftfulla modeller.
Avslutande tankar:
Om du letar efter en gratis programvara att köra redan tillgängliga LLMs med öppen källkod då är du rätt ställe. Ladda bara ner och installera Faraday.dev-skrivbordsappen och prova sedan de olika modellerna med öppen källkod att chatta med. Du kan använda dem för att generera bildtexter i sociala medier, svara på allmänna frågor och göra mycket mer.
