Sin dal lancio di ChatGPT e dei suoi rivali, le opinioni sul chatbot AI sono state divise. Mentre alcuni ritengono che sia vitale e che faccia risparmiare tempo, alcuni altri si preoccupano delle persone che usano l’intelligenza artificiale per diffondere disinformazione e plagiare il lavoro. OpenAI, la società dietro il bot virale AI ChatGPT e il generatore di testo in immagini DALL-E, ha rilasciato un nuovo strumento di classificazione AI per identificare il testo scritto da AI. In un comunicato stampa ufficiale, i dettagli di OpenAI come è stato addestrato il classificatore, i suoi limiti e altre metriche. Scopri tutti i dettagli di seguito.
Il classificatore di OpenAI distingue il testo AI dalla scrittura umana
In un recente comunicato stampa, la società ha spiegato in dettaglio come questo nuovo strumento di classificazione AI è pensato per aiutare le persone a identificare il testo AI. Lo strumento lo fa ricevendo input dagli utenti e quindi eseguendolo attraverso i suoi dati addestrati per classificarlo come AI o contenuto generato dall’uomo.
Il classificatore AI è un modello linguistico ed è stato addestrato su un set di dati che comprende coppie di testo umano e testo scritto da AI sullo stesso argomento. OpenAI osserva che i dati umani sono stati raccolti da varie fonti che ritengono siano state scritte da esseri umani. Questo testo è stato suddiviso in prompt e risposte su cui è stato generato il testo AI per raccogliere un set di dati completo.
Il classificatore AI non è ancora completamente affidabile
Sebbene il nuovo strumento abbia lo scopo di semplificare la nostra vita (soprattutto insegnanti e professori) quando si tratta di AI, l’azienda ha affermato chiaramente che AI Classifier non è completamente affidabile e soggetto a errori. Nelle valutazioni interne dell’azienda, il classier ha identificato correttamente il 26% del testo scritto da AI come”probabilmente scritto da AI”.
Ha inoltre identificato erroneamente il 9% del testo umano come scritto dall’intelligenza artificiale. Sebbene il margine di errore sia piuttosto basso, è evidente che il Classificatore non è infallibile. Inoltre, OpenAI afferma che non è affidabile su testi brevi inferiori a 1.000 caratteri.
“Il nostro classificatore ha una serie di limitazioni importanti. Non dovrebbe essere utilizzato come strumento decisionale primario, ma come complemento ad altri metodi per determinare la fonte di una parte di testo.”OpenAI
Lo strumento ha alcune altre limitazioni , compreso il supporto solo per gli input in inglese, la difficoltà nei testi prevedibili e la scarsa calibrazione al di fuori dei dati di addestramento. Per tutti questi motivi e altro ancora, questo nuovo classificatore AI non dovrebbe ancora essere utilizzato come strumento decisionale primario. Tuttavia, con il passare del tempo, possiamo aspettarci miglioramenti man mano che vengono forniti più dati.
Come se la cava OpenAI Classifier nei nostri test
AI Text Classifier di OpenAI (collegamento al sito web) è uno strumento online gratuito. Quindi, abbiamo deciso di provarlo per un breve giro e si comporta bene come ci si aspetterebbe in questa fase. Ho testato diversi articoli di lunghezza moderata dal nostro sito web. Questi includevano notizie e articoli di approfondimento. Dopo aver incollato il testo ed eseguito lo strumento, abbiamo ottenuto la risposta”Il classificatore considera il testo molto improbabile generato dall’IA”.
Per testare come funziona, ho chiesto a ChatGPT di scrivere un racconto e ho usato il Classificatore per vedere se poteva identificare che la storia era stata scritta dal suo stesso fratello AI. Per fortuna, ha reso la risposta che il testo era”probabilmente generato dall’intelligenza artificiale”. Ho provato lo stesso con altri testi come Il mercante di Venezia di Shakespeare e l’IA ha rilevato un improbabile coinvolgimento dell’IA.
Come accennato in precedenza, il classificatore OpenAI dovrebbe migliorare con l’aumentare del suo set di dati. Tuttavia, anche fino a quando ciò non accadrà, sei libero di utilizzare lo strumento e divertirti con esso. Allora, quali sono i tuoi pensieri sui rilevatori di testo AI? Pensi che siano una necessità nel 2023? Lascia i tuoi due centesimi nei commenti qui sotto.
Lascia un commento
