Od czasu premiery ChatGPT i jego rywali opinie na temat chatbota AI są podzielone. Podczas gdy niektórzy uważają, że jest to niezbędne i oszczędza czas, kilku innych jest zaniepokojonych ludźmi wykorzystującymi sztuczną inteligencję do rozpowszechniania dezinformacji i plagiatu pracy. OpenAI, firma stojąca za wirusowym botem AI ChatGPT i generatorem tekstu na obraz DALL-E, wydała nowe narzędzie AI Classifier do identyfikacji tekstu napisanego przez AI. W oficjalnym komunikacie prasowym szczegóły OpenAI sposób trenowania klasyfikatora, jego ograniczenia i inne wskaźniki. Sprawdź wszystkie szczegóły poniżej.
Klasyfikator OpenAI odróżnia tekst AI od pisma ludzkiego
W niedawnym komunikacie prasowym firma szczegółowo opisała, w jaki sposób to nowe narzędzie klasyfikatora AI ma pomóc ludziom w identyfikacji tekstu AI. Narzędzie robi to, otrzymując dane wejściowe od użytkowników, a następnie przepuszczając je przez wyszkolone dane, aby sklasyfikować je jako sztuczną inteligencję lub treści generowane przez człowieka.
Klasyfikator AI jest modelem językowym i został przeszkolony na zbiorze danych, który zawiera pary tekstu napisanego przez człowieka i przez sztuczną inteligencję na ten sam temat. OpenAI zauważa, że dane ludzkie zostały zebrane z różnych źródeł, które ich zdaniem zostały napisane przez ludzi. Ten tekst został podzielony na monity i odpowiedzi, na podstawie których wygenerowano tekst AI w celu zebrania pełnego zestawu danych.
Klasyfikator AI nie jest jeszcze w pełni niezawodny
Chociaż nowe narzędzie ma ułatwić nam życie (zwłaszcza nauczycielom i profesorom), jeśli chodzi o sztuczną inteligencję, firma jasno stwierdziła że klasyfikator AI nie jest w pełni niezawodny i podatny na błędy. W wewnętrznych ocenach firmy specjalista poprawnie zidentyfikował 26% tekstu napisanego przez sztuczną inteligencję jako „prawdopodobnie napisanego przez sztuczną inteligencję”.
Ponadto 9% tekstu ludzkiego zostało błędnie zidentyfikowane jako napisane przez sztuczną inteligencję. Chociaż margines błędu jest dość niski, oczywiste jest, że klasyfikator nie jest niezawodny. Ponadto OpenAI wspomina, że jest niewiarygodny w przypadku krótkich tekstów poniżej 1000 znaków.
„Nasz klasyfikator ma kilka ważnych ograniczeń. Nie powinno być używane jako podstawowe narzędzie do podejmowania decyzji, ale jako uzupełnienie innych metod określania źródła fragmentu tekstu.”OpenAI
To narzędzie ma inne ograniczenia , w tym wsparcie tylko dla danych wejściowych w języku angielskim, trudności w przewidywalnych tekstach i słaba kalibracja poza danymi treningowymi. Z tych wszystkich i wielu innych powodów ten nowy klasyfikator AI nie powinien być jeszcze używany jako podstawowe narzędzie do podejmowania decyzji. Jednak w miarę upływu czasu możemy spodziewać się poprawy w miarę dostarczania do niego większej ilości danych.
Jak wypadł klasyfikator OpenAI w naszych testach
Klasyfikator tekstu AI OpenAI (link do strony internetowej) to bezpłatne narzędzie online. Postanowiliśmy więc wziąć go na krótką przejażdżkę i działa tak dobrze, jak można się spodziewać na tym etapie. Przetestowałem różne artykuły o średniej długości z naszej strony internetowej. Obejmowały one wiadomości i artykuły fabularne. Po wklejeniu tekstu i uruchomieniu narzędzia otrzymaliśmy odpowiedź „Klasyfikator uważa, że tekst został wygenerowany przez sztuczną inteligencję z bardzo małym prawdopodobieństwem”.
Aby sprawdzić, jak dobrze to działa, poprosiłem ChatGPT o napisanie krótkiej historii i użyłem klasyfikatora, aby sprawdzić, czy może zidentyfikować historię napisaną przez jego własne rodzeństwo AI. Na szczęście odpowiedział, że tekst został „prawdopodobnie wygenerowany przez sztuczną inteligencję”. Próbowałem tego samego z kilkoma innymi tekstami, takimi jak Kupiec wenecki Szekspira, i sztuczna inteligencja wykryła nieprawdopodobny udział sztucznej inteligencji.
Jak wspomniano powyżej, klasyfikator OpenAI powinien być coraz lepszy wraz ze wzrostem zbioru danych. Jednak nawet do tego czasu możesz swobodnie korzystać z tego narzędzia i dobrze się nim bawić. Co sądzisz o wykrywaczach tekstu AI? Czy uważasz, że są one koniecznością w 2023 roku? Wrzuć swoje dwa centy w komentarzach poniżej.
Zostaw komentarz