Ostatnio osobliwe zjawisko szturmem podbiło internet. Użytkownicy popularnego modelu językowego, ChatGPT, zauważyli spójny wzorzec, gdy prosili go o rzut kostką.
Co zaskakujące, niektórzy twierdzą, że wynikowa liczba to prawie zawsze 4. To odkrycie wzbudziło ciekawość i doprowadziło do serii eksperymentów w celu ustalenia, czy ChatGPT ma problemy z prawdopodobieństwem
Czy ChatGPT AI ma problemy z prawdopodobieństwem?
Pierwsze oznaki tej anomalii pojawiły się na platformach społecznościowych, takich jak Reddit i Twitter (1,2,3,4).
Źródło (kliknij/stuknij, aby wyświetlić)
Użytkownicy dzielili się swoimi doświadczeniami, w których konsekwentnie otrzymywali liczbę 4 za każdym razem, gdy prosili ChatGPT „Rzuć dla mnie sześciościenną kostką”.
Oczywiście to osobliwe zachowanie doprowadziło do pytań dotyczących rozumienia prawdopodobieństwa przez ChatGPT.
Rzut standardową kostką sześciościenną powinien dać dość równy rozkład liczb, przy czym każda ściana ma 1/6 prawdopodobieństwa pojawienia się.
Jednak konsekwentny wynik ChatGPT wynoszący 4 wydaje się przeczyć tym oczekiwaniom.
Po co komu prawdziwe kości, skoro ChatGPT może po prostu „wyrzucić” 4 za Ciebie?
Źródło
Jedno wiarygodne wyjaśnienie konsekwentnych rzutów kostką ChatGPT wynoszących 4 można przypisać tendencji modelu do domyślnej wartości określonej wartości, gdy przedstawiono mu niejednoznaczne lub niezdefiniowane zadanie.
To zachowanie można uznać za formę lenistwa, ponieważ ChatGPT wybiera najprostszą opcję bez uwzględnienia zasad prawdopodobieństwa.
Aby dokładniej zbadać tę hipotezę, użytkownicy zaczęli eksperymentować, wielokrotnie obracając kostką i zanotuj wygenerowaną liczbę, aż będzie pasować do poprzedniego wyniku.
Co zaskakujące, liczba prób wymaganych do odtworzenia tej samej liczby była znacznie niska:
Źródło (kliknij/dotknij, aby wyświetlić)
Użytkownicy uważają, że sztuczna inteligencja ChatGPT prawdopodobnie zaokrągli w górę dowolną liczbę powyżej 3,5 do 4, ponieważ średnia matematyczna 1-6 wynosi 3,5:
Wierzę, że wynika to z „wierzenia”, że średnia matematyczna 1-6 wynosi 3,5 (co jest prawdą), ponieważ nie można wyrzucić 3,5, każda dodatkowa byłaby 4
Źródło
Należy jednak pamiętać, że te eksperymenty lub teorie nie dostarczają ostatecznych dowodów, ale raczej anegdotyczne dowody.
To wirusowe zjawisko otaczające sztuczną inteligencję ChatGPT urzekło internautów i wywołało intrygujące dyskusje na temat rozumienia prawdopodobieństwa przez model i czy z nim walczy.
Chociaż nie jest jasne, czy to zachowanie jest wynikiem ograniczeń technicznych, czy dziwactw danych treningowych.
Wraz z postępem w dziedzinie sztucznej inteligencji kluczowe znaczenie ma rozwikłanie takich tajemnic, aby zapewnić niezawodność i dokładność tych potężnych narzędzi.
