Trusselen om utryddelse av menneskeheten som AI utgjør, er på nivå med trusselen om en pandemi eller en atomkrig.
Denne advarselen kommer fra en haug med eksperter, inkludert AI-forskere, professorer og tekniske armaturer, inkludert høytstående medlemmer av Google/Alphabet (og DeepMind), OpenAI (produsenten av ChatGPT), og CTO og Chief Science Officer hos Microsoft (en av de største talsmennene for AI for tiden, med Bing, og nå Copilot ).
Den inkluderer også en haug med forfattere som har skrevet lærebøker om kunstig intelligens og dyp læring, og en trio med Turing Award-vinnere, pluss mange, mange andre. Det er ganske tungvektsstøtten her.
Uttalelsen, offisielt utstedt av Senter for AI-sikkerhet, er kort og godt, og lyder:
“Å redusere risikoen for utryddelse fra AI bør være en global prioritet ved siden av andre samfunnsmessige risikoer som pandemier og atomkrig.”
Dette er den siste av en rekke advarsler i nyere tid, og setter en sterk sak for teknologiverdenen å være forsiktig med AI-fremskritt, i stedet for bare å pløye på, hodet ned, uansett-noe som ser ut til å være fristelsen så langt.
Google og Microsoft går begge absolutt videre med sine respektive Bard og Bing AI er så raskt som mulig, med mer bekymring for å falle bak den rivaliserende chatboten enn noen bekymringer om hvilken innvirkning denne typen fremskritt kan ha på samfunnet for øvrig.
Så det er spesielt interessant å se fremtredende ledere fra disse firmaer som signerer denne erklæringen, selv om det er én ting å bekjenne seg til bekymring – og en annen ting å gjøre noe med det. (Noe som kan holde tilbake ditt siste og største håp om å fortsette å dominere søket – eller utfordre Googles dominans i Microsofts tilfelle – og nettet for øvrig).
Reaksjonen på Twitter har blitt forutsigbart polarisert: dette er enten veldig mye en bekymring, eller det er alarmerende og fryktinngytende.
Selv om rettferdighetens skyld, og med fare for å si det helt åpenbare, vil mye av det som skjer koke ned til nøyaktig hvordan vi bruker AI. Med andre ord, faren i seg selv er ikke AI, men hvordan vi former og utvikler den, og hva vi gjør med den.
Det er sikkert de som hevder at det å sette i verk tiltak nå for å styre veksten. AI er nøkkelen til fremtiden, når langt mer sofistikerte inkarnasjoner-å nå AGI eller kunstig generell intelligens-er i spill. (Selv om definisjonen av AGI i seg selv er kontroversiell, som vi har utforsket andre steder).
For oss, selv om det kanskje ikke er en eksistensiell trussel som sådan, er den typen AI som blir innledet nå-store språkmodeller (LLMs)-inneholder absolutt farer og fallgruver vi må være veldig forsiktige med. Hovedsakelig trusselen mot arbeidsplasser, som absolutt er reell-i en bedriftsverden der profitt og aksjonærer generelt er hovedanliggende, ikke arbeidere-og også effekten på den kreative arenaen (kunst og musikk, og ja, også skriftlig innhold).
