Líderes tecnológicos mundiales llamó a una pausa en los experimentos de IA durante al menos seis meses, instando a que la carrera de IA se haya vuelto”fuera de control”.
Inteligencia artificial está creciendo rápidamente y no muestra ningún signo de desaceleración. Tal vez pocas personas podrían predecir que un simple chatbot conversacional de IA llamado ChatGPT podría remodelar rápidamente toda la industria tecnológica. Sin embargo, este tremendo crecimiento de la IA ahora se ha convertido en una fuente de preocupación para los principales líderes tecnológicos. Ahora piden una pausa inmediata de los sistemas de IA más potentes que GPT-4.
La empresa matriz de ChatGPT, OpenAI, ha presentado recientemente su versión más potente del chatbot de IA, GPT-4. Microsoft está intentando incorporar GPT-4 en su motor de búsqueda Bing y Google también está siguiendo un camino similar con Bard.
Los líderes tecnológicos quieren que los experimentos de IA se detengan durante al menos seis meses
Una larga lista de líderes tecnológicos firmaron la petición, pero Elon Musk y el cofundador de Apple, Steve Wozniak, se encuentran entre los más destacados. Argumentan que incorporar inteligencia humana-competitiva en la IA puede plantear riesgos profundos para la sociedad y la humanidad.
La carta continúa diciendo que los laboratorios de IA están construyendo mentes digitales que incluso los creadores apenas pueden entender, predecir o controlar de manera confiable. Como resultado, la IA puede inundar los canales de información con información errónea.”Los sistemas de IA potentes deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”, dice la carta.
Los signatarios también dicen que la pausa de seis meses en los experimentos de IA debería ser públicos, verificables e incluyen a todos los actores clave. Si esto falla, los gobiernos deben actuar e instituir una moratoria. Además, los laboratorios de IA y los expertos independientes deben intervenir para desarrollar protocolos de seguridad para el diseño avanzado de IA.
Ni OpenAI ni Google ni Microsoft han respondido aún a esta carta. Mientras tanto, James Grimmelmann, profesor de derecho digital y de la información de la Universidad de Cornell, dice:”Una pausa es una buena idea, pero la carta es vaga y no toma en serio los problemas regulatorios”. Grimmelmann también calificó la firma de Elon Musk de”hipócrita”, ya que no era responsable de la IA defectuosa en los autos autónomos de Tesla.
