La IA está generando muchos cambios en la forma en que hacemos las cosas. Esta herramienta ha sido un asistente en teléfonos móviles y otros dispositivos. Sin embargo, el desarrollo de la IA generativa toma una nueva ruta. Los usuarios pueden simplemente relajarse y dejar que AI haga”todo”por ellos. En noviembre de 2022, OpenAI lanzó el chatbot de IA, ChatGPT. Después de su lanzamiento, esta herramienta ha sido muy popular en el campo de la tecnología. Pero si bien es una gran herramienta de asistencia para muchos, también es una “amenaza” para algunas personas y marcas. Amazon es una de esas marcas que no están tan contentas con ChatGPT. La empresa está muy atenta y ha advertido severamente a su personal que no interactúe con ChatGPT. Advierte al personal que no use ChatGPT para escribir códigos ni comparta códigos ya escritos con ChatGPT para completarlos.
El personal del canal Slack interno de Amazon tiene muchas preguntas sobre cómo usar ChatGPT. Algunos miembros del personal le preguntaron a Amazon si había pautas oficiales para usar ChatGPT en dispositivos de trabajo. Otros se preguntan si se les permitió trabajar con herramientas de IA. Un miembro del personal insta a la división de computación en la nube de Amazon, AWS, a aclarar su postura sobre el uso de”herramientas de IA generativa (AIGC)”.
Pronto, un abogado corporativo de Amazon se unió a la discusión. Las capturas de pantalla de las comunicaciones internas en el canal de Slack muestran al abogado advirtiendo al personal que no proporcione a ChatGPT”ninguna información confidencial de Amazon”. Esta información incluye el código de Amazon que se está escribiendo. También aconseja al personal que siga la política de no divulgación existente de la empresa, ya que algunas de las respuestas de ChatGPT se parecen mucho a la situación interna de Amazon.
“Esto es fundamental porque su entrada puede usarse como datos de capacitación iterativos para ChatGPT. No queremos que su salida contenga o se parezca a nuestra información confidencial”, escribió el abogado. Estos intercambios sugieren que la aparición repentina de ChatGPT ha planteado muchas cuestiones éticas nuevas.
¿Qué es ChatGPT?
ChatGPT es una herramienta de IA conversacional que responde a consultas con respuestas más claras y, a veces, muy inteligentes. La rápida propagación de ChatGPT tiene el potencial de interrumpir varias industrias. Esto incluye los medios de comunicación, la academia y la atención médica. Desde entonces, esto ha impulsado esfuerzos para encontrar nuevos casos de uso para chatbots y su posible impacto.
La forma en que el personal de la empresa comparte información confidencial con ChatGPT y lo que su desarrollador, OpenAI, hace con ella podría convertirse en un tema espinoso. Eso es muy importante para Amazon ya que su archirrival Microsoft ha invertido mucho en OpenAI. Recuerde que, según los informes, la inversión de Microsoft en OpenAI asciende a $ 10 mil millones.
Emily Bender, profesora de lingüística computacional en la Univ. de Washington, dijo: “OpenAI está lejos de ser transparente sobre cómo usa los datos. Pero si esos datos se usan para capacitación, espero que las empresas piensen. Después de varios meses de uso generalizado de ChatGPT, ¿es posible obtener información confidencial de una empresa privada a través de indicaciones cuidadosamente diseñadas?”
Amazon rastrea al personal para ver quién usa ChatGPT
Amazon ha una serie de medidas de seguridad internas para el personal que usa ChatGPT. Por ejemplo, las capturas de pantalla del intercambio muestran que cuando el personal usa dispositivos de trabajo para acceder al sitio web de ChatGPT, aparece un mensaje de advertencia que dice que están a punto de acceder a un servicio de terceros que”puede que Amazon Security no apruebe su uso”.
Noticias de la semana de Gizchina
Personal que participa en Slack el chat del canal dijo que podían omitir el mensaje simplemente haciendo clic en la pestaña”Reconocer”. El personal especula que la ventana emergente de advertencia fue para evitar que pegaran información confidencial en ChatGPT, especialmente porque no habían visto la política de la empresa sobre el uso interno.
Los empleados comparten sus puntos de vista
Todavía , parte del personal de Amazon ya está utilizando herramientas de IA como”asistentes de codificación”de software para ayudar a mejorar las líneas internas de código. “Creo que sería genial tener esta funcionalidad lista para usar ahora, ¡creo! Por lo tanto, cualquier orientación sería excelente”, escribió un empleado de Amazon en un canal de Slack.
Otro miembro del personal dijo que compartió las preguntas de la entrevista de Amazon para un puesto vacante de programación en ChatGPT. Según la publicación de Slack del personal, el modelo de IA brinda soluciones correctas a varios problemas técnicos.”Estoy preocupado y emocionado de ver qué impacto tendrá esto en la forma en que llevamos a cabo las entrevistas de codificación”, dijo.
En general, el personal de Amazon que participó en los chats del canal de Slack estaba entusiasmado con el potencial de ChatGPT.. Incluso se preguntan si Amazon está desarrollando un producto de la competencia. El abogado de la empresa que advirtió a los empleados contra el uso de ChatGPT dijo que Amazon estaba acelerando el desarrollo de”tecnología similar”y citó como ejemplos a la asistente de voz Alexa y al servicio de recomendación de código CodeWhisperer.
Un empleado de AWS escribió que el equipo de soporte empresarial se formó recientemente un pequeño grupo de trabajo interno para”comprender el impacto de la IA de chat avanzada en nuestro negocio”. La investigación muestra que ChatGPT es”muy bueno”para responder preguntas de soporte de AWS, incluida la resolución de problemas de la base de datos de Aurora, entre otros. Al mismo tiempo, también es bueno para crear materiales de capacitación para el examen AWS Certified Cloud Architect, abordando los objetivos de la empresa del cliente.
Lejos de ser transparente
El uso creciente de ChatGPT en el trabajo plantea serias dudas sobre cómo OpenAI planea usar material compartido con herramientas de IA, dijo Bender de UW. Los términos de servicio de OpenAI requieren que los usuarios acepten que pueden usar todas las entradas y salidas generadas por los usuarios y ChatGPT. También dijo que OpenAI eliminó toda la información de identificación personal (PII) de los datos que utilizó.
Pero Bender dice que es difícil ver cómo OpenAI podría identificar y eliminar todos los PII, dada la escala de rápido crecimiento de ChatGPT. ChatGPT tenía más de 1 millón de usuarios solo una semana después de su lanzamiento. Además, es posible que la propiedad intelectual de una empresa no forme parte de la definición de PII.
Para el personal de Amazon, la privacidad de los datos parece ser la menor de sus preocupaciones. El uso de chatbots en el trabajo ha aumentado la productividad en un factor de 10, dicen. Muchos esperan unirse a un equipo interno que desarrolle un servicio similar.
“Si hay planes para crear un servicio similar ahora, me encantaría ser parte de él y contribuir un poco si es necesario. ”, escribió uno de los miembros del personal en Slack.
Fuente/VIA:
