A medida que las empresas de Australia exploran los beneficios de la IA generativa en el lugar de trabajo, desde una mayor productividad, hasta mejores experiencias de los empleados, millones de trabajadores pueden estar adoptando las herramientas sin darse cuenta de los riesgos potenciales.
Una encuesta que Google realizó con IPSOS en enero encontró que casi la mitad de todos los australianos usan IA generativa y casi el 75 por ciento de los que lo informan para el trabajo.
Mientras tanto, una encuesta realizada por la plataforma de recursos humanos de Workday reveló que alrededor del 65 por ciento de los trabajadores australianos confirmaron que su empleador había introducido IA en el lugar de trabajo.
Algunos australianos están utilizando una IA generativa para ayudar a enviar correos electrónicos de trabajo sin darse cuenta plenamente del riesgo. (Getty)
Pero incluso usar IA generativa para una tarea tan simple como enviar un correo electrónico comercial puede tener consecuencias no deseadas.
El director de la limpieza de arrendamiento de Melbourne, Michael, aprendió por las malas cuando un error en un correo electrónico comercial aparentemente inofensivo le costó $ 2000.
Solía llevar a su equipo unas cinco horas para responder a los correos electrónicos de los clientes, por lo que comenzaron a usar una herramienta de IA generativa para acelerar el proceso.
“Estábamos tratando de ahorrar algo de tiempo al no escribir listas individuales de servicios de limpieza”, dijo a 9News.com.au.
En cambio, ingresarían un aviso que describe los servicios que un cliente requirió y haría que la herramienta AI genere un correo electrónico que detalla los servicios, sus costos y una cotización de trabajo.
La herramienta redujo su tiempo de respuesta a una hora, pero Michael admitió que no era perfecto.
En varias ocasiones, la herramienta AI enumeró por error una ‘limpieza de pared completa’ en lugar de una ‘limpieza de pared manchas’, pero no cambió la cita para reflejar el servicio más costoso.
Significaba que Michael y su equipo tenían que proporcionar la limpieza de la pared completa de $ 500 a $ 700 al precio mucho más bajo del lugar, perdiendo el negocio cientos.
La cola final llegó en marzo, cuando Michael hizo que la herramienta AI generara una cita para una propiedad “sucia” que requería una limpieza de aproximadamente $ 2000.
El uso de herramientas de IA aumentó la productividad de Michael, pero también hubo dificultades. (Getty)
Le dio un correo electrónico a la IA generado un rápido que una vez se lo envió al cliente.
Michael no se dio cuenta de que estaba plagado de errores hasta una semana después, momento en el que el cliente había ido a una compañía diferente.
“Perdimos bastante dinero”, dijo Michael.
No es el único trabajador australiano que paga por los errores cometidos por la IA generativa en los correos electrónicos de negocios.
Otros que hablaron con 9News afirmaron que AI se había dirigido a clientes, clientes y colegas con el nombre o el título equivocado en correos electrónicos, poniendo en peligro las oportunidades de negocios y las relaciones laborales.
Pero los riesgos van más allá de los contratiempos incómodos, los abogados de propiedad intelectual de Dentons y tecnología de la información, Robyn Chatwood y Michael Park, dijeron a 9News.
Las herramientas generativas de IA “alucinarán”, en las que inventan hechos que no son precisos, lo que puede causar más problemas para los trabajadores si incluyen estas “alucinaciones” en la correspondencia profesional.
Tampoco es raro que las herramientas de IA infrinjan los derechos de autor o violen por error las reglas de confidencialidad, lo que puede tener serias ramificaciones en un entorno profesional.
En tales situaciones, los trabajadores “todavía tienen la responsabilidad y la responsabilidad” según Chatwood.
“No se puede decir que la máquina cometió un error, porque deberías haberla comprobado”, dijo.
Los 10 mejores trabajos dominados por mujeres más amenazados por AI
Park advirtió que la mejor manera para que los trabajadores australianos se protejan de este tipo de errores es atenerse a la política de uso de AI de su empleador, sin importar cuán tentador sea acelerar una tarea mediante el uso de IA.
“Si su política dice que no lo hagas, entonces no lo hagas”, le dijo a 9News.
“Te estás protegiendo de meterse potencialmente en problemas”.
Los trabajadores o propietarios de pequeñas empresas que no tienen una política de uso de IA deben errar por precaución, agregó.
Desde que se perdió el trabajo de $ 2000, Michael y su equipo ya no usan IA generativa para ninguna correspondencia comercial.
Aunque significa que su tiempo de respuesta ha vuelto a la marca de cinco horas, eso es mejor que cometer otro error costoso usando IA generativa.
“Si está utilizando AI, definitivamente necesita leer todo dos o tres veces antes de enviar ese correo electrónico”, dijo.
