Samsung prohíbe el uso de IA por parte de los empleados por preocupaciones sobre la fuga de datos
Según los informes, Samsung ha prohibido su uso por parte de los empleados. IA generativa herramientas como ChatGPT para evitar la transmisión de datos internos confidenciales a servidores externos.
El gigante de la electrónica de Corea del Sur emitió un memorando a un departamento clave instando a los empleados a no usar herramientas de IA, según un Informe de Bloomberg, que dijo que revisó el memorándum. Bloomberg no dijo qué departamento recibió el memorando.
Además, se advirtió a los empleados que usan ChatGPT y otras herramientas de IA en dispositivos personales que no carguen datos relacionados con la empresa u otra información que pueda comprometer la propiedad intelectual de la empresa. Según el memorando, esto podría conducir a la terminación del empleo.
El memorando planteó preocupaciones sobre el ingreso de datos como código confidencial en plataformas de IA. La preocupación es que todo lo que se escribe en una herramienta de IA como ChatGPT se almacena en servidores externos, lo que hace que la recuperación y eliminación sea muy difícil y potencialmente accesible para otros usuarios también.
«El interés en las plataformas de IA generativa como ChatGPT ha crecido interna y externamente», dice el memorando. «Si bien este interés se centra en la utilidad y la eficiencia de estas plataformas, también hay una creciente preocupación por los riesgos de seguridad que plantea la IA generativa».
El memo viene después de una marcha notificación de OpenAI, el desarrollador de ChatGPT, que cuenta con el apoyo de Microsoft, que un error en una biblioteca de código abierto, desde que se solucionó, permitía a algunos usuarios de ChatGPT ver títulos del historial de chat de otro usuario activo.
La prohibición de la herramienta por parte de Samsung también se produce un mes después de una encuesta interna realizada para comprender los riesgos de seguridad asociados con la IA. Alrededor del 65 % de los empleados encuestados dijeron que ChatGPT plantea serias amenazas a la seguridad. Además, en abril, los ingenieros de Samsung «filtraron accidentalmente el código fuente interno al subirlo a ChatGPT», decía el memorando. Sin embargo, el memorándum no reveló exactamente cuál era el código y no explicó si el código simplemente se escribió en ChatGPT o si también fue verificado por alguien fuera de Samsung.
El legislador quiere regular la IA
Temiendo que ChatGPT y otros sistemas de IA puedan filtrar datos privados y difundir información falsa, los reguladores han comenzado a considerar restricciones en su uso. El Parlamento Europeo, por ejemplo, está a pocos días de finalizar una ley Ley de IAy el El Consejo Europeo de Protección de Datos (EDPB) está reuniendo un grupo de trabajo de IAque se centra en ChatGPT para investigar posibles amenazas de IA.
El mes pasado, Italia impuso restricciones de privacidad en ChatGPT y prohibió temporalmente sus operaciones en el país. OpenAI acordó realizar los cambios solicitados por los reguladores italianos, después de lo cual reinició el servicio.
Las empresas que ofrecen herramientas de IA están comenzando a responder a las preocupaciones sobre la privacidad y la fuga de datos. OpenAI anunció el mes pasado que permitiría a los usuarios para deshabilitar la función de historial de chat para ChatGPT. La función de «historial deshabilitado» significa que las conversaciones marcadas como tales no se utilizarán para entrenar los modelos subyacentes de OpenAI y no aparecerán en la barra lateral del historial, dijo la compañía.
Mientras tanto, según los informes de los medios, Samsung está trabajando en herramientas internas de IA para la traducción y el resumen de documentos, así como en el desarrollo de software. También está trabajando en formas de bloquear la carga de información confidencial de la empresa a servicios externos.
«La sede está revisando las medidas de seguridad para crear un entorno seguro para el uso seguro de la IA generativa para aumentar la productividad y la eficiencia de los empleados», dice el memorando. «Sin embargo, hasta que se preparen estas medidas, estamos restringiendo temporalmente el uso de la IA generativa».
Con este movimiento, Samsung se une al grupo en expansión de empresas que están poniendo algún tipo de moderación en esta tecnología innovadora. Entre ellos se encuentran bancos de Wall Street como JPMorgan Chase, Bank of America y CitiGroup.
Derechos de autor © 2023 IDG Communications, Inc.
Este contenido de ciberseguridad nos ha llegado de: CSO Online
Podrás encontrar la noticia original en el enlace que sigue: https://www.csoonline.com/article/3695170/samsung-bans-staff-ai-use-over-data-leak-concerns.html#tk.rss_news