Todo lo que necesitas saber

Desde que OpenAI trajo ChatGPT al mundo, las opiniones se han dividido entre aquellos que creen que mejorará radicalmente la forma en que vivimos y trabajamos y aquellos que están preocupados por el potencial de interrupción, particularmente en torno a la privacidad de las personas y las organizaciones.

Ya ha habido incidentes en los que informacion delicada se filtró y los empleados se metieron en problemas después de ingresar información confidencial de la empresa en el chatbot, y algunos países incluso emitieron uno prohibición temporal sobre su uso con fines de protección de datos.

Entonces, ¿qué hace ChatGPT con sus datos y cómo puede usarlos de manera segura?

¿De dónde obtiene ChatGPT los datos?

Chat GPT es una herramienta de inteligencia artificial (IA) basada en el aprendizaje automático (ML). Esto significa que utiliza algoritmos ML para comprender la entrada del usuario y responder a ella en una conversación. Para hacer esto, ha sido “entrenado” con grandes cantidades de información de Internet, incluidos 570 GB de datos de libros, Wikipedia, artículos y otro contenido en línea.

Poseer esta cantidad de información le permite responder preguntas, escribir ensayos, crear y depurar código, resolver ecuaciones matemáticas complejas e incluso traducir diferentes idiomas.

Sin embargo, debido a que es una herramienta de procesamiento de lenguaje natural, funciona de manera probabilística, respondiendo preguntas al predecir cuál debería ser la siguiente palabra en una oración, según los millones de ejemplos en los que está entrenado. Esto significa que la información que proporciona puede ser inexacto o incompleto Dado que la mayoría de los datos que contiene se crearon antes de 2021, no se puede proporcionar información sobre eventos de los últimos dos años.

¿Qué tan seguro es ChatGPT?

ChatGPT almacena las indicaciones y respuestas que escribe para continuar entrenando sus algoritmos. Incluso si elimina sus conversaciones, el bot aún puede usar estos datos para mejorar su IA. Esto presenta un riesgo cuando los usuarios ingresan información confidencial personal o de la empresa que sería atractiva para las partes maliciosas si se violara.

Además, cuando se usa, almacena otros datos personales, como su ubicación aproximada, dirección IP, detalles de pago e información del dispositivo (aunque la mayoría de los sitios web almacenan este tipo de información con fines analíticos, por lo que esto no es exclusivo de ChatGPT).

Los métodos de recopilación de datos empleados por OpenAI han generado preocupación entre algunos investigadores, ya que los datos extraídos pueden contener material protegido por derechos de autor. en un artículo sobre La conversaciónUri Gal, profesor de informática empresarial en la Universidad de Sydney, calificó a ChatGPT como «una pesadilla de privacidad» y afirmó: «Si alguna vez ha escrito una publicación de blog o una reseña de un producto o ha comentado un artículo en línea, es muy probable que Esta información fue consumida por ChatGPT».

ChatGPT y ciberseguridad

Hay evidencia de esto también ChatGPT ya se está utilizando con fines maliciosos. Debido a su capacidad para escribir código, puede usarse para crear malware, crear sitios web oscuros y realizar ataques cibernéticos.

Último centro de CS reunión del consejo asesorLos miembros hablaron de notar que ChatGPT se está utilizando para desarrollar sofisticados ataques de phishing para mejorar el lenguaje, ya que la ortografía y la gramática deficientes a menudo son signos reveladores de un intento de phishing. También informaron que se implementa para ayudar a los actores malintencionados a comprender mejor la psicología de los destinatarios previstos, con el objetivo de presionarlos para que hagan que los ataques de phishing sean más efectivos.

En marzo de 2023, más de mil expertos en IA, incluidos los cofundadores de OpenAI, Elon Musk y Sam Altman, pidieron una pausa inmediata en el desarrollo de otras herramientas clave de IA generativa durante al menos seis meses para dar a los investigadores tiempo para comprender mejor qué riesgos implican y cómo mitigarlos.

Estoy de acuerdo en que estoy cerca de una IA peligrosamente fuerte, en el sentido de una IA que representa un gran riesgo de ciberseguridad, por ejemplo. y creo que podríamos llegar a AGI real en la próxima década, por lo que también debemos tomar el riesgo de eso muy en serio.

— Sam Altman (@sama) 3 de diciembre de 2022

¿Qué violaciones de protección de datos ha habido hasta ahora?

OpenAI ha confirmado que un error en el código fuente del chatbot en marzo de 2023 podría haber provocado una fuga de datos que permitió a ciertos usuarios ver partes del historial de chat de otro usuario activo. La información relacionada con el pago también puede haber estado disponible por el 1,2 por ciento de los suscriptores de ChatGPT Plus que estuvieron activos durante un período determinado.

OpenAI emitió un comunicado diciendo que cree que la cantidad de usuarios cuyos datos fueron expuestos fue «extremadamente pequeña» dado que tenían un correo electrónico de suscripción abierto o funciones específicas en un orden específico durante un clic obligatorio dentro de un cierto período de tiempo para verse afectado. . Aún así, ChatGPT estuvo fuera de línea durante varias horas mientras se solucionaba el error.

Antes Samsung tuvo tres incidentes separados Se ingresó información confidencial de la empresa en el chatbot (el código fuente de Samsung, una transcripción de una reunión de la empresa y una secuencia de prueba para identificar chips defectuosos), lo que condujo a investigaciones disciplinarias.

Hasta donde sabemos, los datos no se han filtrado, pero como se mencionó anteriormente, todo lo ingresado en ChatGPT se almacena para entrenar su algoritmo, por lo que la información patentada ingresada por los empleados de Samsung ahora está teóricamente disponible para cualquiera que use la plataforma.

¿Qué dice OpenAI sobre la seguridad de sus datos?

OpenAI dice que funciona examen anual para identificar vulnerabilidades de seguridad y evitar que sean explotadas por actores malintencionados. También ejecuta un «programa de recompensas por errores» que invita a investigadores y piratas informáticos éticos a probar la seguridad del sistema en busca de vulnerabilidades y recibir recompensas monetarias por hacerlo.
Vale la pena señalar que, según OpenAI, a diferencia de ChatGPT, los datos enviados a través de su API no se almacenan.

Para averiguar exactamente qué tan seguros son los datos en ChatGPT, fuimos directamente a la fuente y preguntamos cuál era el riesgo de una violación de datos.

ChatGPT respondió que no tiene control directo sobre la seguridad de los sistemas que almacenan y procesan sus datos. Sin embargo, OpenAI, la organización detrás de ChatGPT, se toma muy en serio la seguridad y la privacidad de los datos. “Han implementado medidas para proteger los datos y minimizar el riesgo de una violación de datos.

«Sin embargo, ningún sistema es completamente inmune a las posibles vulnerabilidades de seguridad», dijo. “Siempre existe un pequeño riesgo inherente de violación de datos o acceso no autorizado. Sin embargo, organizaciones como OpenAI emplean varias prácticas de seguridad, que incluyen encriptación, controles de acceso y auditorías de seguridad periódicas, para mitigar estos riesgos y garantizar la confidencialidad e integridad de los datos”.

¿Qué pueden hacer los usuarios para proteger sus datos?

Al igual que con todas las aplicaciones digitales, el mismo ChatGPT aconseja: «Si tiene alguna inquietud sobre la privacidad o la seguridad de sus interacciones con ChatGPT, es recomendable evitar compartir información confidencial o de identificación personal». Es importante tener precaución al interactuar con sistemas de IA u otras plataformas en línea”.

Otro consejo general es crear una contraseña segura y única y cerrar la aplicación después de usarla, especialmente en dispositivos compartidos.
También es posible rechazar el almacenamiento de datos por parte de ChatGPT completando un formulario formulario en linea.

En abril de este año, OpenAI presentó una nueva función que permite a los usuarios desactivar el historial de chat. Las conversaciones iniciadas después de habilitar esta función no se guardarán para entrenar el algoritmo y no aparecerán en la barra lateral del historial, con la limitación de que se guardarán durante otros 30 días antes de eliminarse de forma permanente.

El futuro de ChatGPT y la ciberseguridad

Jonathan Jackson, Director de Ingeniería de Ventas APJ en BlackBerry Cybersecurity, cree que la probabilidad de que ocurran ciberataques relacionados con ChatGPT en el futuro cercano es inevitable. «Hay muchos beneficios en el uso de esta tecnología avanzada y aunque solo estamos arañando la superficie de su potencial, tampoco podemos ignorar las implicaciones». escribió para centro de CS en febrero de 2023. «A medida que la plataforma madura y los piratas informáticos se vuelven más sofisticados, se vuelve más difícil de defender sin usar también la IA para nivelar el campo de juego».

Agregó que la IA se usa cada vez más para crear mensajes de phishing convincentes, engañando a las personas para que revelen información confidencial o instalen malware, y que también se podrían lanzar herramientas de IA. Ataques distribuidos de denegación de servicio (DDoS)sobrecargando así los sistemas de una organización con tráfico, interrumpiendo las operaciones.

«Hay muchos beneficios en el uso de esta tecnología avanzada, pero tampoco podemos ignorar las implicaciones».

Los pedidos de regulación de la IA generativa ciertamente están aumentando. Junto con la carta abierta que pedía una moratoria de seis meses para el desarrollo de proyectos adicionales (que ahora tiene más de 30 000 firmas), el «padrino de la IA» Geoffrey Hinton fue noticia cuando renunció a su puesto en Google para cuidar de sí mismo y poder hablar públicamente sobre los posibles peligros de la nueva tecnología.

Los gobiernos de todo el mundo también están discutiendo regulaciones. La Unión Europea fue la primera en aprobar una importante ley llamada » Ley de IA, que asigna aplicaciones de IA a diferentes categorías de riesgo. Por ejemplo, una aplicación que utilice datos personales para realizar puntuaciones sociales, tal como la utiliza el gobierno chino, supondría un “riesgo inaceptable” y sería prohibida.

Desde entonces, se levantó la prohibición de usar ChatGPT en las escuelas de Nueva York, pero el gobierno de EE. UU. ha publicado su Blueprint for a AI Bill of Rights, que asesora a las empresas sobre cómo usar la IA de manera ética.

Mientras tanto, en el Reino Unido, el otrora entusiasta Primer Ministro Rishi Sunak anunció recientemente un cambio en el enfoque de la IA, previendo “un despliegue seguro y protegido de la IA con barandillas en su lugar”. Entre febrero y abril de 2023, el Ministerio del Interior del Reino Unido realizó una revisión abierta de la Ley de uso indebido de computadoras de 1990 para proponer cambios que garantizarían que también cubriera los ataques cibernéticos impulsados ​​por IA.

Si bien apenas comenzamos a rascar la superficie de lo que la IA es capaz de hacer, los profesionales de la ciberseguridad y los gobiernos deben estar un paso por delante de esta tecnología en rápida evolución antes de que sea demasiado tarde para detener un ataque serio.

sigue leyendo