Las expectativas cambiantes para los desarrolladores en un futuro de codificación de IA

COMENTARIO

El imparable ascenso de IA generativa (GenAI) en la creación de software ha impuesto una nueva realidad a los desarrolladores de software. Esperan un futuro en el que escribir código (el campo tradicional de los desarrolladores de software desde que se inventó el software) será menos necesario o ya no será necesario. Aunque el futuro puede parecer un poco incierto para los desarrolladores, especialmente aquellos que buscan ingresar a este campo, tienen un lugar firme en el futuro. Es sólo uno que probablemente implicará menos escritura de código y más seguridad, tutoría y colaboración.

Los desarrolladores preocupados por la seguridad que puedan demostrar experiencia en el uso seguro de herramientas de IA pueden eventualmente asumir nuevos roles como guardianes o mentores de la IA, trabajando con la IA para garantizar la adopción de código seguro en su base de código.

Las empresas, a su vez, deben apoyar a la cohorte de desarrolladores para que se conviertan en el hermano mayor responsable de la IA, un socio principal que lleva las riendas de un novato en IA muy talentoso, aunque a veces impredecible. Esto requiere la total aceptación de la alta dirección, una implementación cuidadosa de la IA en la tecnología existente y la adopción de Principios de seguridad por diseño como parte de una cultura donde la seguridad es primordial y no se descuida la importancia de una adopción exitosa.

Además, los desarrolladores deben recibir una formación cuidadosa en prácticas de codificación segura y se les debe dar la oportunidad de aplicar la seguridad al entorno de desarrollo.

Los equipos utilizan IA pero necesitan comprender los riesgos

Desde la llegada de modelos de lenguaje grandes (LLM) Como ChatGPT, GitHub Copilot, OpenAI Codex y otros, los desarrolladores han mostrado entusiasmo por el uso de herramientas de IA. Encuesta de GitHub Un estudio realizado en la primavera de 2023, siete meses después de que surgiera ChatGPT, encontró que el 92% de los desarrolladores ya utilizan herramientas de inteligencia artificial tanto dentro como fuera del trabajo. Y el 70% dijo que las herramientas mejorarían la calidad del código, acelerarían los tiempos de finalización y les ayudarían a resolver problemas más rápido.

Sin embargo, se pasan por alto importantes problemas de seguridad. uno mas nuevo Encuesta realizada por Snyken el que el 96% de los miembros y líderes del equipo de seguridad y desarrollo de software informaron que usaban herramientas de codificación de IA, se encontró que una gran mayoría de los desarrolladores ignoraron las pautas de seguridad del código de IA, a pesar de que las herramientas de IA generaban regularmente código inseguro.

Aunque casi el 76% de los encuestados dijeron que el código de IA es más seguro que el código generado por humanos, más de la mitad (56,4%) todavía dijo que el código de IA a veces o con frecuencia crea problemas de seguridad. El 80% dijo que ignora las pautas de seguridad al desarrollar código de IA.

Y dado que los modelos de IA entrenados en cantidades masivas de código existente no pueden detectar errores en el código en uso, estos errores pueden propagarse fácilmente por todo el ecosistema de software.

Las empresas necesitan un nuevo enfoque si quieren aprovechar los beneficios de velocidad, eficiencia y calidad del código de la IA, minimizando al mismo tiempo los riesgos de las herramientas de codificación de IA y evitando los peligros de una dependencia excesiva de la IA. Deben hacer de la seguridad una prioridad en el desarrollo de código, automatizar los procesos más a fondo y capacitar a los equipos para utilizar la IA de forma segura. Para los desarrolladores, esto significa que el enfoque de su trabajo debe cambiar.

Así podría ser el futuro trabajo de un desarrollador

A pesar de todas las ventajas que aportan las herramientas de programación de IA, la conclusión es que no se puede confiar en que funcionen de forma completamente independiente. Su tendencia a utilizar código inseguro sin reconocer las fallas, introducir errores ellos mismos y no tener conocimiento contextual de cómo funciona el código con el resto del código base requiere que su trabajo se revise cuidadosamente antes de entrar en producción. La tarea de vigilar por encima del hombro de una IA recaerá en los desarrolladores.

Para las empresas que dan prioridad a la seguridad, este trabajo encaja perfectamente con el enfoque de los desarrolladores en integrar la seguridad en el proceso de desarrollo desde el principio. Ya sea que las empresas vean esto como un giro hacia la izquierda o simplemente como un nuevo comienzo, los desarrolladores deben recibir capacitación en las mejores prácticas para la codificación segura.

Además de escribir código seguro y evaluar el resultado del código de las herramientas de inteligencia artificial, las tareas de los desarrolladores también cambiarán de otras maneras. A medida que adquieran conocimientos sobre codificación segura y tendencias de IA, serán responsables de inculcar continuamente las mejores prácticas seguras. Capacitarán a los desarrolladores novatos y a sus equipos sobre cómo utilizar la IA de manera responsable. Los desarrolladores también participarán en el establecimiento de parámetros para los datos utilizados para entrenar herramientas de inteligencia artificial empresarial, garantizando que los datos de capacitación sean completos sobre el tema y estén lo más libres de errores y vulnerabilidades posible.

Las expectativas de los desarrolladores y las medidas de su éxito cambiarán. Por ejemplo, la seguridad pronto será uno de los indicadores clave de rendimiento (PKI) con los que los desarrolladores deberán medirse. A medida que los desarrolladores vayan adquiriendo sus nuevas funciones centradas en la seguridad, se espera que trabajen con los equipos de AppSec para alcanzar los objetivos de Security at Speed.

Las empresas y otras organizaciones deben respaldar la transición con capacitación práctica específica diseñada para ayudar a los desarrolladores a resolver problemas del mundo real. Los materiales de capacitación deben entregarse en una variedad de formatos y planificarse para adaptarse a la forma en que trabajan los desarrolladores. Una cultura que prioriza la seguridad también permite a los desarrolladores ampliar sus habilidades de pensamiento crítico y garantizar que actúan con una mentalidad de seguridad, especialmente al evaluar las amenazas potenciales que el código vulnerable podría representar para sus asistentes de IA.

Dada la solidez y la complejidad del panorama de amenazas actual, los lugares de trabajo de los desarrolladores en muchas organizaciones ya han evolucionado hacia una mentalidad de seguridad. Además, el software seguro también cuenta cada vez más con el respaldo de las salas de juntas y podría ponerse en riesgo al aumentar la programación de IA sin la orientación y las salvaguardias adecuadas. Afortunadamente, con la formación adecuada, los desarrolladores pueden convertirse en la primera línea de defensa contra los errores de programación de la IA, lo que permite a las organizaciones aprovechar los numerosos beneficios de la IA y al mismo tiempo mitigar sus importantes deficiencias.