Las empresas no saben qué comprar para la IA responsable

El potencial de la IA está creciendo, pero las tecnologías basadas en datos personales del mundo real requieren un uso responsable de esa tecnología, dice la Asociación Internacional de Profesionales de la Privacidad. la uso de IA crecerá más de un 25% cada año durante los próximos cinco años, según PricewaterhouseCoopers.

«Los marcos claros que permiten la coherencia, la estandarización y el uso responsable son elementos clave para el éxito de la IA», la IAPP escribió en su último Informe de privacidad y gobernanza de IA.

La IA responsable es una práctica tecnológica que se centra en la privacidad, la supervisión humana, la solidez, la responsabilidad, la seguridad, la explicabilidad y la equidad. Sin embargo, el 80% de las empresas encuestadas aún no han formalizado la elección de herramientas para evaluar el uso responsable de la IA. A las organizaciones les resulta difícil adquirir las herramientas técnicas adecuadas para abordar los riesgos éticos y de privacidad asociados con la IA, escribió la IAPP en el informe.

Si bien las organizaciones tienen buenas intenciones, no tienen una idea clara de qué tecnologías las llevarán a una IA responsable. En el 80% de las organizaciones encuestadas, las políticas éticas de IA casi siempre se limitan a declaraciones de políticas de alto nivel y objetivos estratégicos, dijo IAPP.

“Sin una comprensión clara de las categorías disponibles de herramientas necesarias para hacer operativa la IA responsable, los tomadores de decisiones individuales, siguiendo los requisitos legales o tomando medidas específicas para evitar sesgos o una caja negra, no pueden y no basarán sus decisiones en el mismo apoyo de premisas”. decía el informe.

Cuando se les preguntó acerca de las herramientas para la privacidad y la IA responsable, el 34 % mencionó herramientas de IA responsable, el 29 % procesos, el 24 % políticas y el 13 % competencias.

• Las habilidades y pautas incluyen listas de verificación, el uso del marco ICO, el desarrollo y el seguimiento de libros de jugadas, y el uso de Slack y otras herramientas de comunicación interna. Las herramientas GRC también se mencionaron en estas dos categorías.
• Los procesos incluyen evaluaciones de impacto de protección de datos, atribución/etiquetado/segregación de datos, gestión de acceso y registro de actividades de procesamiento (RoPA).
• Las herramientas de IA responsable incluyeron fairlearn, InterpreML LIME, SHAP, tarjetas modelo, Truera y cuestionarios completados por el usuario.

Aunque las organizaciones están al tanto de las nuevas tecnologías, como las tecnologías de mejora de la privacidad, probablemente aún no las hayan adoptado, según la IAPP. Los PET ofrecen nuevas oportunidades para la privacidad a través del análisis colaborativo de datos y la privacidad por diseño. Sin embargo, el 80% de las empresas dicen que no usan PET en sus organizaciones debido a preocupaciones sobre el riesgo de implementación.