Los reguladores combaten los deepfakes con normas antifraude

A medida que los deepfakes generados por IA se vuelven más sofisticados, los reguladores están recurriendo a las normas existentes sobre fraude y engaño para combatir el abuso. Aunque ninguna ley federal aborda específicamente los deepfakes, agencias como la FTC y la SEC están empleando soluciones creativas para mitigar estos riesgos.

La calidad de los deepfakes generados por IA es asombrosa. “Ya no podemos creer lo que vemos. Lo que ves no es real”, afirma Yu Chen, profesor de la Universidad de Binghamton. Se están desarrollando herramientas que puedan distinguir entre una imagen auténtica y una deepfake en tiempo real. Pero incluso si un usuario sabe que una imagen no es real, todavía existen desafíos.

“Usar herramientas de inteligencia artificial para engañar, engañar o defraudar a las personas es ilegal”, dijo en septiembre la presidenta de la Comisión Federal de Comercio, Lina M. Kahn. Las herramientas de inteligencia artificial utilizadas para cometer fraude o engaño están sujetas a las leyes aplicables, y Khan dejó en claro que la FTC tomará medidas contra los estafadores de inteligencia artificial.

Intención: fraude y engaño

Los deepfakes pueden utilizarse para otras prácticas comerciales desleales por parte de las empresas, como crear una imagen falsa de un ejecutivo que anuncia que su empresa está tomando una medida que podría resultar en un cambio en los precios de las acciones. Por ejemplo, un deepfake podría provocar que una empresa cierre o realice una adquisición. Si se trata de negociación de acciones, la SEC podría emprender acciones penales.

Si se crea un deepfake con el Intención «Es un elemento clásico del fraude», dice Joanna Forster, socia del bufete de abogados Crowell & Morning y ex fiscal general adjunta de la Sección de Fraude Corporativo del Estado de California.

«Todos hemos visto una FTC muy activista en las áreas de antimonopolio y competencia, protección del consumidor y privacidad durante los últimos cuatro años», dice Forster.

De hecho, un funcionario de la FTC dice en una sesión informativa que la agencia está abordando el problema de manera agresiva. En abril se aplica un reglamento Fraude gubernamental o empresarial entró en vigor. La agencia también continúa sus esfuerzos con respecto a los clones de voz que tienen como objetivo engañar y defraudar a las víctimas. La agencia tiene uno. Blog de consultoría empresarial que rastrea muchos de estos esfuerzos.

Varias leyes estatales y locales abordan los deepfakes y la privacidad, pero no existen leyes federales ni reglas claras que determinen qué agencia toma la iniciativa en su aplicación. A principios de octubre, el juez de distrito estadounidense John A. Méndez emitió una orden judicial preliminar que bloqueaba una ley de California contra los deepfakes relacionados con las elecciones. Aunque el juez reconoció que la IA y los deepfakes plantean riesgos importantes, la ley de California probablemente viola la Primera Enmienda, dijo Méndez. Actualmente, 45 estados y el Distrito de Columbia tienen leyes que prohíben el uso de deepfakes en las elecciones.

Desafíos de privacidad y responsabilidad

Existen pocas leyes que protejan a personas que no son celebridades o políticos de que un deepfake viole su privacidad. Las leyes están escritas para proteger el rostro, la voz y el comportamiento de las celebridades. Esto es diferente de un cómic que imita a una celebridad para entretener y no tiene intención de engañar a la audiencia. Sin embargo, cuando un deepfake intenta engañar a la audiencia, cruza la línea de la intención de engañar.

En el caso de un deepfake de una persona que no es una celebridad, no hay forma de demandar sin saber primero quién creó el deepfake, lo cual no siempre es posible en Internet, dice Debbie Reynolds, experta en privacidad y directora ejecutiva de Debbie Reynolds Consulting. En algunos casos pueden aplicarse leyes sobre robo de identidad, pero el anonimato en línea es difícil de superar. «Quizás nunca se sepa quién creó esto, pero ese daño aún existe», dice Reynolds.

Si bien algunos estados están considerando leyes específicamente centradas en el uso de IA y deepfakes, la herramienta utilizada para cometer fraude o engaño no es importante, dice Edward Lewis, director ejecutivo de CyXcel, una consultora especializada en derecho de ciberseguridad y gestión de riesgos. Muchos líderes empresariales no se dan cuenta de lo fácil que es crear y distribuir deepfakes y otros contenidos generados por IA.

“No se trata tanto de lo que necesito saber sobre los deepfakes; «Se trata más de quién tiene acceso y cómo controlamos ese acceso en el lugar de trabajo porque no queremos que nuestros empleados interactúen con la IA por razones inapropiadas». En segundo lugar, ¿cuáles son las políticas de nuestra empresa con respecto al uso de la IA? ¿En qué contexto se puede utilizar o no y a quién le damos acceso a la IA para que pueda cumplir sus tareas?”

Lewis señala: “Es, en términos generales, la misma forma en que tenemos controles para otros riesgos de ciberseguridad. Los mismos controles deben considerarse en el contexto del uso de la IA”.

A medida que los deepfakes generados por IA se vuelven más sofisticados, los reguladores están trabajando para adaptarse aprovechando las leyes de privacidad y fraude existentes. Debido a que no existen leyes federales específicas para los deepfakes, agencias como la FTC y la SEC hacen cumplir activamente las reglas contra el engaño, la suplantación y la suplantación de identidad. Pero persisten los desafíos en torno a la rendición de cuentas, la privacidad y el reconocimiento, lo que deja brechas que tanto los individuos como las organizaciones deben abordar. A medida que el marco regulatorio siga evolucionando, las medidas proactivas (como las políticas de gobernanza de la IA y el monitoreo continuo) serán fundamentales para mitigar el riesgo y mantener la confianza en el panorama digital.