Una fuerza policial ha dicho que es la primera en trabajar con compañías telefónicas para educar a los jóvenes y sus familias sobre los peligros de la inteligencia artificial (IA).
La policía de Essex ha lanzado un vídeo de concienciación con EE y su empresa matriz BT y ofrecerá consejos de seguridad sobre inteligencia artificial en sus tiendas del condado.
La inteligencia artificial se ha utilizado para manipular vídeos, imágenes y audios que, sin embargo, parecen reales (lo que se conoce como deepfakes ) con fines de abuso sexual en línea y difusión de desinformación.
La inspectora detective Emma Portfleet dijo que si bien las aplicaciones de inteligencia artificial podrían usarse por «razones positivas, también tienen el potencial de causar un daño inconmensurable».
En el vídeo, un joven actor habla de las ventajas de la IA y la describe como «como magia».
Más tarde, el niño aparece filmando a un hombre mayor que usa un andador en una calle principal y usa la tecnología para adaptar el metraje, haciendo que parezca que el hombre está haciendo piruetas como un bailarín de ballet.
Le dice a la audiencia que la IA puede usarse «para difundir mentiras e invadir su privacidad».
La policía de Essex dice que trabaja con los resultados de los vídeos de IA a diario.
Policía de Essex. Foto de Brandon Tyler bajo custodia policial. Tiene cabello oscuro con un flequillo ligeramente suelto y barba corta. Lleva una sudadera negra con capucha y mira a la cámara.Policía de Essex
Un juez dijo que Brandon Tyler mostró el «peor tipo de masculinidad tóxica».
En abril, Brandon Taylor, un camarero de 26 años de Braintree, fue encarcelado durante cinco años por crear imágenes sexualmente explícitas que representaban a mujeres reales.
Tomó fotos de sus cuentas de redes sociales y utilizó inteligencia artificial para manipularlas antes de compartirlas en sitios web, algunos de los cuales glorificaban la violación.
Compartir imágenes deepfake sexualmente explícitas es un delito penal según la Ley de Seguridad en Línea de 2023, y este año el gobierno anunció que la ley se endurecería.
Facebook. Esta es una instantánea del video deepfake. Un hombre que parece ser George Freeman está sentado frente a una ventana, hablando directamente a la cámara. Lleva camisa, corbata y gafas. Sobre él se ve el logo del Partido Reformista y las palabras «Reform UK – Make Britain Great» (Reforma el Reino Unido – Haz que Gran Bretaña sea grande).Facebook
El diputado George Freeman, quien apareció en un video político falso, ha pedido que se tomen medidas para abordar lo que él llama robo de identidad
Los problemas causados por los deepfakes son variados y generalizados.
El diputado conservador por Mid Norfolk, George Freeman, denunció una falsificación profunda ante la policía en octubre.
El video falso, que parecía y sonaba como el del diputado, parecía mostrarlo anunciando que desertaba a Reform UK.
Freeman pide cambios en la ley para proteger a las víctimas.
El inspector detective Portfleet, que dirige el equipo de investigación en línea de la policía de Essex, dijo que los mundos en línea y real «se están fusionando tan rápido que es muy difícil para la gente saber qué es falso y qué es real».
«La campaña es sólo una manera de adelantarnos al problema; siempre investigaremos los delitos, pero preferiríamos evitar que ocurran desde el principio», dijo.
Policía de Essex. Hay tres imágenes del vídeo de la campaña. A la izquierda, un niño con uniforme escolar está sentado en un aula. Sobre su cabeza hay banderas multinacionales y una maqueta de la Torre Eiffel sobre su escritorio. Sostiene un teléfono móvil y explica que la IA puede usarse para la traducción. La imagen central muestra el escudo de la Policía de Essex junto con el logotipo de EE Phonesmart sobre un fondo verde azulado. La tercera imagen muestra a un niño en bicicleta por la calle. Mira su móvil y, sobre su cabeza, se leen las palabras «¡noticias falsas!» en letras amarillas de estilo cómic.