La herramienta de inteligencia artificial Grok de Elon Musk ya no podrá editar fotos de personas reales para mostrarlas con ropa reveladora en jurisdicciones donde es ilegal, luego de una preocupación generalizada por los deepfakes sexualizados de inteligencia artificial.
«Hemos implementado medidas tecnológicas para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora», se lee en un anuncio en X.
En reacción a la prohibición, el gobierno del Reino Unido afirmó haber tomado una «reivindicación» después de que el primer ministro Sir Keir Starmer pidiera a X que controlara su herramienta de inteligencia artificial.
Un portavoz del regulador británico Ofcom dijo que era un «avance positivo», pero agregó que su investigación sobre si la plataforma había violado las leyes del Reino Unido «sigue en curso».
«Estamos trabajando día y noche para avanzar en esto y obtener respuestas sobre qué salió mal y qué se está haciendo para solucionarlo», dijeron.
La secretaria de Tecnología, Liz Kendall, también dio la bienvenida a la medida, pero dijo que «esperaba que los hechos se establecieran de manera completa y sólida mediante la investigación en curso de Ofcom».
El cambio de X se anunció horas después de que el principal fiscal de California dijera que el estado estaba investigando la propagación de deepfakes de IA sexualizados , incluidos de niños, generados por el modelo de IA.
«Ahora bloqueamos geográficamente la capacidad de todos los usuarios de generar imágenes de personas reales en bikini, ropa interior y atuendos similares a través de la cuenta de Grok y en Grok en X en aquellas jurisdicciones donde es ilegal», dijo X en su declaración .
También reiteró que solo los usuarios pagos podrán editar imágenes usando Grok en su plataforma.
Esto agregará una capa adicional de protección al ayudar a garantizar que aquellos que intenten abusar de Grok para violar la ley o las políticas de X rindan cuentas, según la declaración.
Con las configuraciones NSFW (no seguro para el trabajo) habilitadas, se supone que Grok permite «desnudez de la parte superior del cuerpo de humanos adultos imaginarios (no reales)», en consonancia con lo que se puede ver en películas con clasificación R, escribió Musk en línea el miércoles.
«Ese es el estándar de facto en Estados Unidos. Esto variará en otras regiones según las leyes de cada país», dijo el multimillonario tecnológico.
Musk había defendido anteriormente a X, publicando que los críticos «sólo quieren suprimir la libertad de expresión» junto con dos imágenes generadas por IA del primer ministro del Reino Unido, Sir Keir Starmer, en bikini.
No está claro cómo su plataforma implementará bloqueos basados en la ubicación sobre la capacidad de Grok de editar imágenes de personas reales para crear imágenes sexualizadas, y si los usuarios podrán evitarlos.
Las personas que buscan eludir bloqueos geográficos similares en funciones o contenidos a menudo recurren a herramientas como redes privadas virtuales (VPN), que pueden ocultar su ubicación en línea para permitirles usar Internet como si estuvieran en otro país.
Las descargas de aplicaciones VPN se dispararon en el Reino Unido el año pasado después de que se exigiera a los sitios pornográficos que comenzaran a verificar la edad de los visitantes para cumplir con la Ley de Seguridad en Línea.
‘Demasiado tarde’
Ofcom dijo el lunes que investigaría si X no había cumplido con la ley del Reino Unido sobre las imágenes sexuales.
Y si X no cumple, Ofcom podría solicitar una orden judicial para obligar a los proveedores de servicios de Internet a bloquear por completo el acceso al sitio en el Reino Unido.
A principios de esta semana, Sir Keir advirtió que X podría perder el «derecho a autorregularse» en medio de una reacción violenta por las imágenes de IA, pero más tarde en la semana dijo que recibía con agrado los informes de que X estaba tomando medidas para abordar el problema.
El primer ministro dijo que «tomaría las medidas necesarias» y reforzaría la legislación si X no actuaba.
La investigadora de políticas Riana Pfefferkorn dijo que estaba sorprendida de que X haya tardado tanto en implementar las nuevas protecciones de Grok y que las funciones de edición deberían haber sido eliminadas tan pronto como comenzó el abuso.
Aún quedan dudas sobre cómo X aplicará sus nuevas políticas, como por ejemplo cómo el modelo de IA sabrá si una imagen es de una persona real y qué acciones tomará cuando los usuarios rompan las reglas, dijo Pfefferkorn.
Musk tampoco ha presentado a la compañía de forma seria, dijo, y agregó que ayudaría si dejara de «hacer cosas como volver a publicar una imagen de IA de Keir Starmer en bikini».