Apple endurece las reglas del App Store contra las apps que desnudan con IA

Apple sumó a las reglas del App Store la obligación de que las apps que crean contenido con inteligencia artificial (IA) prevengan y retiren las imágenes íntimas sin consentimiento, incluidas las generadas con IA, según las pautas de revisión que publicó el 16 de octubre. La misma actualización apunta a las apps que esconden funciones para pasar la revisión y las activan después.

Las apps que "desnudan" a personas reales, conocidas como nudify, ya estaban prohibidas como pornografía, y Apple lo recordó en su anuncio. Lo nuevo es que la responsabilidad recae ahora de forma explícita sobre el desarrollador. "No dudamos en retirar apps, y dar de baja a los desarrolladores detrás de ellas, cuando violan estas pautas", escribió la empresa.

La IA entra en las reglas de moderación

El cambio central está en la pauta 1.2, la que regula el contenido que generan los usuarios. Hasta ahora pensada para redes sociales y plataformas de publicación, ahora alcanza a toda app que permita "crear, generar, subir o compartir" contenido, y nombra de manera expresa a las apps de creación de contenido con IA. La pauta suma las imágenes íntimas sin consentimiento a la lista de daños que esas apps deben prevenir, junto con la violación de propiedad intelectual y el acoso anónimo.

Los requisitos de fondo no cambiaron: un filtro para el material ofensivo, un mecanismo para denunciarlo con respuesta rápida, la posibilidad de bloquear a usuarios abusivos y un contacto publicado. Lo que cambió es la sanción. El desarrollador que no ponga esas protecciones, o que no corrija una infracción después de un aviso, puede quedar en falta con el código de conducta de Apple, lo que según el sitio Techi lleva el castigo de la app a la cuenta del desarrollador.

Funciones escondidas, con regla propia

La segunda pieza es la pauta 2.5.19, nueva, que Apple presentó como una aclaración de una política vieja que antes vivía dentro de la 2.3.1. Su texto es corto: "No incluyas funciones ocultas, latentes o no documentadas en tu app". Intentar esconderlas en el código, por ejemplo con ofuscación (técnicas que vuelven el código difícil de leer), es motivo para retirar la app y dar de baja la cuenta del desarrollador.

Apple la vinculó con las apps que, en sus palabras, "ocultan su propósito durante la revisión y solo revelan capacidades dañinas, como la 'desnudez', después de la aprobación", una táctica conocida en inglés como bait-and-switch (cebo y cambio). El problema no es solo de las nudify. En julio, una investigación de 9to5Mac encontró decenas de apps que se presentaban como juegos o utilidades y mostraban plataformas de apuestas ocultas al abrirse desde direcciones de internet de Brasil.

Presión acumulada durante el año

Las reglas llegan después de meses de reclamos. En julio, la fiscalía de la ciudad de San Francisco ordenó a Apple y a Google retirar apps capaces de generar desnudos sin consentimiento, y Apple confirmó entonces que había quitado varias. Antes, según MacRumors, Apple había advertido a xAI, la empresa de Elon Musk, que podía retirar a su asistente Grok si seguía permitiendo desnudos falsos; xAI sumó controles y la app quedó.

En Argentina, el problema tiene casos concretos: los desnudos falsos con IA contra alumnas se repiten en escuelas del país desde 2024, como informó LatamByte. En esos casos, las imágenes se armaron a partir de fotos comunes publicadas en redes sociales.

La actualización tocó otras pautas. La sección 5 aclara que las apps que faciliten la trata de personas o la explotación infantil serán retiradas del App Store y bloqueadas también en los canales alternativos de distribución.

Apple no anunció un plazo de adecuación para las apps que ya están publicadas: las pautas rigen en su versión publicada el 16 de octubre y las traducciones llegarán dentro de un mes, según la empresa. Como referencia de escala, Apple dijo que el año pasado frenó más de 150.000 apps con problemas de seguridad y dio de baja más de 193.000 cuentas de desarrolladores por fraude y abuso.