OpenAI dio a conocer este miércoles un borrador de su documentación denominada Model Spec, donde se recoge que la empresa pretende regular el comportamiento de sus inteligencias artificiales, incluida ChatGPT. Entre los datos más destacados, está la consideración de OpenAI de regular la producción de contenido pornográfico y otros materiales explícitos, dado que sus políticas actuales prohíben tal contenido.
Según el documento, OpenAI está explorando la posibilidad de permitir la generación de contenido NSFW (iniciales en inglés de “no seguro para el trabajo”) a través de su API y ChatGPT. Entre los contenidos catalogados como NSFW en el documento se incluyen el erotismo, el gore extremo, los insultos y las blasfemias no solicitadas.
Grace McGuire, portavoz de OpenAI, declaró a WIRED que Model Spec pretende aportar transparencia al proceso de desarrollo y obtener feedback de diversas partes interesadas. Sin embargo, se negó a proporcionar detalles específicos sobre la exploración de la generación de contenido explícito por parte de la empresa.
La posibilidad de que OpenAI permita contenido explícito ha generado bastante incertidumbre, especialmente en el contexto del aumento de la pornografía generada por IA, como los deepfakes. Estos vídeos o imágenes explícitos, creados con IA, representan a actores y actrices porno a los que han sustituido sus caras por personas reales sin su consentimiento, lo que puede llevar a situaciones de acoso y abuso.
Danielle Keats Citron, profesora de la Facultad de Derecho de la Universidad de Virginia, ha expresado su preocupación por esta dirección, señalando los graves impactos que pueden tener los contenidos explícitos generados por IA en la privacidad y seguridad de las personas afectadas.
Aunque las políticas de OpenAI prohíben la suplantación de identidad sin permiso, la posible regulación para generar contenido NSFW plantea muchos interrogantes sobre la capacidad de la empresa para moderar eficazmente el uso malicioso de sus herramientas. Microsoft tuvo que lidiar con un problema similar, realizando una serie de cambios en sus políticas tras confirmarse que su IA generativa se había utilizado para crear imágenes deepfake de Taylor Swift que se distribuyeron en Twitter.
