Monitorear cada imagen publicada en una red no sólo genera conflictos de privacidad muy delicados, sino que se convierte en un desafío casi imposible de enfrentar. Esto ha llevado a redes sociales y entornos similares a depender de algoritmos para reconocer contenido restringido, como por ejemplo los desnudos. IsItNude es un nuevo algoritmo enfocado en la detección de desnudos, que sirve como demostración para la plataforma de su compañía desarrolladora Algorithmia.
En noviembre de 2012, Facebook censuró la imagen de una mujer que se encontraba en una bañera (léase bañadera o tina). Los moderadores de la red social, probablemente asistidos por un algoritmo, bloquearon la fotografía debido a que confundieron el codo izquierdo de la mujer con un pezón expuesto. La imagen fue rápidamente restaurada, y estuvo acompañada por el pedido de disculpas apropiado, pero es un excelente ejemplo de lo que pueden causar los falsos positivos en un sistema de moderación. El mundo de la informática tiene un gran interés en limitar la exposición de contenido para adultos, incluyendo los desnudos. En algunos casos se citan políticas internas, pero en otros, no es más que una cuestión de tiempo y lugar.
Si tenemos en cuenta a los falsos positivos, ¿es una buena idea dejar que un algoritmo haga el trabajo pesado de detectar desnudos? La gente de Algorithmia, responsable por el sitio IsItNude, cree que sí. El funcionamiento de IsItNude es muy sencillo: Pega la dirección URL de la imagen que deseas analizar, y recibirás el resultado en cuestión de segundos. De más está decirlo, tu juicio sobre la imagen será mucho más rápido y preciso que el de IsItNude, pero lo verdaderamente interesante aquí es cómo trabaja el algoritmo (detección de rostros, reconocimiento de narices, cambios de tono en la piel y análisis de polígonos), y el hecho de que cualquier desarrollador interesado puede integrar esta función a sus proyectos a través del API de Algorithmia.
Ahora, llegamos a «la» pregunta: ¿Qué tan bueno es IsItNude? De acuerdo a mis pruebas, digamos en este momento no le confiaría la seguridad de ninguna plataforma. He notado problemas con desnudos parciales e ilustraciones, y es incompatible con imágenes en blanco y negro, por lo tanto, sus responsables tienen bastante trabajo en sus manos. Claro que, un mal resultado no es suficiente para descartar su potencial. La compañía ha recibido más de dos millones de dólares en inversiones, lo que representa una gran apuesta en el crecimiento de esta tecnología.
