La inmensidad de la Red parece no encontrar límites en un mundo hiperconectado. Con las redes sociales ocupando un lugar casi indispensable para muchos en la mayoría de sus smartphones, tabletas u ordenadores, la vasta información que discurre de un usuario a otro desde múltiples puntos del planeta ha provocado que no cese el flujo de la circulación de material digital a través de los distintos dispositivos. Noticias, vídeos e imágenes, entre otros archivos, son compartidos masivamente día a día, lo que ha desencadenado al mismo tiempo múltiples problemas, con enormes vacíos legales y también con importantes peligros. Ejemplo de ello son la privacidad y la seguridad de los datos, la dificultad para diferenciar, en la sobreabundancia de información, lo que es cierto de lo que es falso… o la difusión de material relacionado con el abuso sexual y la explotación infantil, entre muchos otros. Además, a veces múltiples problemas asociados a la Red se combinan entre sí.

Citando casos explícitos que ponen algunas de estas cuestiones en evidencia, el prestigioso medio The New York Times avanzaba recientemente la historia de dos padres que, en casos similares, acabaron con sus cuentas de Google completamente eliminadas por fotografiar a sus hijos desnudos. Concretamente, por sacar imágenes de sus genitales a petición médica, para que el pediatra pudiese evaluarlas de forma telemática, en plena pandemia de coronavirus.

La historia de uno de esos padres, de nombre Mark y residente en San Francisco, EEUU, comienza la noche de un viernes de febrero de 2021. Fue entonces cuando, al advertir que el pene de su hijo estaba muy hinchado y le dolía, sacó fotografías para documentar la afección y poder seguir su evolución.

Preocupados, su esposa llamó a los médicos para informar de lo que estaba sucediendo, y le asignaron una cita a través de videoconferencia para la mañana siguiente. El covid seguía causando estragos entonces, y ello requería un encuentro telemático. Por eso, lo que hizo fue coger el teléfono de su marido y mandarse las fotografías desde su terminal Android a su iPhone, para así subir ella la imagen al sistema de servicio médico, con el fin de que el pediatra pudiera revisarlo con anticipación.

Fue así como comenzó un drama que Mark jamás hubiera imaginado: la imagen que tomó de los genitales de su hijo, sincronizadas con la nube de Google, se subieron a la red y, pasando por su entramado de algoritmos, la detectó como material de abuso sexual infantil. En consecuencia, automáticamente, Google le envió un mensaje en el que se informaba del bloqueo de su cuenta, lo que incluía más de una década de contactos, correos electrónicos, fotografías… Con la gran cantidad de datos que almacenamos hoy día en nuestros smartphones, ello suponía decir adiós, repentinamente, a una importante cantidad de información muy valiosa para él.

Con todo, el mayor problema para Mark no quedó ahí. La detección de esa imagen como abuso sexual infantil llevó a que incluso fuese investigado por la policía, con las autoridades de San Francisco iniciando una exhaustiva intervención para navegar entre sus datos y determinar si, en efecto, había incurrido en un delito tan grave como ese.

Para su fortuna, la investigación determinó que Mark no era culpable de nada, y que, tal como expresaba, lo único que hizo fue tomar una fotografía de su hijo para mostrársela al médico. El entramado algorítmico dio un falso positivo, pero Google, pese a todo, no rectificó. Aun con varias apelaciones y peticiones de Mark para que le devolviesen su cuenta, la compañía, sin dar explicaciones, contestó que no le sería devuelta. Incluso, pese a que el progenitor les entregó las conclusiones policiales que respondían a su favor, algo que a algunos expertos, como cita New York Times, les hace temer que Google pueda además ejercer como una suerte de ‘juez’, pese a valorar, por supuesto, todos los esfuerzos que las compañías realizan para atajar la pedofilia, la pederastia y otros crímenes.

Sobre esto último, precisamente, discurren numerosos debates, dado que, tal como señalan, la mayoría coincide en aseverar que han de hacerse esfuerzos y concesiones para atajar estos delitos, pero al mismo tiempo inciden en los graves problemas que pueden derivar de una incorrecta detención de los delincuentes, dando por ‘culpables’ a quienes no lo son. En este sentido, Kate Klonick, profesora de derecho en la Universidad de St. John, subraya, por ejemplo, las consecuencias que tuvo el caso de Mark y, más allá, las que podría haber tenido.

“Esto es doblemente peligroso porque también resulta en que alguien sea denunciado ante las fuerzas del orden”, expresa, señalando que podría haber sido peor si, además, Mark hubiese llegado a perder la custodia del niño: “Se puede imaginar cómo podría escalar esto”, cuenta Klonick, en declaraciones recogidas por The New York Times.

Por eso, ella y otros expertos insisten en que, pese a que los falsos positivos pueden ser inevitables, dados los miles de millones de imágenes que pasan por los filtros de estos sistemas, las empresas necesitan un “proceso sólido” no solo para tener precisión en la detección de estos casos, sino también para reintegrar a personas inocentes que han sido erróneamente ‘marcadas’.

El caso de Mark no es aislado. El citado medio también expone el de otro padre, identificado como Cassio, al que le sucedió prácticamente lo mismo: fue investigado por la policía después de que Google detectase como abuso sexual infantil la foto que tomó de los genitales de su hijo al pensar que tenía una infección. La imagen automáticamente se subió a Google Fotos, la nube de la compañía, y después se lo envió a su esposa a través del chat de la misma. Ello bastó para que el entramado algorítmico hiciese su trabajo y su cuenta fuese suspendida; algo que sucedió al mismo tiempo en que se encontraba comprando una casa, obligándole a cambiar su correo electrónico en el proceso y generando desconfianza en quien se la estaba vendiendo.

“Fue un dolor de cabeza”, ha denunciado Cassio, quien igualmente realizó la fotografía a petición del pediatra de su hijo.

Sus casos, ponen de relieve graves problemas aún hoy existentes, al tiempo en que desatan el debate social. En la actualidad, conocemos al menos dos grandes herramientas que luchan por combatir la pornografía infantil: PhotoDNA, desarrollada por Microsoft, la cual consiste en una gran base de datos donde cada imagen conocida de pornografía infantil está identificada con un ‘hash’, –un código único–, de tal manera que si se detectan intercambios de esas imágenes se interceptan y denuncian; y posteriormente la inteligencia artificial desarrollada por Google en 2018, la cual daba un gran salto, casi una década después, con la capacidad de detectar no solo imágenes que ya habían sido identificadas como pornografía infantil y que llevaban tiempo circulando en la Red, sino también nuevas, de víctimas desconocidas que potencialmente podrían ser 'rescatadas por las autoridades'.

Aunque Mark, que es ingeniero de software, confiaba como otros falsos positivos en que un equipo humano revisaría sus fotografías y sus casos y solucionaría su situación, no recuperaron la cuenta.