En México, la policía cibernética dispone de personal capacitado para realizar sus funciones, pero no de la capacidad técnica suficiente.
Los delitos digitales o ciberdelitos son aquellos actos ilícitos cometidos mediante dispositivos electrónicos (computadoras, tablets, teléfonos móviles, cámaras inalámbricas, etcétera) e Internet. Entre ellos destacan la estafa, la extorsión, la suplantación de la identidad, el hackeo, el acoso sexual y la violencia digital de género.
“Este último es uno de los que han cobrado más fuerza en tiempos recientes. Por fortuna hace poco se aprobó en México la ley Olimpia, que castiga con penas de tres a seis años de cárcel a las personas que ejerzan violencia digital en contra de las mujeres. Esta violencia incluye la difusión, a través de las redes sociales, de videos, fotos y audios con contenido sexual, sin el consentimiento de quien aparece en ellos”, dice Laura Márquez Martínez, integrante de la Línea de Investigación de Derecho e Inteligencia Artificial (LIDIA) en el Instituto de Investigaciones Jurídicas de la UNAM.
Por lo que se refiere a videos y fotos, para evitar que sigan circulando se recurre al algoritmo (conjunto de operaciones definidas, ordenadas y finitas) usado por cada empresa que maneja una red social con el objetivo de controlar su funcionamiento.
“De este modo, el algoritmo detecta ciertas características asociadas a determinadas partes del cuerpo, entre ellas la vagina y el pene, así como ciertos grados de desnudez, y ‘esconde’ las imágenes que les den cabida”, indica Márquez Martínez.
Ahora bien, el contenido sexual –esto es importante señalarlo– no sólo tiene que ver con los órganos sexuales, sino también con otros elementos, por ejemplo, algún fluido corporal en la cara de una persona.
“En este caso específico, el algoritmo no detecta ninguna anormalidad, por lo que, desgraciadamente, la imagen continúa divulgándose por las redes sociales”, explica Márquez Martínez.
En cuanto a las conversaciones escritas, se utiliza otro algoritmo para detectar patrones específicos que surgen sobre todo en las que personas adultas mantienen con menores de edad para tratar de obtener de ellos, por medio de engaños, alguna satisfacción sexual (esta práctica es conocida en inglés como grooming).
Detección reactiva o proactiva
El hecho de subir imágenes con contenido sexual a las redes sociales, sin el consentimiento de quien aparezca en ellas, se considera, desde el punto de vista legal, un acto consumado y puede sancionarse de inmediato.
Sin embargo, si se trata de una conversación en la que se ejerce violencia digital en contra de un menor de edad, las cosas no son tan sencillas. La detección de una conversación de esta índole puede ser reactiva o proactiva.
“La reactiva implica que no es posible perseguir y sancionar a nadie hasta que se cometa el delito, o sea, hasta que, instigado por su acosador, un menor de edad se tome una foto, por ejemplo, y se la envíe. La proactiva, en cambio, implica actuar antes de que se cometa el delito, con base en la evidencia de que la conversación va en ese sentido. En este caso, la pregunta para el derecho penal es si hay un acto delictivo que perseguir y si puede ser sancionado antes de que realmente se haya cometido. Lo fundamental, por otro lado, es que, mediante la detección de cierto tipo de información, la inteligencia artificial puede ayudar a prever un delito y, por lo tanto, a impedir que se lleve a cabo.”
Necesaria, una mayor capacidad técnica
En opinión de Márquez Martínez, la regulación tanto de las redes sociales como de Internet no funciona cuando es emprendida solamente por el Estado.
“En Estados Unidos, un país con muchísimos recursos económicos, una gran cantidad de miembros de la policía cibernética se dedica a hacer análisis de datos para detectar pornografía infantil en la web, pero su esfuerzo resulta insuficiente porque la información que se genera constantemente allí es enorme. Por eso se han establecido convenios de colaboración con empresas tecnológicas que usan algoritmos, y así se ha avanzado en la detección de éste y otros ciberdelitos”, apunta.
En México, la policía cibernética –que tiene convenios de colaboración con Twitter y Facebook, aunque no se sabe hasta dónde llegan– dispone de personal capacitado para realizar sus funciones, pero no de la capacidad técnica suficiente. De ahí que las organizaciones de la sociedad civil que apoyan a víctimas de ciberdelitos sexuales reporten que el tiempo de respuesta va de los seis días, lo cual es bastante si se toma en cuenta que una imagen se hace viral en un día, a los seis meses.
“Entonces, es urgente desarrollar mayor capacidad técnica y abordar el tema de los ciberdelitos sexuales desde la perspectiva de la justicia. Esto nos toca a los abogados y abogadas. Es un área de oportunidad y exigencia para que aprendamos más sobre estas conductas criminales que han crecido de manera exponencial debido a lo fácil que es acceder a las tecnologías de la información. Los abogados y abogadas debemos meternos en este tema y ser parte del debate que intenta revelar cómo puede modificarse la realidad por medio del derecho y la inteligencia artificial”, finaliza Márquez Martínez.
La frase
“Entre más rápido se detecten en las redes sociales imágenes con contenido sexual que han sido subidas sin el consentimiento de quienes aparecen en ellas y se detenga su difusión, menos daño ocasionarán”
Laura Márquez Martínez
Integrante de la Línea de Investigación de Derecho e Inteligencia Artificial (LIDIA) en el Instituto de Investigaciones Jurídicas
de la UNAM
