¿Es legal censurar a los trolls?

Perspective1 es una interfaz de programación de aplicaciones (abreviada como API, del inglés application programming interface), es decir, un conjunto de subrutinas, funciones y procedimientos que ofrece cierta biblioteca para ser utilizado por otro software.2 Proporciona herramientas antihostigamiento mediante el empleo de inteligencia artificial, con el fin de detectar automáticamente vocabulario tóxico y posibilitar su eliminación. De acuerdo con Google, su objetivo es fomentar la conversación en línea libre de insultos y hostigamiento y filtrar los comentarios abusivos que desfavorecen la comunicación en internet.3
El parámetro de toxicidad que emplea Perspective fue desarrollado tomando millones de comentarios de las discusiones editoriales de Wikipedia, The New York Times y otros participantes cuyo nombre no fue revelado. Luego, dichos comentarios fueron mostrados a grupos de 10 personas reclutadas en línea, con el fin de que expresaran si habían encontrado lenguaje tóxico. De esta forma, con base en los datos obtenidos se construyó un algoritmo que mide la toxicidad del lenguaje empleado en cierto texto en línea, de manera que, incluso al estar escribiéndolo, pueda saberse el nivel de toxicidad en que el autor esté incurriendo.4
Como puede verse, Perspective retoma la problemática que se presentó para el Derecho con la llegada de la era digital, principalmente respecto de la implementación de reglas jurídicas y la solución de conflictos en el ciberespacio. Entre las soluciones que se han ideado, y que parece retomar Perspective, está el concepto de lex informatica, basado en la idea de que los problemas tecnológicos pueden ser resueltos a través de la misma tecnología y de las reglas que los usuarios de ésta van desarrollando al interactuar en el ciberespacio. La teoría que formulara Joel Reidenberg en 19985 parece que está siendo llevada a la práctica a través de Perspective.
En efecto, uno de los principales postulados de la teoría lex informatica es que la tecnología puede ser un importante regulador de la conducta humana en el ciberespacio.6 Esto significa que el comportamiento y los problemas en entornos digitales pueden ser, respectivamente, regulados y resueltos también por medios digitales. En el caso en comento, Perspective viene a constituir una herramienta tecnológica para regular y, en su caso, remediar el problema del hostigamiento en línea, el cual hasta ahora ha escapado casi en su totalidad a la influencia de la normativa jurídico-positiva, pues ésta parece tener muy poca influencia en quienes conforman comunidades en línea y menos aún en quienes, empleando el anonimato que permiten las tecnologías al ser parte de grupos en internet, hostigan a otros cibernautas.
Con el empleo de Perspective serán ahora los propios cibernautas quienes definan la medida de toxicidad del lenguaje empleado en línea, e, instantáneamente, a través del empleo de un algoritmo informático, puedan detectar el vocabulario que no se adecue a ese código y eliminarlo. Los problemas provocados por el empleo de la tecnología se irán resolviendo a través del empleo de la misma tecnología y de las normas creadas por los propios cibernautas al emplearla.
Ahora bien, a la luz del Derecho mexicano, ¿Perspective es un ejemplo de justicia por propia mano, prohibida por el artículo 17 constitucional? ¿Perspective es un caso de censura previa proscrita por nuestros tribunales federales? Si algún operador en internet sometido a la jurisdicción mexicana emplea Perspective, ¿es susceptible de una acción jurídica en su contra por considerar que ejerce censura, atentando en agravio de la libertad de expresión?
Respecto de la prohibición establecida en el artículo 17 constitucional de hacerse justicia por propia mano, los tribunales federales la han definido como la proscripción dirigida a los particulares, consistente en que nadie se encuentra en aptitud jurídica de conocer y resolver unilateralmente los litigios de que forme parte, de imponer su posición imperativamente a la contraparte o a los terceros con interés jurídico en el negocio, ni de exigir y obtener coactivamente su determinación a los demás, sino después del acogimiento de su pretensión en un proceso jurisdiccional, llevado a cabo ante los tribunales competentes y con apego a las leyes aplicables, especialmente cumpliendo las formalidades esenciales del procedimiento, entre las que destaca la garantía de audiencia.7
En este entendido, Perspective parece ser un claro ejemplo de justicia por propia mano, pues se trata de un método empleado por cibernautas para combatir a otros cibernautas, conociendo y resolviendo los problemas que se presentan en el intercambio de mensajes en una comunidad en internet, a través de la imposición hecha por la propia comunidad internauta de ciertos parámetros de toxicidad del lenguaje que, de no respetarse, pueden dar lugar a la eliminación de los comentarios considerados tóxicos, sin concesión a su autor de alguna oportunidad para justificar y defender la publicación de su mensaje.
Empero, dada la vertiginosidad e inmediatez con que se intercambian comunicaciones en una comunidad en internet, parece asimismo poco efectivo tener que llevar un problema de esta naturaleza ante una autoridad jurisdiccional para que dicte el remedio que corresponda, máxime que la dilación de su actuar es un hecho notorio y que una de las “ventajas” que permiten las tecnologías de información y comunicación actuales es el anonimato o el enmascaramiento.
En cuanto al tema de la censura previa, ésta ha sido concebida como una interferencia o presión directa o indirecta sobre cualquier expresión difundida a través de cualquier medio de comunicación, estando prohibida por la Convención Americana sobre Derechos Humanos, dado que limita la circulación libre de ideas y opiniones, y permite la imposición arbitraria de aquéllas y la creación de obstáculos al libre flujo informativo. Por lo tanto, no se justifica su imposición, a menos de que se actualice la excepción contenida en el numeral 4 del artículo 13 de esa convención, resultando permisible sólo en caso de espectáculos públicos con el fin de regular el acceso a éstos para la protección moral de la infancia y la adolescencia. Luego, en todos los demás casos, cualquier medida preventiva que implique el menoscabo a la libertad de pensamiento y expresión no será admisible.8
Sobre esta base, es de deducirse que el método empleado por Perspective sea un ejemplo de censura previa, puesto que se trata de una interferencia a expresiones difundidas en internet, por considerar que su lenguaje es tóxico, constituyéndose asimismo en una presión para los usuarios de esa tecnología de realizar sus expresiones apegados a ciertos parámetros, so pena de ser eliminados.
Ahora bien, insistiendo en las características de vertiginosidad e inmediatez (y añadiendo la de masividad) en el intercambio de comunicaciones en internet, se hace evidente la necesidad de contar y permitir el empleo de herramientas como Perspective para detectar oportunamente comentarios en línea que pudieran desatar problemas severos. El equilibrio entre la libertad de expresión y la censura requiere elegir el mal menor.
Por último, quiero referirme a la posibilidad de que un proveedor de servicios de internet o el titular de un sitio web recibiera alguna acción jurídica en su contra por la implementación de Perspective en sus plataformas que hospeden alguna sección de intercambio de mensajes en el ciberespacio.
Al respecto, téngase en cuenta que el Poder Judicial Federal sentó el criterio de que las empresas editoras carecen de facultades para revisar que el contenido de una obra no contenga calificativos injuriosos y manifestaciones y expresiones maliciosas sobre alguna persona, así como verificar que lo publicado sea verdadero, puesto que obligar a las empresas editoras a que elijan qué obras pueden o no publicar de acuerdo con su contenido es establecer un medio de censura previa y establecer si una obra contiene expresiones que pudieran ocasionar daño moral, actividad que sólo compete apreciarla a la autoridad jurisdiccional cuando es sometida a su potestad.9
Además, ese tipo de censura previa atentaría contra la libertad de expresión de los autores al no ser publicadas sus obras por virtud de una restricción de criterio del editor, cuando el artículo 7 constitucional consagra la garantía a la información y la libertad de manifestación de ideas y de imprenta, sin más límites que no se ataque a la moral, los derechos de terceros, se provoque algún delito o se perturbe el orden público (lo que en todo caso debe calificar una autoridad jurisdiccional).10
Conforme el criterio anterior, que puede ser aplicado analógicamente a los proveedores de servicios de internet o a los titulares de un sitio web, éstos sí tendrían una alta probabilidad de ser enjuiciados por la implementación de Perspective en sus plataformas, pues les está vedado revisar el contenido de las expresiones intercambiadas en ellas, so pena de cometer censura previa y atentar contra la libertad de expresión de los internautas, al limitarse sus expresiones o incluso ser eliminadas si no aprueban el test de toxicidad de Perspective. Sin embargo, se antoja poco efectiva la propuesta de Perspective, si no es con ayuda de los proveedores de servicios de internet o de los titulares de sitios web que alberguen comunidades digitales.
En conclusión, es evidente que la era digital ha traído muchos retos para el Derecho, entre ellos el relativo al establecimiento de reglas efectivas para moderar o, preferentemente, evitar acciones ilícitas, como el hostigamiento por medio de las comunicaciones en internet. Asimismo, es patente que la tecnología puede ser muy útil para conseguir armonizar en mejor forma los derechos de los internautas que llegan a colisionar durante su actuar en el ciberespacio; Perspective es una muestra de lo anterior. Sólo es necesario mayor creatividad y apertura de los operadores jurídicos a soluciones tecnológicas, así como fijar claramente los límites que impidan caer en abusos.

* Maestro en derecho de las tecnologías de información y comunicación por el Norwegian Research Center for Computers and Law de la Universidad de Oslo y consultor invitado al Comité Jurídico de la Asociación de Internet.mx (antes Asociación Mexicana de Internet).
1 Andy Greenberg, “Now Anyone Can Deploy Google’s Troll-Fighting AI”, Wired, 23 de febrero de 2017, en www.wired.com/2017/02/googles-troll-fighting-ai-now-belongs-world/. Consultado el 6 de marzo de 2017.
2 https://es.wikipedia.org/wiki/Interfaz_de_programación_de_aplicaciones. Consultado el 6 de marzo de 2017.
3 Andy Greenberg, op. cit.
4 Idem.
5 Joel R. Reidenberg, “Lex Informatica: The Formulation of Information Policy Rules Through Technology”, Texas Law Review, vol. 76, núm. 3, febrero de 1998, pp. 553-593.
6 Juan Paulo López Luna, Lex Informatica and the Legal Regime, Universidad de Oslo, mayo de 2014, p. 14.
7 Tesis aislada I.4o.C.29 K, Cuarto Tribunal Colegiado en Materia Civil del Primer Circuito, Semanario Judicial de la Federación y su Gaceta, novena época, tomo XXVIII, septiembre de 2008, p. 1305, voz: JUSTICIA DE PROPIA MANO. CONTENIDO DE LA PROHIBICIÓN CONSTITUCIONAL.
8 Tesis aislada I.4o.A.13 K (10a.), Cuarto Tribunal Colegiado en Materia Administrativa del Primer Circuito, Semanario Judicial de la Federación y su Gaceta, décima época, tomo XVII, febrero de 2013, tomo 2, p. 1329, voz: CENSURA PREVIA. ESTÁ PROHIBIDA POR LA CONVENCIÓN AMERICANA SOBRE DERECHOS HUMANOS COMO RESTRICCIÓN A LOS DERECHOS FUNDAMENTALES A LA INFORMACIÓN Y A LA LIBERTAD DE EXPRESIÓN, A MENOS DE QUE SE ACTUALICE LA EXCEPCIÓN CONTENIDA EN SU ARTÍCULO 13, NUMERAL 4.
9 Tesis aislada I.11o.C.193 C, Decimoprimer Tribunal Colegiado en Materia Civil del Primer Circuito, Semanario Judicial de la Federación y su Gaceta, novena época, tomo XXVI octubre de 2007, p. 3110, voz: CENSURA. LA EMPRESA QUE EDITA Y PUBLICA UNA OBRA, CARECE DE FACULTAD PARA EXAMINAR QUE SU CONTENIDO NO CONTENGA CALIFICATIVOS INJURIOSOS Y EXPRESIONES MALICIOSAS, ASÍ COMO REVISAR LA VERACIDAD DE LO INFORMADO Y POR ELLO IMPEDIR SU PUBLICACIÓN.
10 Idem.