Twitter ha aumentado drásticamente su batalla contra las cuentas falsas y sospechosas, suspendiendo más de 1 millón por día en los últimos meses, un cambio importante para disminuir el flujo de desinformación en la plataforma, según los datos obtenidos por The Washington Post.

La tasa de suspensiones de cuentas, que Twitter confirmó a The Post, se ha más que duplicado desde octubre, cuando la compañía reveló bajo presión del Congreso cómo Rusia usó cuentas falsas para interferir en las elecciones presidenciales de Estados Unidos. Twitter suspendió más de 70 millones de cuentas en mayo y junio, y el ritmo ha continuado en julio, según los datos.

La eliminación agresiva de cuentas no deseadas puede dar lugar a una disminución rara en el número de usuarios mensuales en el segundo trimestre, que terminó la semana pasada, de acuerdo con una persona familiarizada con la situación que no estaba autorizada para hablar. Twitter se negó a comentar sobre un posible declive en su base de usuarios.

La creciente campaña de Twitter contra bots y trolls -a pesar del riesgo para el crecimiento de usuarios de la compañía- es parte de las consecuencias de la ofensiva de desinformación de Rusia durante la campaña presidencial de 2016, cuando una fábrica de trolls con sede en San Petersburgo pudo usar algunos de los estadounidenses plataformas tecnológicas más destacadas para engañar a los votantes a gran escala a fin de exacerbar las tensiones sociales y políticas.

El alcance de las suspensiones de cuentas, que no se ha informado anteriormente, es una de las medidas recientes de Twitter para limitar la influencia de las personas que, según dicen, abusan de su plataforma. Los cambios, que fueron objeto de debate interno, reflejan un cambio filosófico para Twitter. Sus ejecutivos se resistieron durante mucho tiempo a vigilar la mala conducta de manera más agresiva, y durante un tiempo incluso se refirieron a sí mismos como “el ala de la libertad de expresión del partido de la libertad de expresión”.

El Vicepresidente de Confianza y Seguridad de Twitter, Del Harvey, dijo en una entrevista esta semana que la compañía está cambiando el cálculo entre la promoción del discurso público y la preservación de la seguridad. Agregó que Twitter solo recientemente pudo dedicar los recursos y desarrollar las capacidades técnicas para atacar el comportamiento malicioso de esta manera.

“Uno de los mayores cambios está en cómo pensamos en equilibrar la libertad de expresión frente al potencial de la libertad de expresión para relajar el habla de otra persona”, dijo Harvey. “La libertad de expresión en realidad no significa mucho si las personas no se sienten seguras”.

Pero el aumento de las suspensiones de Twitter también pone en duda su estimación de que menos del 5 por ciento de sus usuarios activos son falsos o están involucrados en el spam, y que menos del 8.5 por ciento usa herramientas de automatización que caracterizan a las cuentas como bots.(Una cuenta falsa también puede ser una que se involucra en un comportamiento malicioso y es operada por una persona real. Muchas cuentas legítimas son bots, como para informar el clima o la actividad sísmica).

Harvey dijo que la represión no ha tenido “un montón de impacto” en el número de usuarios activos, que se situó en 336 millones al final del primer trimestre, porque muchas de las cuentas problemáticas no tuiteaban regularmente. Pero moverse más agresivamente contra cuentas sospechosas ha ayudado a la plataforma a proteger mejor a los usuarios de la manipulación y el abuso, dijo.

Los usuarios humanos legítimos, los únicos capaces de responder a la publicidad que es la principal fuente de ingresos para la compañía, son fundamentales para el precio de las acciones de Twitter y las percepciones más amplias de una empresa que ha tenido dificultades para generar ganancias.

La decisión de atacar con fuerza las cuentas sospechosas siguió a una batalla campal dentro de Twitter el año pasado sobre si implementar nuevas herramientas de detección. Un esfuerzo previamente no divulgado, llamado “Operación Megáfono”, involucró la compra discreta de cuentas falsas y la búsqueda de conexiones entre ellas, dijeron dos personas familiarizadas con las deliberaciones internas. Hablaron bajo condición de anonimato para compartir detalles de conversaciones privadas.

El nombre de la operación se refiere a los megáfonos virtuales, como las cuentas falsas y la automatización, que los abusadores de las plataformas de Twitter utilizan para acallar otras voces. El programa, también conocido como operación de sombrero blanco, formaba parte de un plan más amplio para que la empresa tratara las campañas de desinformación de los gobiernos de forma diferente a los problemas tradicionales como el correo no deseado, que intenta engañar a los usuarios individuales en lugar de dar forma al clima político en todo un país, según estas personas. Harvey dijo que no había oído hablar de la operación.

Algunos ejecutivos inicialmente se mostraron reacios a actuar de forma agresiva contra las supuestas cuentas falsas y plantearon dudas sobre la legalidad de hacerlo, dijeron las personas familiarizadas con los debates internos de la compañía. En noviembre, un frustrado ingeniero intentó ilustrar la gravedad del problema comprando miles de seguidores falsos para un gerente de Twitter, dijeron dos personas familiarizadas con el episodio. Los bots se pueden comprar fácilmente en un mercado gris de sitios web.

Las secuelas de las elecciones -y la creciente comprensión del papel clave desempeñado involuntariamente por las compañías tecnológicas de EE. UU .- arrojaron a algunos de los principales actores de la industria a crisis de las que no habían salido por completo, sometiéndolas a un escrutinio sin precedentes. Los líderes políticos han exigido que Silicon Valley rinda mejor en las elecciones de mitad de período de 2018 a pesar de la falta de nuevas leyes o una clara guía federal sobre cómo combatir la desinformación sin afectar las garantías constitucionales de libertad de expresión.

Twitter había dicho en varias declaraciones públicas este año que apuntaba a cuentas sospechosas, incluyendo en una publicación reciente en el blog, que casi 10 millones de cuentas por semana estaban siendo “desafiadas”, un paso que intenta determinar la autenticidad de la propiedad de una cuenta y requiere usuarios para responder a un aviso, como verificar un teléfono o dirección de correo electrónico.

Varias personas familiarizadas con las deliberaciones internas en Twitter dicen que los cambios recientes fueron impulsados por la presión política del Congreso a raíz de las revelaciones sobre la manipulación de una fábrica rusa de trol, que según Twitter controlaba más de 3.000 cuentas de Twitter en el momento de las elecciones presidenciales de 2016. Según la compañía, otras 50.258 cuentas automatizadas estaban conectadas con el gobierno ruso.

Los informes de noticias sobre la gravedad del problema del bot y un replanteamiento del papel de Twitter en la promoción de la conversación en línea también influyeron en la postura más agresiva de Twitter, dijeron estas personas.

Durante las audiencias del congreso el otoño pasado, las preguntas de los legisladores obligaron a Twitter a mirar más de cerca su problema de bots y trolls, según varias personas de la compañía. También reveló lagunas en lo que la compañía había hecho hasta ahora, y limita las herramientas a disposición de la compañía para responder a las consultas oficiales.

Twitter lanzó un grupo de trabajo interno para analizar las cuentas de la fábrica rusa de trolls, llamada Agencia de Investigación de Internet, y recibió datos de Facebook y otras fuentes, incluida una base de datos de amenazas conocida como QIntel, según dos personas familiarizadas con los procesos de la compañía.

Un descubrimiento importante fue la relación entre las cuentas rusas y los problemas de spam de larga data de Twitter, dijeron las personas. Muchas de las cuentas utilizadas por los agentes rusos, encontraron los investigadores de la compañía, en realidad no fueron creadas por el IRA. En cambio, el IRA había comprado bots que ya existían y que se vendían en un mercado negro. Las cuentas antiguas son más costosas que las recién creadas porque es más probable que atraviesen los filtros de spam de Twitter, dijo Jonathon Morgan, director ejecutivo de New Knowledge, una start-up centrada en ayudar a las compañías de Internet a combatir la desinformación.

Algunas veces la compañía suspende las cuentas. Pero Twitter también limita el alcance de ciertos tweets al colocarlos más abajo en la corriente de mensajes, a veces denominado “prohibición de sombras”, porque el usuario puede no saber que están siendo degradados.

Harvey dijo que el esfuerzo se basó en la experiencia técnica de una empresa de inteligencia artificial llamada Magic Pony que la compañía adquirió en 2016. La adquisición “sentó las bases que nos permitieron volvernos más agresivos”, dijo Harvey. “Antes de eso, teníamos este martillo contundente de su cuenta suspendida, o no lo era”.

Los datos obtenidos por el Post muestran un flujo constante de suspensiones y picos en días determinados, como el 7 de diciembre, cuando se suspendieron 1.2 millones de cuentas, casi un 50 por ciento más que el promedio de ese mes. También hubo un pronunciado aumento a mediados de mayo, cuando Twitter suspendió más de 13 millones en una sola semana, 60 por ciento más que el ritmo en el resto de ese mes.

Harvey dijo que la compañía planeaba ir más lejos en el próximo año.“Tenemos que seguir observando cuáles son los vectores más nuevos y cambiar nuestras formas de contrarrestarlos”, dijo. “Esto no significa que vamos a sentarnos en nuestros laureles”.

(Con información de The Washington Post y contribución de Dan Keating).