Las búsquedas y traducciones de Microsoft Bing en China exponen severos niveles de censura

Las normas para Bing, el motor de búsqueda y traducción de Microsoft, son tan estrictas en China que incluso mencionar al presidente Xi Jinping provoca el bloqueo de los resultados. Así lo reveló una investigación de The Citizen Lab de la Universidad de Toronto (Canadá), que descubrió que Microsoft censura los resultados de traducción de Bing más que cualquier otro servicio chino tradicional, incluidos Baidu Translate y Tencent MUnachine Translation.

“Si intentas traducir cinco párrafos de texto y dos frases contienen una mención a Xi, los competidores de Bing en China eliminan estas dos frases y traducen el resto. En nuestras pruebas, Bing siempre censura todo el resultado. No muestra nada. Es más extremo”, comentó Jeffrey Knockel, investigador principal de The Citizen Lab.


Věra Jourová de pie en un podio azul con una pantalla azul detrás de ella
Por qué a la vicepresidenta de la UE no le preocupan las conspiraciones sobre alunizajes falsos en YouTube

Durante una visita a Silicon Valley, la vicepresidenta de la Unión Europea, Věra Jourová, manifestó que espera que las gigantes tecnológicas den prioridad a acabar con los contenidos que amenacen y distorsionen la democracia.


Búsquedas restringidas de Bing en China

Pero eso no es todo. Un informe publicado por la organización el año pasado reveló que no solo el servicio de traducción de Microsoft tiene un nivel de censura tan elevado, sino que también su motor de búsqueda. Un hallazgo importante, que cuestiona seriamente la creencia de que las grandes tecnológicas son capaces de resistir las exigencias de control por parte del Gobierno de China mucho más que las empresas del país.

De hecho, es muy probable que los resultados de la investigación de The Citizen Lab alimenten las investigaciones de los políticos de Estados Unidos sobre las operaciones de Microsoft en China. El pasado mes de marzo, Bloomberg publicó un artículo en el que se mencionaba la inclinación de algunas personas internas de la empresa a “filtrar excesivamente” los resultados de las búsquedas en el mercado asiático: una práctica que convenció al senador estadounidense Mark Warner para solicitar que se retirara Bing de China.

En cualquier caso, más allá de las disputas entre los políticos estadounidenses y el mercado chino, lo sorprendente es que el informe de The Citizen Lab es el primero que compara el nivel de censura de las distintas herramientas de traducción automática online a disposición de los usuarios chinos. Por otra parte, al igual que otras fuentes de información, las traducciones también están sujetas a leyes estrictas que regulan su publicación. Por esta misma razón, los traductores de China llevan mucho tiempo luchando contra la censura difundiendo información sobre acontecimientos locales proporcionada por periódicos y periodistas que no son de China. Una batalla que parece haberse visto muy limitada por el alto nivel de censura que ejerce el sistema de traducción de Bing en el país.

En cualquier caso, más allá de las disputas entre los políticos estadounidenses y el mercado chino, lo sorprendente es que el informe de The Citizen Lab es el primero que compara el nivel de censura de las distintas herramientas de traducción automática online a disposición de los usuarios chinos.

Por otra parte, al igual que otras fuentes de información, las traducciones también están sujetas a leyes estrictas que regulan su publicación. Por esta misma razón, los traductores de China llevan mucho tiempo luchando contra ella difundiendo información sobre acontecimientos locales proporcionada por periódicos y periodistas que no son de China. Una batalla que parece haberse visto muy limitada por el alto nivel de censura que mantiene el sistema de traducción de Bing en el país.

Pero la elección de Microsoft podría estar relacionada con el deseo de la compañía de evitar una reacción negativa del Gobierno de China, como señala Benjamin Fung, profesor de la Universidad McGill y experto en IA y ciberseguridad: “A nivel técnico, censurar más es más sencillo. No tienen que identificar exactamente qué frase es delicada. El software solo tiene que tomar una decisión binaria: traducir o no”.

No debe ser casualidad, por tanto, que el nivel de censura de Microsoft haya aumentado en los últimos meses, cuando la empresa empezó a limitar (o eliminar, más bien), los resultados de búsqueda relacionados con la detención del disidente chino Zheng Baocheng en septiembre de 2023 y con las protestas más recientes del Movimiento Bluebird en Taiwán. Una decisión motivada probablemente por la necesidad de cumplir la voluntad del gobierno para seguir estando presente en territorio chino.

Artículo publicado originalmente en WIRED Italia. Adaptado por Andrei Osornio.


Ilustración que representa la batalla tecnológica entre Estados Unidos y China
China vs. Estados Unidos: estos son todos los frentes de batalla tecnológicos en la nueva guerra fría

La industria tecnológica padece las tensiones políticas entre China y Estados Unidos. Ambas naciones compiten en distintos sectores con ambiciosas inversiones y decenas de restricciones.

YouTube ahora te permitirá reportar si eres víctima de un deepfake

YouTube está actualizando su política de privacidad. En las últimas semanas, la plataforma añadió una nueva directriz que permite a los usuarios solicitar la eliminación de contenidos generados por inteligencia artificial (IA) o sintéticos, que simulen su cara o voz.

TechCrunch descubrió este cambio por primera vez y Engadget también informó al respecto. En concreto, YouTube quiere que los usuarios soliciten la eliminación como una infracción a la privacidad, y no como el intercambio de contenido engañoso o deepfake. Sin embargo, lo que la plataforma tiene interés en resaltar es que una solicitud no bastará para derivar en la baja de un video. Por el contrario, advierte que evaluará la denuncia en función de una serie de factores bastante específicos.


OPENAI
OpenAI lanza un nuevo detector de deepfakes para combatir la desinformación

OpenAI ha lanzado una herramienta diseñada para identificar si una imagen fue generada mediante DALL-E, y ha introducido métodos de marca de agua avanzados para saber si el contenido fue producido por sus tecnologías.


Cómo eliminar contenidos generados por IA en YouTube que simulen tu cara o tu voz

La plataforma analizará si el contenido está alterado, es sintético o fue generado por IA, si identifica a una persona en un sentido único e inequívoco, si parece realista, y si es una parodia, sátira o material de interés público. Pero eso no es todo. La compañía también puntualiza que considerará si el video denunciado incluye a un personaje público o famoso, y si se centra o no en lo que se define como “comportamiento peligroso”, es decir, relacionado con actividades delictivas o violentas.

Pero, ¿cómo funciona la solicitud de eliminación? Para iniciar una reclamación, debes llenar el formulario de denuncia de contenidos alterados o sintéticos, al que llama en español “Proceso de reclamo de privacidad”. Una vez enviada por el usuario afectado, la plataforma dará al autor del contenido 48 horas para responder a la denuncia. Si lo retira en ese plazo, el caso se archivará. En cambio, si no es así, YouTube iniciará una revisión del material en cuestión.

Si se descubre que el video atenta contra la privacidad del usuario que inició la denuncia, la empresa procederá no solo a la eliminación del material de la plataforma, sino que también borrará la información personal del autor del título, la descripción y las etiquetas que lo acompañan.

Para resolver el problema, los propietarios del contenido también pueden optar por difuminar los rostros de las personas que aparecen en el video para preservar la seguridad de quienes aparezcan en él. Sin embargo, lo que no tiene permitido hacer es simplemente hacer privado el video para evitar su eliminación, ya que esto les permitiría volver a configurarlo como público en cualquier momento.

En resumen, la nueva política de YouTube es muy clara y precisa. En el caso de los avisos de infracción de la privacidad, la plataforma no penalizará al creador del contenido original con una sanción, suponiendo que la actitud no se repita. Por tanto, lo que la plataforma pretende es evitar que la privacidad de los usuarios se vea comprometida.

Artículo publicado originalmente en WIRED Italia. Adaptado por Andrei Osornio.


Un collage de mujeres sin rostro con una interfaz de usuario de motor de búsqueda resplandeciente encima
La pornografía deepfake impulsada por IA está fuera de control

Una nueva investigación revela que el número de videos deepfake se está disparando y que los mayores motores de búsqueda del mundo dirigen los clics a docenas de sitios dedicados a las falsificaciones de IA no autorizadas.