Malabares de China para que la IA garantice la narrativa oficial

La euforia y la inquietud que despierta la inteligencia artificial (IA) se está sintiendo con el reciente fenómeno de ChatGPT, un chatbot o bot conversacional lanzado en noviembre del año pasado que usa técnicas de aprendizaje para ofrecer respuestas en infinidad de ámbitos. Millones de usuarios no han podido resistirse a usarlo para, por ejemplo, generar textos sobre todo tipo de temas. Es tal el éxito de la empresa detrás de este proyecto, OpenAI, que de cumplirse los pronósticos y empezar a cotizar en bolsa, su valor se doblaría a 26.000 millones de euros. Su popularidad, en cambio, no es global. 

En China ha sido bloqueado por el temor del Gobierno (que lidera desde hace décadas el Partido Comunista Chino, y que no defiende los derechos Humanos) a que sus propietarios estadounidenses lo utilicen para difundir propaganda en el país. La herramienta de IA genera respuestas que no van en consonancia con la narrativa autoritaria del Partido Comunista y Pekín ha optado por dos alternativas: la creación el mes pasado de un proyecto de ley para regular el contenido de los sistemas de IA y el desarrollo de Ernie, el ChatGPT chino que el buscador Baidu presentó sin éxito en marzo como el primer rival del proyecto estadounidense. Esperan con estas iniciativas que ninguna máquina sepa que en 1989 se produjo la masacre de Tiananmén o que en Xinjiang se vulneran los derechos humanos de la población uigur. 

Pekín ya dejó claro en abril que este tipo de sistemas deben reflejar “los valores fundamentales socialistas”. El mensaje del proyecto de ley impulsado por el organismo regulatorio chino de IA, la Administración del Ciberespacio, no deja lugar a dudas: estos bots conversacionales “no deben servir como subversión del poder del Estado, para el derrocamiento del sistema socialista, la incitación a dividir el país, a socavar la unidad nacional o a promover el terrorismo y el extremismo”. El borrador de la normativa no se aleja un ápice de los argumentos utilizados para castigar y disuadir a los críticos con el Gobierno y a los disidentes.

“Baidu se enfrentará a la disyuntiva de crear un chatbot útil o uno que se ajuste a los controles de voz chinos”, afirma Matt Sheehan, investigador de la Fundación Carnegie para la Paz Internacional que estudia la industria china de la IA. “No me creo que sean capaces de crear un chatbot de uso general que los usuarios no puedan engañar para que profiera un discurso inaceptable en China”.

Hay antecedentes al respecto. La aplicación china de mensajería, Tencent QQ, introdujo en 2017 los chatbots Baby Q y Little Bing, donde un pingüino y una niña daban vida a un servicio de chat automatizado. La gracia estaba en que estaban programados para ofrecer respuestas divertidas y el problema llegó cuando se introducían asuntos políticos delicados. En algunos casos, los hackers pudieron alterar la programación para que de estos robots salieran sorpresivas respuestas como que el régimen era “corrupto” o que la los personajes de la herramienta soñaban con emigrar a Estados Unidos. El Gobierno la fulminó y sus programadores fueron detenidos e interrogados. 

Según los expertos, la censura en China se ha convertido en el principal escollo para el desarrollo de esta nueva tecnología dentro del gigante asiático. La presentación en sociedad de Ernie en marzo fue catalogada como un fracaso, después de que se mostrara in situ solamente a compañías interesadas, en lugar de ser emitida online de manera abierta, de hecho lo único que pudo ver la audiencia común fue un vídeo grabado con antelación. A pesar de no estar perfeccionada, hubo urgencia en sacar a la luz este sistema de IA para hacer frente a ChatGTP y las preguntas para probar su fiabilidad fueron predeterminadas, un aspecto que causó más escepticismo que furor ante este tipo de tecnología cuyo atractivo es el conocimiento sin limitaciones. Las acciones de Baidu cayeron un 10 por ciento tras el vídeo de su presentación. 

“Un régimen dictatorial siempre intentará controlarlo todo, pero este enfoque es ridículo”, explica Zhang Xiaogang, un informático residente en Australia. “Restringir este tipo de cosas equivale a restringir la propia IA, lo que hará que la inteligencia artificial de China se quede atrás respecto al resto del mundo. Todo lo que China podrá hacer entonces será robar la tecnología de otros”, añade.

La censura no es precisamente la receta para el triunfo de este tipo de tecnología que se nutre de esa información que precisamente el régimen chino pretende limitar. Es así como Pekín se topa con dos deseos contrapuestos e indivisibles para el desarrollo de la IA: la obsesión por controlar el conocimiento y la necesidad de progresar e innovar tecnológicamente. 

“El Gobierno chino está muy dividido” explica Sheehan. “El control ideológico, el control de la información, es una de las principales prioridades del Gobierno chino, si no la principal. Pero también han hecho del liderazgo en IA y otras tecnologías emergentes una prioridad absoluta. Los chatbots son donde estas dos cosas empiezan a entrar en conflicto”.

La IA no puede escapar la disyuntiva sobre si se puede ser fiel o no a la verdad. Pero, ¿a qué verdad? Los expertos no se ponen de acuerdo y hay varias preguntas que quedan en el aire. ¿Se adaptarán las compañías occidentales a las demandas de China para poder operar allí como sucede en otros sectores? ¿Servirán los chatbots ‘made in China’ para alterar la realidad y aplicar con éxito el revisionismo histórico que promueve Xi Jinping? ¿Cómo cohabitarán sistemas de valores tan opuestos en el conocimiento de la IA? ¿Está sirviendo ésta para polarizar, para imponer puntos de vista específicos y para crear más prisioneros de sus propias convicciones?

“El Gobierno chino podría incluso encontrar formas de utilizar los chatbots en su beneficio”, sostiene Michael Schuman, columnista en The Atlantic. “Como una herramienta de control social, promoviendo las narrativas y los principios oficiales”. El escritor menciona el reciente libro, Surveillance State, donde los periodistas, Josh Chin y Liza Lin, afirman que los gobernantes chinos creen que convertirse en líderes en tecnologías como la IA ayudaría al Partido a construir un nuevo sistema de control que garantizaría su propio bienestar”.