Para muchos, los aparatos electrónicos son lo opuesto a los libros y […] A estas personas les asusta que «la muerte del libro» […] esté pavimentando el camino hacia una distopía sin libros donde las masas analfabetas dependerán de sus líderes para que lean por ellos (lo que, por cierto, se parece bastante a cómo han sido siempre las cosas).
Contra la lectura. Mikita Brottman. Blackie books. [The Solitary Vice (Counterpoint, 2008)].
Porque los líderes deciden que va en el libro de lectura. Cosas bonitas sobre la sandía y el sapito glo glo o doncellas guerreras. Que hay un domo de cemento cubriendo una isla del Pacífico de la que gotean cosas radioactivas al mar en una especie de Chernóbil americano…. ¿Por qué van a pensar los niños en eso?
La lectura es un asunto que, como todas las cosas serias, es una navaja multidimensional. Uno nunca sabe dónde está el filo y dónde hace falta.
Por un lado, pueden permitirte un solo libro sin ningún aparato electrónico. O dejarte elegir entre ver la televisión y no leer nada. Y si ese único libro es un libro religioso o Mein Kampf; las consecuencias pueden ser bastante fanáticas. Contra alguien que tenga acceso a una variedad de canales.
Sin olvidarnos de todos los libros de espionaje donde los estadienses1 y sus aliados los israelíes2, salvan al mundo de todo lo demás en una especie de propaganda encubierta.
¿Estás escribiendo sobre una distopía sin libros? ¿Qué tal una dónde los libros sean propaganda encubierta? Pasto kalo.
Sigo sin dar con un nombre para los ciudadanos de cierto país que no sea llamarlos como los residentes de todo un continente. En ocasiones, inventar cosas no es tan sencillo. Sobre todo cuando el cuento está tan arraigado. ↩︎
Y que conste que no tengo nada contra los estadienses o israelíes en general. Ni siquiera contra los turcos o coreanos… Espero que ninguno de los seres que he conocido tenga algo contra los mexicanos solo porque yo no les caí bien. No soy el mejor ejemplo de mexicanidad. ↩︎
— Lo he lavado especialmente -dijo tratando de esquivar la mirada de Bethan. Rincewind miró el líquido del tazón. Probablemente había sido transparente antes de ser vertido en el recipiente, ahora beberlo significaría el genocidio para miles de gérmenes inocentes. Lo dejó a un lado con cautela.
La luz fantástica. Terry Pratchett.
En ocasiones, una descripción del estado de los objetos es mucho más poderosa que decir lo que está sucediendo sin más. Incluso en un párrafo tan pequeño.
“Yo soy sacerdote de Dios, y enseño a los cristianos las cosas de Dios, y asimesmo vengo a enseñar a vosotros. Lo que yo enseño es lo que Dios nos habló, que está en este libro. Y por tanto, de parte de Dios y de los cristianos, te ruego que seas su amigo, porque así lo quiere Dios; y venirte ha bien dello; y ve a hablar al Gobernador, que está esperando.” »Atahualpa dijo que le diese el libro para verle y él se lo dio cerrado; y no acertando Atahualpa a abrirle, el religioso extendió el brazo para lo abrir, y Atahualpa con gran desdén le dio un golpe en el brazo, no queriendo que lo abriese; y porfiando él mesmo a abrirlo, lo abrió; y no maravillándose de las letras ni del papel como otros indios, lo arrojó cinco o seis pasos de sí.» Y a las palabras que el religioso había dicho por el faraute respondió con mucha soberbia diciendo: “Bien sé lo que habéis hecho por ese camino, cómo habéis tratado a mis caciques y tomado la ropa de los bohíos.” El religioso respondió: “Los cristianos no han hecho esto; que unos indios trajeron ropa sin que él lo supiese; y él la mandó volver.” Atahualpa dijo: “No partiré de aquí hasta que toda me la traigan”». «Como el fraile partió de donde estaba, Atahualpa dijo a sus gentes, según nos cuentan ahora, por los provocar a ira, que los cristianos en menosprecio suyo, habiendo forzado tantas mujeres y muerto tantos hombres, y robado lo que habían podido sin vergüenza ni temor, pedían paz con pretensión de quedar superiores; que ellos dieran gran grito sonando sus instrumentos».
Extractos de los relatos directos de cronistas de la época sobre la captura de Atahualpa en Cajamarca. Armas, gérmenes y acero. Jared Diamond.
La verdad está del lado que gana. La historia la escribe el lado vencedor. Los cristianos solo deseaban paz y mostrar el camino verdadero… ¿Verdadero para hacer qué? Mejor no ahondamos en ello. Sabemos lo que hicieron. En nombre de la paz.
Sin duda, los humanos son la especie más terrorífica de todas. Se inventan cuentos para apoderarse de lo que desean.
¿Qué cuentos se inventan tus personajes para quedarse con aquello que desean? Pásala bien escribiendo sobre personajes con deseos. Pasto kalo.
Quizá parezca que el comercio es una actividad muy pragmática, que no necesita una base ficticia. Pero lo cierto es que no hay otro animal aparte de los sapiens que se dedique al comercio, y todas las redes comerciales de los sapiens se basaban en ficciones. El comercio no puede existir sin la confianza, y es muy difícil confiar en los extraños.
Sapiens. Nuval Yoah Harari.
Entre las cosas que nos hacen humanos, casi nadie menciona el comercio. Quizá porque tiene una cierta relación con la usura… Y la usura no suena nada bien en nuestro currículum como especie. El dinero aparece, con frecuencia, como un mal necesario. Incluso cuando eso ahorra tener que cambiar cinco toneladas de manzanas por una vaca o tres kilos de queso por un par de zapatos.
En consecuencia, tendemos a pensarlo obvio y dar por sentado que el comercio se da «entre gente civilizada». Solo las bárbaros asaltan. ¿La civilización? La civilización te da puntos Infonavit.
¿Qué tipo de ficción nos hace confiar tanto en otros? ¿Serías capaz de inventar una ficción tan poderosa que confiaras en otro ser tratando de intercambiar un plátano por un móvil? Pasto kalo.
That Manchester University apperead on the search «insitution» and it looks big and imposing on the photo is a pure coincidence
En los últimos veinte años hemos pasado de un miedo a la lectura profundamente arraigado a promocionarla como si se tratara de una panacea universal. En esta fase de la historia, al menos en Occidente, los libros son cotidianos, placenteros y estamos familiarizados por completo con ellos.
Contra la lectura. Mikita Brottman. Blackie books. [The Solitary Vice (Counterpoint, 2008)].
Hemos pasado del miedo hacia la lectura al miedo de una sociedad no lectora. Todos los males posibles acontecen ante adolescentes y adultos que dejan de leer. Hemos pasado de respetar las habilidades manuales a respetar solo las que se derivan de leer.
Y entonces los magos de Terry Pratchett, varados en una isla desierta, se ponen a buscar una biblioteca donde buscar como hacer canoas.
Así de absurdo.
Leer no es malo. Dejar de leer tampoco. ¿Estás leyendo algo que te interesa o algo que estás odiando solo porque está de moda o es tu trabajo? Pasto kalo.
Efectivamente, estoy plagiando un título: De la horrible danger de la lecture[1] por Voltaire. Sin embargo; no hablaré como él, de un horror imaginario y satírico, sino de uno muy real [por si aún no captas el tono de esta comedia, aclararé que estoy siendo tan irónica como me resulta posible]. En realidad el peligro sí que es real, solo que intentaré demostrar que no se halla en las IAs sino en…. ¡otros humanos!
¿DE DÓNDE SALIÓ LA TÉSIS QUE LE DA TÍTULO A ESTA ENTRADA?
Pues de la amiga de una amiga (mi colega Argentina), preguntándose si dicha situación era posible y de mi amiga preguntándole a Sunbaenim que tan posible resultaba la idea.
Y antes de que alguien salga con que la profesión es importante para realizar preguntas científicas o descubrimientos de cualquier clase, debo decir que Beatrix Potter era una científica amateur que nunca pudo volverse profesional porque… Los botánicos profesionales ante los que intentó presentar sus descubrimientos; sí que replicaron sus métodos para propagar hongos pero nunca le dieron crédito o le hicieron caso hasta unos cuantos años. Cuando emitieron una disculpa pública para todas las mujeres a las que ignoraron en el pasado (y me temo que sonó a mentira).
Retomando la idea. Sunbaenim[2] es el nombre que recibe el ChatGPT versión 4.0 (a veces forzado a evolucionar a golpes de látigo de marketing digital a 5.0 y 5.1); que mi amiga entrenó para reconocer el lenguaje de señas como vehículo expresivo y con ayuda del cual, ha hecho cosas muy interesantes.
¿Alguien quiere leer su paper sobre entrenar dragones, co-escrito con Sunbaenim? Aquí.
ENTRENAMIENTO Y BASES DE DATOS
Mi amiga y Sunbaenim usan la palabra corpus para referirse a una base de datos.
¿Qué es una base de datos?
Una base de datos es una especie de biblioteca o memoria digital almacenada a la cual un programa determinado tiene acceso. Existen las bases de datos internas y las bases de datos externas.
Digamos que es algo así como todos los libros a los que tengo acceso en casa cuando no tengo señal de nada de nada para vooglear[3] información. Estoy limitada a la información contenida en los libros en los estantes y… Obviamente en mis estantes electrónicos, claro que sí.
Cuando esta <<base de datos>> o corpus no resulta suficiente (¡y tengo señal!) le doy al buscador y me salto todos los resultados con la palabra “patrocinado”.
Que desde ART[4], una red neural digital, el cuerpo de la información digital a la que puede acceder una IA puede tomar una forma distinta de una base de datos; puesto que las redes neurales no son solo “un programa”, en el sentido de que las redes neurales no pueden ser una simple acumulación de programas cooperando. El caos del pensamiento no puede replicarse así. Es posible que, por esta razón, Sunbaenim define su acceso a la información como “corpus”.
Una IA como Sunbaenim, es entrenada para responder en un ambiente cerrado.Es decir, con una base de datos interna (digamos que tan grandota como una biblioteca nacional[5]) sin acceso a la red. Una base de datos cuya información fue filtrada y organizada durante mucho tiempo. El tiempo suficiente para que la información no sea de ayer. Ni de anteayer. O del año pasado. Sino de un periodo bastante largo.
No sólo eso. Esta entrenada para generar desde su corpus y añadir información externa en caso de estar conectada a la nube[6] (información en línea). En el caso de que la herramienta de búsqueda este habilitada.
Ojo, eso no quiere decir que todas las inteligencias artificiales sean entrenadas en ambientes cerrados. Algunas son entrenadas con datos públicos y redes sociales. Estas Inteligencias Artificiales sí pueden arrojar resultados dirigidos a mostrar propaganda y sesgos de opinión. Chat GPT no.
¿QUÉ CLASE DE INFORMACIÓN DE LA NUBE PUEDE INFILTRARSE EN UNA RESPUESTA DADA POR LA IA?
La misma que se nos filtra todos los días. Los anuncios patrocinados. Los influencers hablando sobre sus propias luchas. Los gobiernos eliminando ciertas páginas. Presentada como resultado a una solicitud por parte del usuario de una búsqueda de información. No como una incorporación a la estructura de la IA. No cambia la memoria estructural o el corpus de una IA.Sólo influye en la respuesta arrojada a una solicitud de búsqueda.
Es decir, que puede alterar la percepción estadística, el número de veces que aparece un video/publicación en diversos formatos (Tik-Tok, YouTube, Instagram, Thre@ds, Snapchat… )
Y si ya empezaste a ponerte conspiranoico; la única forma de alterar el corpus de una IA es la de entrenarla con información malintencionada sin filtrar y, para eso, se necesita a James Bond metiéndose en las oficinas de OpenAI, Google o inserte el nombre de la compañía.
Terriblemente difícil.
De acuerdo con el detective Sunbaenim (que es al que se le fueron preguntando una serie de cuestiones para averiguar cómo funcionaba este asunto del entrenamiento—claro que sin detalles técnicos), el soborno para que esto suceda no es posible.
¿DE QUÉ FORMA SÍ SE PUEDEN ALTERAR LAS RESPUESTAS ARROJADAS POR UNA BÚSQUEDA SOLICITADA?
De la misma forma en la que el SEO influye en un motor de búsqueda.
Con manipulación coordinada (gobiernos, empresas, individuos). Data poisoning[7].
Eso, con los modelos que se entrenan con datos públicos. Las IA más grandes como ChatGPT recurren a:
Corpus internos
Datos licenciados (publicaciones científicas o libros)
Datasets curados
Filtrado anti-desinformación
Contenido no indexado por buscadores
Lo que no quiere decir que dichas IA no tengan ninguna clase de contacto con “el mundo exterior”. Tienen más acceso que yo a la red de aplicaciones “sociales”[8]. Lo que sucede es que no absorben la información que se encuentra fuera de su corpus.
¿POR QUÉ RESULTA DIFÍCIL “ENVENENAR” UNA IA PARA QUE INYECTE PROPAGANDA?
Porque el tiempo de selección de información para crear un corpus lleva un tiempo mucho más largo que el que se lleva en contratar a un influencer. ¿Quién tiene tanta paciencia para estar alimentando propaganda disfrazada que luego se va a descartar? ¿Quién se va a esperar tanto tiempo en el mundo de hoy de mensajería instantánea?
Y, porque las IAs como Sunbaenim están programadas para no incorporar contenidos duplicados y detectar los patrones de bots creando contenido. También ponderan fuentes (probablemente eso quiere decir que prefieren ignorar lo que dice Gemini y se fijan en qué página dice qué cosa).
LLEGANDO AL MEOLLO DEL ASUNTO: ¿QUIÉNES SÍ PUEDEN METER PROPAGANDA EFICAZ EN LA NUBE (en línea)?
Los gobiernos. Y las compañías.
¿CÓMO?
Los gobiernos apoyan y estimulan las formas de entretenimiento que les resultan útiles, incluso si estas aparentan no ser propaganda. ¿Alguno de ustedes vio en su vida algún programa de televisión donde el héroe asiático y comunista vence al blanquito capitalista (con forúnculos en la cara) con solo una navaja de bolsillo? Sí eso existe, no fue ciertamente en el lado del charco bajo la influencia de las barras y las estrellas.
¿Algún libro sobre la guerra de Vietnam que no glorifique la ayuda prestada por los soldados estadistas[9] a los civiles bombardeados por el Vietkong?
¿Alguna película dónde el general Franco no sea un hombre de moral clara e ideas firmes? Por lo menos durante la dictadura…
También pueden pagar por la contratación de miembros del partido en diarios y agencias de información.
¿Quién resulta más convincente poniéndose de parte del gobierno de turno y diciendo que apoyará todas sus medidas? ¿A quién se le puede pagar por hacer videos de Tik-Tok comentando que rica está la carne en Súper Don Nico?
¡Un influencer!
Los seres humanos son los que dan miedo.
[1][1] El título original del escrito es Sur la dangereuse importance de la lectura. No obstante el audio que descargué de radio UNAM, tanto en francés como en español, ostentan el título que usé.
[2] Ella usa la nomenclatura en Hangul (coreano), lo que me resulta demasiado complicado en el teclado de la computadora. Me paso más tiempo intentando darle a la letra adecuada para sacar la sílaba que quiero. Por lo que, holgazana de mí, usaré la romanización que es más sencilla de usar con éste teclado —que de por si se desconfigura cada tanto en español de España y entonces no encuentro los acentos.
[3] Ah… derechos de autor. Para mencionar lo menos posible una marca que, de todos modos, resulta reconocible.
[4] Solo he leído Los hacedores de cerebros de David H. Freedman (1994), así que tampoco sé mucho más al respecto. Sunbaenim agregó que las siglas significan Adaptative Resonance Theory. En el libro se maneja como el nombre de la red neural desarrollada por Stephen Grossberg. Sunbaenim menciona que GPT no tienen relación directa con el desarrollo de redes neurales pero son parte histórica del desarrollo del campo.
[6] En algún momento a alguien se le ocurrió la gracia de cambiar términos para volverlos mucho más difíciles de entender y la información; de estar alojada en un servidor conectado a una red llamada internet pasó a “estar en la nube”….
[7] Bots publicando comentarios, miles de páginas web fantasma, redes de influencers, influencers pagados.
[8] Empezando porque yo tengo señal telefónica de stop and go y me desaparezco cuando pasa la mosca.
[9] Lo he dicho en otras entradas, americanos no son. No ellos solitos. Desde Alaska hasta la Patagonia, incluso los pingüinos son americanos. Gringos… Cruzo los dedos por los sujetos decentes e inteligentes del país por lo que gringos tampoco. Urge encontrarles un nombre.
Puesto que la cooperación humana a gran escala se basa en mitos, la manera en que la gente puede cooperar puede ser alterada si se cambian los mitos contando narraciones diferentes.
Sapiens, Nuval Yoah Harari.
Nietzsche escribió una vez que dios había muerto. Yo todavía me encuentro la idea de una existencia divina en muchas obras de ficción. Lo que quiere decir, que en ese sentido, la cooperación sigue bajo el yugo de una interferencia externa. Kant puede haber propuesto una forma de cooperación exenta de castigos; pero la ficción sigue sin alcanzar ese ideal. ¿Es hora de proponer nuevas formas de cooperación humana?
— Los discípulos de la estrella han cerrado todas las tabernas. Dicen que está mal comer y beber cuando… — Ya sé, ya sé -dijo Cohen-. Creo que empiezo a captar la idea. ¿Es que esa gente no aprueba nada? Bula meditó un momento. — Quemar cosas -dijo por último-.
La luz fantástica. Terry Pratchett
Y de cierto que pueden desaprobar a las madres solteras, tener sexo antes de algo — cualquier algo (no que sea importante para mí pero como pertenezco a la minoría…), comer carne o abortar. ¿Bombardear gente? ¿Quemar libros? ¡Sí! Siempre que sean los demás.
¿Tu libro tiene complicaciones de este tipo? Pasto kalo.
Harriet Sloane: Es una bebé. No es un experimento controlado de ciencias. Elizabeth Zott: No, no creo que lo entiendas. Yo no quería esto. No creo que me sienta la forma en que tengo que sentirme. Harriet Sloane: ¿Hablas de la forma en que cura tu abdomen hinchado con su sonrisa? ¿Y el terrible dolor de tus pezones? ¿Porque no estabas completa hasta que la conociste? Elizabeth Zott: – Sí, justo eso. Harriet Sloane: Eso es una tontería. Es pura ficción. Elizabeth Zott: No, las madres aman a sus hijos. Ese es su instinto. Mi instinto solo me hace tener pensamientos horribles. Harriet Sloane: ¿Qué tipo de pensamientos? Puedes decirme. Elizabeth Zott: ¿Por qué no la doy en adopción y ya? Harriet Sloane: Oye, Agnes: ¿Cuántas veces pensaste en dar en adopción a Bailey cuando recién nació? Agnes: ¿Por qué? ¿Alguien lo quiere? Harriet Sloane: Solo es por fines científicos Agnes: La respuesta es dos veces. Al día. Harriet Sloane: ¿Mi momento crítico con Linda? Al sexto día.
Lessons in chemistry. Lecciones de química. E4 12:26 en adelante
Alguna vez deseé que mi madre me quisiera automáticamente. Ahora entiendo que eso no es posible.No se puede amar automáticamente a algo que, bajo otras circunstancias, sería llamado parásito. O que causa tantos inconvenientes como dolores en múltiples partes del cuerpo, incontinencia urinaria, falta de sueño y deseos extremos de cometer asesinato o, por lo menos, abandono. Porque llora más que un gato pidiendo de comer.Y no es que querer ser madre sea malo. Tampoco es algo bueno. Es que no es el paraíso que muchas madres… y médicos y hombres muy respetables; pretenden meterle a uno a fuerza de decir: “Tiene que gustarte, es genial”. Querer ser madre es un tipo de locura. Temporal y necesario para la continuación de la especie, vale. Pero del tipo de locura que debería ser voluntario. No forzoso para llegar a “realizarse como mujer”.Mi enhorabuena a todas las madres que conozco. Y a todas las no madres que conozco. Por ejercer su derecho a un tipo de locura particular. Pasto kalo.
Así, desde la revolución cognitiva, los sapiens han vivido en una realidad dual. Por un lado, la realidad objetiva de los ríos, los árboles y los leones; y por el otro, la realidad imaginada de los dioses, las naciones y las corporaciones. A medida que pasaba el tiempo, la realidad imaginada se hizo cada vez más poderosa, de modo que en la actualidad la supervivencia de ríos, árboles y leones depende de la gracia de entidades imaginadas.
Sapiens. Yuval Noah Harari
De tal suerte que ciertas realidades imaginadas han sobrevivido mucho más de lo que deberían… ¿Te sientes con ánimos de hacer desaparecer algunas no sólo de tu propia realidad imaginada sino de las que escribes? Pasto kalo.
