¿Con cuántos cuerpos se hace una IA?

Cuando observamos productos tecnológicos, ya sean dispositivos móviles, wearables, hardware y toda su infraestructura, así como software, muchas veces los vemos como objetos que parecen haber nacido listos, ¡como si hubieran caído del cielo!

Mientras realizaba parte de mi investigación en la Universidad de California, Irvine y en medio de la pandemia, dejé de lado la posibilidad de hacer investigación en los laboratorios, que estaban cerrados, y pensé en cómo podía sumar un dispositivo creativo. Para la bioética, un concepto creado para recordarnos que estos objetos y proyectos no nacen listos. Por supuesto, para muchas personas en el ámbito de las humanidades y las artes, esta mirada profunda puede resultar bastante obvia. Pero no ocurre lo mismo en las llamadas “ciencias duras”.

La bioética tiene una historia ligada a las ciencias de la salud, a la biología y, en un país con muchas desigualdades, el sistema sanitario está sobrecargado. Para resolver problemas y dilemas, la bioética accede a 'dispositivos' de pensamiento, generalmente las corrientes éticas de la tradición occidental, en confrontación con nuevas lecturas, buscando ofrecer la formación de futuros profesionales que estarán 'en el campo', de manera más profunda. puntos de vista sobre situaciones que pueden ser complejas, tener conflictos de intereses, entre muchos factores.

Sin embargo, como toda nuestra formación académica y profesional es extremadamente especializada, me di cuenta de que había mundos que no se comunicaban. Un ejemplo lúdico y tranquilo fue cuando una vez le comenté a una colega de medicina que formaba parte de mi grupo de investigación en una disciplina: “¡qué bonito es ese estampado del vestido, con alas de avispa!”. Era un vestido fluido y había una modificación digital en esas alas que las hacía coloridas. Aunque rara vez vivo con avispas ni las observo, inmediatamente noté la forma y el tipo de alas con cierta transparencia. Mi colega se quedó sorprendida, porque dijo que tenía ese vestido desde hacía unos años y siempre pensó que eran flores. Y añadió: “¡Qué diferente es la mirada de una artista!”.

Y me alegró que me reconocieran mi especificidad, entendiendo que ese es el verdadero valor de la interdisciplinariedad, que es cuando dirigimos estas miradas a un tema que queremos examinar.

Así, las visiones más pragmáticas tienden a ver los productos tecnológicos como innovaciones, herramientas facilitadoras y la tendencia sería no pensar tanto en sus riesgos, en la relación costo-beneficio a la hora de hacer una inversión, y menos aún en la carga humana y ambiental que es invisible en estos productos y proyectos.

No digo esto como una suposición. He pasado tiempo en el aula con colegas que trabajan en medicina y he hablado con profesores de esta y otras áreas con importantes posiciones académicas, que tienden a argumentar a favor de los beneficios, lo que también es una posición liberal de bienvenida a las innovaciones tecnológicas. Sabemos que muchas innovaciones son sorprendentes y realmente resuelven problemas importantes, y necesito dejar esto claro antes de señalar los problemas. Y una de ellas que conocemos es que la mayoría de las veces se sobreestiman los resultados, lo que justifica altas inversiones, por lo que las evaluaciones costo-beneficio no se hacen de manera práctica, sino sesgada.

También quiero dejar claro que vengo del ámbito artístico, del arte electrónico y de la comunidad del software libre. La tecnología, en su sentido creativo, nos hace muy optimistas, por eso creo que su arte es el aspecto más celebrado. La ciencia necesita confrontar las cifras, los “efectos secundarios” y abordar consideraciones bioéticas. Y se trata fundamentalmente de garantizar el cumplimiento de los principios de justicia y beneficencia. La bioética tiene entonces una tendencia prescriptiva y reguladora, por eso propuse la “bioética de la no presencia” como una “lupa” cuando evaluamos las tecnologías y sus impactos.

Como dije, durante el período en que estuve estudiando para mi doctorado, no entablé diálogo con otros 'creativos', aunque sí participé en colaboraciones con colegas y profesores que se vieron afectados positivamente por el valor e influencia que aporto, y También me vi afectada positivamente por ellos. Sin embargo, me di cuenta de que los conflictos que aparecieron y que no había experimentado en el período anterior durante la Maestría en Diseño, se referían a dogmas arraigados en la epistemología de la antigüedad clásica occidental.

He vivido situaciones de violencia interpersonal en el ámbito académico que demuestran una intolerancia hacia lo no etiquetable. Pero sólo digo que no entendieron mis críticas al transhumanismo, y ahora, siete años después, con lo que está sucediendo en el mundo hoy, creo que las piezas están encajando. Porque ya había una semilla especista en el transhumanismo que hace conveniente la agenda antidemocrática, hace años no estaba claro para mucha gente, hoy puede que se estén dando cuenta. Pero un profesor que defendía la agenda transhumanista, al darse cuenta de que me había inscrito en su curso, llegó al extremo de crear una regla que no existía, diciendo que yo no podía tomar ni asistir, y me vi obligada a retirarme. Esto es simplemente porque estaba ofreciendo otras perspectivas sobre el tema y eso era molesto. Más recientemente, un colega vino a contarme que este profesor de filosofía había presentado un texto en el que se notaban características fascistas y misóginas. Así, temas que antes pasaban desapercibidos y estaban envueltos en “cortinas de humo”, ahora abren las heridas de estas disputas en el entorno del conocimiento. Así, las disputas políticas que antes eran entre “marxistas” y “liberales”, “demócratas” y “autoritarios”, también están arraigadas en las disputas dentro de la ciencia. Por lo tanto, los transhumanistas y los posthumanistas están en bandos diferentes. Intentaré presentar brevemente algunos temas para que podamos tener una conversación.

1. La explotación del trabajo en el entorno virtual es tan generalizada que se vuelve muy difícil estimar cuántas personas están involucradas en todo el proceso que da lugar a una inteligencia artificial. Desde los entrenamientos hasta las clasificaciones, muchas personas trabajan de forma gratuita (incluyendo a niños en plataformas de videojuegos), mientras que otras se ven precarizadas (pagos bajos, inconstantes e imprevisibles), vigiladas e incluso utilizadas como conejillos de indias en las interacciones con los algoritmos.

2. La explotación de los recursos naturales, los impactos sobre la naturaleza y sobre las vidas no son considerados dentro de los costos de los proyectos. Las desigualdades y la miseria siguen siendo estimuladas para generar ganancias, a pesar de cualquier tipo de impacto.

3. Propongo reflexionar sobre las ideas que constituyen los imaginarios que hacen que las cosas sean difíciles (o incluso imposibles, para algunos) de cambiar.

   Todas las tecnologías tienen impactos ambientales y humanos. A medida que la humanidad avanza hacia un futuro brillante que nunca llega, las tecnologías sirven a propósitos que no siempre se alinean con los objetivos que prometen.

4. Desde el principio hilemórfico se configura una representación de la esfera política, e incluso del patriarcado, entre un “dominante” (que determina cómo deben ser las cosas) y un “dominado” (que debe servir a esos propósitos sin gozar de ciudadanía/agenciamiento/autonomía).

5. Bios y zoé representan la vida ciudadana y la vida desnuda, un conjunto complementario entre incluidos o excluidos de su autonomía, agenciamiento o autosoberanía; el cuerpo como territorio ocupado por el control a través de ideas/imágenes y la desterritorialización de su potencia y expresión; el cuerpo como territorio de lo político; el cuerpo como mercancía. (Las imágenes creadas con IA sobre bios y zoé aún son incompletas, ya que hay zoé en las ciudades —personas sin hogar, precarizadas, que sufren las injusticias sociales y la falta de derechos básicos para garantizar su dignidad— y en el campo están quienes detentan el poder sobre la tierra, como los hacendados, las mineras, etc., que son los bios, es decir, los que cuentan con protección jurídica y del sistema de poder para llevar a cabo prácticas injustas).

6. El dualismo es un derivado del hilemorfismo y otra forma de jerarquización binaria: la mente representando la razón; el cuerpo, los sentidos y las emociones; la mente como el dominante masculino, y el cuerpo como lo afectado, lo femenino. También se da así la separación entre la ética, regida por la autoridad del conocimiento, y la estética, que representa no solo el arte, sino también los comportamientos sociales. La secuencia sigue la lógica de subalternización de lo “menos importante” frente a lo “más importante”. Son relaciones de poder que también se expresan en los modelos de conocimiento.

7. (Contrapunto): Al igual que en las cosmologías indígenas, entendemos que todo tiene alma.

8. Lado B

   A. En la canción de la banda carioca "O Rappa" dice: "No me parezco a ti", "lo que te protege es la ley de los hombres, lo que me protege es la ley de Dios". Es una manera de dejar claro que no somos un proyecto inacabado que no se ha convertido en la perfección del hombre blanco y los imaginarios que él propaga. Somos el otro lado que no queremos ver, que queremos invisibilizar, que siempre es visto como un problema, que no puede ajustarse, que no puede adaptarse. Lo que está en peligro de extinción.

   B. El derecho a la identidad en contraste con la monocultura que secuestra los sueños y puebla la imaginación con basuras industriales.

   C. En la industria de la música, cuando los discos se lanzaban en vinilo, el lado B era el lugar para la experimentación, mientras que el lado A era la producción dentro de los estándares para lograr los objetivos de éxito y ganancias.

En la historia del pensamiento occidental ha coexistido el “lado b” con el “lado a” como el monismo y el dualismo, el empirismo y el racionalismo, así como las corrientes de pensamiento que vienen después y que son herederas de planteamientos críticos como la fenomenología , postestructuralismo, postfenomenología, etc.

Mientras la descolonialidad se apropia de influencias críticas para presentar perspectivas interseccionales, Nêgo Bispo, filósofo quilombolista, acusa a todas estas teorías de ser de mundos manufacturados y presenta la contracolonialidad como la identidad de un mundo aparte, un mundo marginal que vive en armonía con la naturaleza.

9. Artificial

• Parque humano: la racionalidad y su conjunto de reglas es un dispositivo, un artefacto.

• Se supone que es neutral y representativo de la verdad, pero tiene, de manera invisible, deseos, voluntad de saber y voluntad de poder incrustados en él.

• Busca adaptar y moldear el pensamiento a un conjunto de cálculos que forman un juego virtual que se desarrolla en la mente.

• Vida artificial: la individualización de las narrativas y los sueños.

• Las relaciones de poder como un gran juego de azar, el tratamiento de las personas como caballos de carreras, perros o gallos de pelea. Falta de ética y respeto a la vida. Usos y abusos.

10- Consecuencias

• Readaptación del cuerpo y de los sentidos a los movimientos mecánicos.

• Impactos en la salud mental con un aumento creciente de ansiedad, pánico, depresión y otros trastornos.

• Excesos

• La obsolescencia programada en objetos técnicos, dispositivos, lenguajes informáticos, productos y proyectos, se expande en la forma en que miramos el mundo y se desborda en nociones implícitas sobre cómo tratar a las personas, en el trabajo y en todas las relaciones interpersonales. La objetivación de lo humano.

11. Creatividad

• Pensamiento creativo para recuperar la soberanía del cuerpo y mente. La naturaleza es diversa y creativa y como todo en ella, nosotros somos sus manifestaciones y reflejos.

Responder a los obstáculos

Con la creciente digitalización de la vida, la computación omnipresente (sin escapar de la HCI - interacción hombre-computadora) y los crecientes desarrollos de la IA, se han establecido nuevos modos de captura en el cuerpo, poblando imaginarios, indicando "seres perfectos", "conocimiento perfecto", La forma "perfecta" de vivir…

Responder a los obstáculos de un mundo que quiere suprimir existencias diversas requiere disputas en la producción de imaginarios: la apropiación y resignificación de tecnologías y símbolos; con humor, ironía, visión crítica política y social, y procesos constructivistas, participativos y horizontales.

Abajo, un proceso en la Escuela de Música de Shoreditch, en 1966, donde el profesor enseña a los estudiantes cómo grabar y remezclar cintas de audio y construir una narrativa con audio e interpretación. Está claro que la atención de los estudiantes es indivisa, siempre que se conviertan en parte pensante de la solución. Estos mismos procesos se pueden aplicar en diferentes contextos, pero son más laboriosos y pueden volverse “caóticos”. A menudo, por conveniencia, se replican en todas las instancias modelos de autoridad de arriba hacia abajo, que exaltan las habilidades individuales, ignoran los valores agregados y se centran en los intereses privados.

Visiones

• Despersonalizar-->Romper la individualización en el contacto con las redes; que el dispositivo se convierta en un “juego de mesa” donde quienes comparten puedan comentar los temas, compartir los impactos y desindividualizar el algoritmo.

• Dispositivos compartidos -->Romper la carga de la soledad: Por ejemplo, los trabajadores de aplicativos que comparten la misma cuenta pueden compartir los disturbios y discutir los problemas entre ellos, buscando soluciones conjuntas.