IA: Advierten que “hay que innovar menos si no se conoce el daño que puede ocasionar”

En un contexto en el que las innovaciones tecnológicas como la inteligencia artificial avanzan más rápido que nuestra capacidad para evaluar los riesgos que suponen, la bioética se consolida como una disciplina fundamental en su esfuerzo por echar luz sobre los efectos y consecuencias, individuales y sociales, del progreso tecnológico.

Para profundizar sobre los aspectos más importantes de esta disciplina y los importantes desafíos que enfrenta en torno a la innovación tecnológica, desde Portal Universidad nos pusimos en contacto con Susana La Rocca, docente de Filosofía y Magíster en Epistemología y Metodología de la Ciencia. Dentro de la Universidad Nacional de Mar del Plata es coordinadora del Programa de Bioética y miembro de la Red de Bioética del Sur Bonaerense.

Respecto del origen de la disciplina, La Rocca dijo: “Mar del Plata ha sido pionera en el campo de la bioética, ya que la cátedra que produjo la primera cohorte de especialistas, en 1990, se hizo en esta ciudad y su director fue José Luis Mainetti. Los primeros bioeticistas de Argentina y Latinoamérica fueron marplatenses, o por lo menos vivimos acá. De ese momento a la actualidad, la transformación de la bioética fue expansiva y no sólo en lo relativo a la ética médica, sino que se hizo un saber capaz de ocuparse de tantos otros temas como la justicia social, temas políticos, los cambios ambientales. Nosotros siempre sostenemos que la bioética es la ética del siglo XXI”.

Y explicó: “Lo que hizo la ética fue ensayar un maridaje con la ciencia tratando de guiar, desde el punto de vista de los valores, el accionar de la ciencia. La ciencia es una herramienta magnífica si es usada para el bien y puede ser un arma muy perjudicial si no es guiada por los valores que una sociedad considera deseables. Es importante entender también que la solución de los dilemas que el dolor y la tecnología presentan no están en manos de los expertos exclusivamente, sino que están compartidos también por los que sufren, por los que no son jerárquicos. Para que la decisiones sean legitimadas, los que intervienen en ellas tienen que poder decir algo y de eso se trata el apropiarse de derechos. La bioética es una disciplina provocativa que subvierte el statu quo y viene a exhibir que los que saben más, no son los que tienen el poder y los que sufren también tienen derecho a expresar su propio saber”.

Hay ciertos indicios que demuestran la capacidad de las máquinas de hacer otras cosas más allá de recopilar y combinar datos.

Una de las innovaciones tecnológicas que se encuentra presente en boca de todos y que tiene mucha repercusión en los medios de comunicación es la irrupción de la Inteligencia Artificial. Esta tecnología despierta mucha preocupación en la sociedad, ya que las personas observan con temor que las máquinas comienzan a desarrollar capacidades que compiten directamente con actividades que antes eran exclusivamente humanas. Frente a este panorama, La Rocca dijo: “Es un tema que a mí me genera mucha preocupación. Algunas personas piensan que nunca nos van a reemplazar pero hay ciertos indicios que demuestran la capacidad de las máquinas de hacer otras cosas más allá de recopilar y combinar datos. Si ese escenario pudiera ser posible estaríamos ante un problema importante. Uno de los aspectos más importantes a considerar es que los datos con los que esas máquinas se alimentan se los damos nosotros pero ¿qué datos les damos?; ¿Les enseñamos valores? El valor implica incertidumbre y la máquina funciona con algoritmos que determinan bueno y malo, blanco y negro, entonces la pregunta es quién y con qué parámetros le proporcionará esa información a la máquina”.

Foto: Chat GPT y BARD AI, los modelos de inteligencia artificial que se disputan la llegada masiva al público. Fuente: Télam.

A lo que La Rocca añadio: “Mientras nosotros podamos dominar esa inteligencia en interés y beneficio del conjunto de la sociedad, hablamos de un poder extraordinario que nos va a ahorrar montones de cosas. Sin duda hay un punto interesante y positivo en la Inteligencia Artificial. Ahora si los datos que se cargan en esa inteligencia implican la dominación de unos sobre otros, estamos ante un escenario muy complejo y de eso se habla cuando se sostiene que corre riesgo la especie humana. Si a eso le sumamos la posibilidad de que esas máquinas se independicen, que tampoco es tan difícil de imaginar, entramos en el terreno de lo desconocido”.

En este marco comentó: “Leí una noticia, que no corroboré pero que sirve como disparador para plantear hipótesis de reflexión, donde en un experimento ponían a dos robots a intentar persuadirse entre sí respecto de un tema. Tras intentar convencerse sobre tener razón durante un tiempo, los robots habrían comenzado a discutir en un código incomprensible para los humanos. Repito, no sé si es veráz esta noticia, pero nos invita a pensar y reflexionar sobre la prudencia que se requiere a la hora de desarrollar estas tecnologías y nos invita a imaginar posibles consecuencias. Existe un principio bioético que implica que la precaución debe usarse más que nunca si no conocemos el posible daño que se puede ocasionar. Ante escenarios tan complejos y de tanta incertidumbre, es conveniente innovar menos”.

Asimismo, se refirió al complejo vínculo que existe entre la ética y el derecho a la hora de regular este tipo de tecnologías y dijo: “La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) ha lanzado una serie de normativas, no con carácter de ley, sino normativas generales indicando que debería hacerse. Pero son totalmente generales y el desarrollo de la Inteligencia Artificial tiene una velocidad tan extraordinaria que rápidamente plantea escenarios que quedan por fuera de estas normativas. Hace tan solo dos años no nos imaginábamos este panorama, hablamos de un desarrollo inversamente proporcional a los recaudos que tomamos respecto de la tecnología”.

El desarrollo de la Inteligencia Artificial tiene una velocidad tan extraordinaria que rápidamente plantea escenarios que quedan por fuera de las normativas.

“Lo que verdaderamente nos hace humanos es la capacidad de decidir en favor de lo bueno y lo malo y eso implica libertad. Sabemos que las máquinas son capaces de superar ampliamente la capacidad de manejar información del cerebro humano, pero es importante preguntarse qué potencial de libertad tendrán a la hora manejar esa información.  Incluso para los propios seres humanos es complejo analizar la libertad, nos decimos libres con muchas comillas, pero ¿qué van a hacer las máquinas con ese potencial? Hoy en bioética gran parte de los temas que se tocan se vinculan con esta importante preocupación”, destacó.

Por otro lado, La Rocca se refirió a la ingenuidad con la que participamos de este gran experimento sin cuestionarnos respecto de sus posibles consecuencias y expresó: “Estamos todos embobados con la inteligencia artificial. No le ponemos ni un palo en la rueda, le cedemos todos nuestros datos, aceptamos las reglas de confidencialidad y de cesión de derechos. No hay una barrera por parte de la sociedad y no se discute el tema en la mesa familiar justamente porque todos los integrantes de la familia se sientan a la mesa mientras continúan absortos en sus teléfonos”.

Hablamos de una tecnología mucho más poderosa y no tiene que ver solamente con reemplazar el cuerpo, sino que interviene en la psiquis.

Por último reflexionó: “La mitad de los deseos están a favor de que va a ser una innovación tecnológica más, como fue la revolución industrial, la rueda, la imprenta. Eso significó en su momento que los copistas no tuvieran  más trabajo por la imprenta o los trabajadores fueran reemplazados por la industria. A los que sostienen que se trata del mismo proceso yo les digo que hay que ser más prudente, porque hablamos de una tecnología mucho más poderosa y no tiene que ver solamente con reemplazar el cuerpo, sino que interviene en la psiquis. Además interviene sobre una psiquis que no ofrece resistencia, es dócil, maleable y dominable frente a la informática y por eso existe esta gran preocupación que plantea que está en riesgo la especie humana”.

Presentación del libro: “Bioética para principiantes en clave de derechos”

Este miércoles 17 de mayo a las 18 horas se realizará la presentación del libro “Bioética para principiantes en clave de derechos” de María Marta Mainetti y Susana La Rocca. La actividad será en la Librería Universitaria ubicada en Jujuy 1731, y se realizará también en forma virtual solicitando el link eudem@mdp.edu.ar

Respecto de la presentación del libro, La Rocca manifestó: “estamos muy ansiosas con María Marta Mainetti porque es un acontecimiento muy especial. El libro es el resultado del trabajo que realizamos juntas, nosotras hemos sido docentes de bioética de la única cátedra que hubo durante muchísimo tiempo en la Argentina. Atravesamos un momento especial, histórico, de una génesis que vivimos. Por eso decimos que el libro es letra viva, porque no solamente es una cuestión teórica, sino de transformación cultural que sus autoras vivieron”.

“Pensar en construir el libro para un público no especializado fue un desafío importante, porque si hablamos entre nosotros la cosa queda entre nosotros, el nosotros es insuficiente, hay que recurrir a la otredad, que en este caso no sabe de bioética. Todos creemos que somos muy éticos y cuando uno les pregunta cuando estudiaron ética y tuvieron una aproximación real a la disciplina nadie sabe. Es un saber que nadie enseña y nadie aprende, pero todo el mundo se siente ético. Fue un desafío que realizamos en conjunto y que habla de nuestra experiencia también como docentes, hemos tenido muchísimos estudiantes, damos bioética en las carreras de enfermería, terapia ocupacional, servicio social, psicología, medicina, todas disciplinas relativas al campo de la salud”, dijo.

Por otro lado, en el libro se abordan las principales problemáticas y desafíos que se abordan desde la bioética y explicó: “No llegamos a tratar el tema de la inteligencia artificial que abordamos en esta nota justamente por el veloz avance de la tecnología. Este libro se inició antes de la pandemia, cuando este escenario ni siquiera se veía en el horizonte y tenerlo publicado implica un largo proceso de edición. Si hemos hablado de muchas cosas que me enorgullecen como argentina y es la importante cantidad de leyes que se trataron en los últimos años. Leyes que hicieron posible que determinados dilemas bioéticos se pudieran resolver directamente sin tener que esperar la intervención de un juez. Hablo de los derechos al final de la vida, de decidir sobre la propia muerte que es una parte de la ley de derechos de los pacientes, para que puedan decidir no sufrir más ante situaciones irreversibles. También hablamos de temas como la ley del aborto, derechos que costaron mucho al estar atravesados por cuestiones ideológicas, religiosas y legales. Por otro lado, se discuten aspectos del trasplante y la donación de órganos, discusiones que actualmente se vuelven a poner sobre el tapete cuando algunos personajes de la política pretenden esquemas de compra venta de órganos regulados por el mercado”.