La inteligencia artificial est\u00e1 cambiando aspectos fundamentales en la sociedad. Entrenada a partir de millones de datos, pero replicando sesgos y prejuicios, afecta las formas en que se desarrolla, se cuenta y se percibe la realidad. Agust\u00edn Berti, profesor e investigador de la UNC y Conicet explica los impactos que tiene esta tecnolog\u00eda.<\/p>\n
Desde hace m\u00e1s de 100 a\u00f1os, la cultura popular, la literatura, el cine o la humanidad han imaginado un futuro en que las personas conviven con m\u00e1quinas inteligentes. Por ejemplo, en las pel\u00edculas Metr\u00f3polis o Terminator, por citar dos ejemplos del cine.<\/p>\n \u00bfEstamos ya conviviendo con m\u00e1quinas inteligentes? Quien responde \u2013a trav\u00e9s de una entrevista realizada para UNCiencia Podcast<\/strong>– es Agust\u00edn Berti, profesor e investigador de la UNC y Conicet; director alterno de la Maestr\u00eda en Tecnolog\u00eda, Pol\u00edticas y Culturas; e integrante de D\u00e9dalus, grupo de investigaci\u00f3n sobre la t\u00e9cnica: \u201cEs algo que siempre ha estado dando vueltas porque, en el fondo, la humanidad siempre ha coevolucionado con un entorno t\u00e9cnico. Nuestros propios procesos de cambio social, incluso tambi\u00e9n nuestros procesos de cambio biol\u00f3gico est\u00e1n asociados a nuestras herramientas. Primero, con artefactos muy simples y luego con sistemas tecnol\u00f3gicos m\u00e1s complejos como la agricultura, los canales de riego o la arquitectura. Pasa que ahora tenemos sistemas que tienen mucha mayor complejidad y que operan de manera autom\u00e1tica de un modo que nos resulta inaccesible. Y por eso los vemos como externos a nosotros, ajenos, diferentes de lo humano, aunque en realidad son producidos por humanos y son, de hecho, humanidad fuera de nosotros mismos. \u2018Inteligencia artificial\u2019 (IA) es un sintagma que se puede prestar a malentendidos. Es inteligencia humana puesta a funcionar en m\u00e1quinas autom\u00e1ticas que realizan una serie de operaciones a velocidades que nuestras capacidades biol\u00f3gicas no lo permiten.<\/p>\n \u00bfC\u00f3mo se genera esta inteligencia artificial?<\/strong><\/p>\n -La inteligencia artificial a la que nos referimos hoy son m\u00e1quinas que pueden aprender. El machine learning, el aprendizaje maqu\u00ednico, es un tipo de software que a partir de una serie de datos aprende a reconocer patrones, que es algo que nosotros hacemos todo el tiempo. Esta idea viene ya de los a\u00f1os \u201850, con la idea de la \u00abm\u00e1quina ni\u00f1o\u00bb de Alan Turing. En vez de programar una m\u00e1quina para que haga todo lo que hace un humano, es mucho m\u00e1s eficiente lograr que una m\u00e1quina aprenda. Hay ah\u00ed una idea de imitaci\u00f3n. Entonces, lo que hacen las m\u00e1quinas es aprender a reconocer patrones y luego identificar esos patrones en el mundo, y eventualmente generar patrones nuevos a partir de los aprendidos. \u00bfC\u00f3mo reconocen esos patrones? Mediante el an\u00e1lisis de vast\u00edsimas bases de datos, que son ese flujo de datos que nosotros generamos constantemente.<\/p>\n Si nosotros les ense\u00f1amos a las m\u00e1quinas lo que aprenden, \u00bfpuede haber sesgos en ese proceso?<\/strong><\/p>\n -Claro, porque venimos con sesgos hist\u00f3ricos, y toda cultura ya es un sesgo. La cultura es una reducci\u00f3n de informaci\u00f3n para poder navegar en el mundo. No podemos estar todo el tiempo abrumados por todos los est\u00edmulos que recibimos descubriendo todo de nuevo. En alg\u00fan momento reducimos la variedad de las cosas; por ejemplo, no tenemos un nombre para cada perro, \u00abperro\u201d abarca a todos los perros del mundo. Del mismo modo, a los fen\u00f3menos sociales tambi\u00e9n los reducimos, entonces asignamos identidades gen\u00e9ricas, asignamos edades, y decimos que alguien es infante, joven, adulto o viejo, por ejemplo, y eso abarca quiz\u00e1 complejidades evolutivas muy diferentes. Ese tipo de sesgo se traslada a los datos que vamos dejando en el mundo, datos sobre los cuales las m\u00e1quinas se entrenan. Entonces, no es que la m\u00e1quina, el algoritmo, sea racista o clasista, la sociedad es racista y es clasista, y la m\u00e1quina lo que hace es replicar esos datos que ya est\u00e1n inscritos en la serie hist\u00f3rica.<\/p>\n \u00bfPuede que haya inteligencias artificiales que opinen diferente sobre un mismo hecho?<\/strong><\/p>\n -La inteligencia artificial, al menos la que estamos pensando ahora como inteligencia artificial que es el Chat GPT y todas las variantes de la inteligencia artificial generativa, se han entrenado con todos los textos disponibles en el mundo. Y luego se lo ha ido corrigiendo para eliminar ciertos sesgos, o para directamente eliminar ciertas palabras. Pero la inteligencia artificial s\u00f3lo replica y recombina patrones que ha reconocido en los textos que hay sobre el mundo, no es que tiene una opini\u00f3n sobre un hecho hist\u00f3rico. Recupera todas las opiniones existentes y las combina en base a la pregunta que yo le hago, al sesgo que yo le imprimo al patr\u00f3n que quiero que genere. Le puedo decir \u201cgener\u00e1me una versi\u00f3n id\u00edlica de la conquista de Am\u00e9rica\u00bb, y lo va a poder hacer. O del mismo modo podr\u00eda decirle \u201cdescrib\u00edme la conquista de Am\u00e9rica como un apocalipsis\u00bb, y lo va a hacer, porque va a recuperar la noci\u00f3n de apocalipsis y los datos que tiene sobre la conquista de Am\u00e9rica y va a producir un texto con el sesgo que le requer\u00ed. Adem\u00e1s, lo va a hacer en un tiempo que para los humanos no es posible, a velocidades que no podemos alcanzar, pero no es nada m\u00e1s que la aceleraci\u00f3n de la humanidad mediante estos dispositivos extracorporales.<\/p>\n \u00bfQu\u00e9 ve de negativo y de positivo en esto?<\/strong><\/p>\n -No pensar\u00eda en t\u00e9rminos de positivo o de negativo porque ni tecnofobia ni tecnofilia son posiciones que me parezcan interesantes. Hay que discutir las tecnolog\u00edas, comprenderlas, incorporarlas a nuestra discusi\u00f3n sobre la pol\u00edtica. Hay que tener una pol\u00edtica tecnol\u00f3gica que nos permita decidir sobre las direcciones que va tomando la tecnolog\u00eda, decidir informadamente. Es decir, saber qu\u00e9 efectos producen, saber qu\u00e9 potencialidades y qu\u00e9 riesgos entra\u00f1an. Hay que saber c\u00f3mo funcionan, no ser meros usuarios, y a partir de eso discutir cu\u00e1les tecnolog\u00edas queremos.<\/p>\n \u00bfQui\u00e9n debiera controlar la inteligencia artificial?<\/strong><\/p>\n -El control debe ser democr\u00e1tico, debiera haber igualdad en el desarrollo porque es una tecnolog\u00eda que afecta globalmente por su escala y su velocidad. Todo el mundo deber\u00eda tener un acceso similar a la posibilidad de entrenar inteligencias artificiales con las necesidades espec\u00edficas de cada sector. Adem\u00e1s, gran parte de esos datos se guardan en servidores que est\u00e1n en territorio extranjero, bajo legislaci\u00f3n extranjera. Eso ya imprime un sesgo y una p\u00e9rdida de soberan\u00eda, una p\u00e9rdida de soberan\u00eda de datos y p\u00e9rdida de soberan\u00eda tecnol\u00f3gica porque es justamente a trav\u00e9s del entrenamiento del sistema de inteligencia artificial a partir de esos datos, que se obtienen ventajas comerciales. Pero tambi\u00e9n militares y estrat\u00e9gicas. Entonces habr\u00eda que tener una pol\u00edtica de datos a escala regional para poder competir a la hora de definir c\u00f3mo se tienen que gestionar cada regi\u00f3n.<\/p>\n \u00bfEsa es la gran dificultad que tiene hoy la inteligencia artificial?<\/strong><\/p>\n -S\u00ed, que est\u00e1 concentrada en pocas manos y que est\u00e1 h\u00edper sesgada hacia una funcionalidad determinada, que en este caso es la ganancia, y gestionada adem\u00e1s por una poblaci\u00f3n que es muy minoritaria en el planeta: hombres blancos heterosexuales del norte global. Ellos son los que desarrollan y orientan la tecnolog\u00eda y son un sector que poblacionalmente es una m\u00ednima expresi\u00f3n de la diversidad cultural, \u00e9tnica, social y de g\u00e9nero del planeta. Est\u00e1 sobrerrepresentada esa minor\u00eda. Hay un concepto que se est\u00e1 discutiendo ahora que es la tecnodiversidad. As\u00ed como se pide que haya pluralidad o diversidad cultural y biodiversidad, tambi\u00e9n tendr\u00edamos que tener tecnodiversidad, una diversidad de datos (y de tecnolog\u00edas). Debiera haber datos que reflejen los sesgos inherentes a cada cultura para as\u00ed producir unas inteligencias artificiales que puedan dar cuenta de todas esas otras formas y todas esas visiones del mundo que hoy est\u00e1n subsumidas a una visi\u00f3n que se gener\u00f3 en un lugar particular. Silicon Valley es lo que encarna ese modelo. La discusi\u00f3n entonces debiera ser politizar la tecnolog\u00eda en el sentido de abrirla al debate p\u00fablico, someterla a la auditoria p\u00fablica. Para eso hace falta m\u00e1s universidad, no menos, para poder generar un saber interdisciplinario que incorpore a las disciplinas que se han dedicado durante siglos al trabajo sobre las sociedades como el derecho, las ciencias sociales, como la sociolog\u00eda, la antropolog\u00eda, la geograf\u00eda, las humanidades, las letras, la filosof\u00eda y la historia, que permiten entender la complejidad de estos sistemas y matizar los sesgos. Todo eso, junto con el saber que se suele denominar m\u00e1s \u201ct\u00e9cnico\u201d, como el de la ingenier\u00eda, la matem\u00e1tica, la f\u00edsica, la qu\u00edmica, la biolog\u00eda, para generar un trabajo cruzado que permita aprovechar estas herramientas comprendiendo sus implicancias pol\u00edticas que van mucho m\u00e1s all\u00e1 de lo que pasa en el pa\u00eds, que son de alcance global.<\/p>\n","protected":false},"excerpt":{"rendered":" La inteligencia artificial est\u00e1 cambiando aspectos fundamentales en la sociedad. Entrenada a partir de millones de datos, pero replicando sesgos y prejuicios, afecta las formas en que se desarrolla, se cuenta y se percibe la realidad. Agust\u00edn Berti, profesor e investigador de la UNC y Conicet explica los impactos que tiene esta tecnolog\u00eda.
\nDesde hace m\u00e1s de 100 a\u00f1os, la cultura popular, la literatura, el cine o la humanidad han imaginado un futuro en que las personas conviven con m\u00e1quinas inteligentes. Por ejemplo, en las pel\u00edculas Metr\u00f3polis o Terminator, por citar dos ejemplos del cine.
\nFoto: captura de pantalla de UNCiencia\u00bfEstamos ya conviviendo con m\u00e1quinas inteligentes? Quien responde \u2013a trav\u00e9s de una entrevista realizada para UNCiencia Podcast- es Agust\u00edn Berti, profesor e investigador de la UNC y Conicet; director alterno de la Maestr\u00eda en Tecnolog\u00eda, Pol\u00edticas y Culturas; e integrante de D\u00e9dalus, grupo de investigaci\u00f3n sobre la t\u00e9cnica: \u201cEs algo que siempre ha estado dando vue..<\/p>\n","protected":false},"author":1,"featured_media":1138536,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[40],"tags":[],"jetpack_sharing_enabled":true,"jetpack_featured_media_url":"https:\/\/la100lasvarillas.com.ar\/web\/wp-content\/uploads\/2024\/12\/720-418.jpe","_links":{"self":[{"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/posts\/1138535"}],"collection":[{"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/comments?post=1138535"}],"version-history":[{"count":0,"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/posts\/1138535\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/media\/1138536"}],"wp:attachment":[{"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/media?parent=1138535"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/categories?post=1138535"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/la100lasvarillas.com.ar\/web\/wp-json\/wp\/v2\/tags?post=1138535"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}