Un buzo interactúa con un arqueólogo submarino robótico, dotado del sentido del tacto
La llamada fue en marzo de este año. La voz en el teléfono, que hablaba en inglés con leve acento alemán, sonaba urgente. Un alto directivo de una compañía británica escuchó las instrucciones de su socio germano que le decía que debía enviarle cerca de 250.000 dólares a un proveedor húngaro, algo casi de rutina. El inglés tomó nota de los datos bancarios y esa misma jornada hizo la transferencia. Sólo después se enteraría de que no había sido un ser humano quien la había dado la orden: el ejecutivo británico había sido la primera víctima reportada de una estafa hecha mediante Inteligencia Artificial (IA). Los estafadores se las ingeniaron para que un sistema diera con el tono exacto del ejecutivo alemán, previamente grabado, y ejecutaron el plan a la perfección. Luego hubo otras llamadas que pedían una segunda transferencia, pero los estafados sospecharon y comenzó la indagación. El dinero fue de la cuenta húngara a una cuenta mexicana y luego se perdió de vista (la información no recoge datos más precisos porque los dio a conocer Euler Hermes Group, la firma aseguradora que tuvo que hacerse cargo de la onerosa eventualidad).
Si sirve para hacer trampa, sirve para la vida real, podría decirse. La IA va en camino de dar sustento y modificar casi cada espacio de la interacción humana, desde los sistemas de salud (cuándo y dónde será la próxima epidemia de dengue o qué niño tiene más posibilidades de sufrir malnutrición) hasta la producción agropecuaria (en qué momento se debe sembrar), pasando por la posibilidad de generar voces y videos de personas que pueden pasar por reales incluso a ojos y oídos entrenados, como se vio en el caso de la estafa empresarial. Es decir, promesas a la vez que riesgos.
Es un campo de desarrollo enorme que, por ahora, no tiene techo
Viene de tapa
que primero salta a la vista es la enorme repercusión económica que tendrá: el PBI global crecerá 14% hacia 2030 solo por la incorporación de la IA, según un informe dePricewaterhour seco opers. Es decir, un aumento de más de 15 trillones de dólares, sobre todo en los países ya desarrollados, aunque también una parte quedará para América Latina (el 5%; medio trillón). El impulso de la inteligencia artificial también eliminará trabajos, aunque no tantos según este informe, y creará otros nuevos. Asalariados del mundo, sed dinámicos.
“Es un campo gigante que está sin techo por ahora. Se puede aplicar en casi todas las áreas de la vida. En Estados Unidos y Europa cada empresa, aunque sea una pyme, está pensando en tener un departamento de análisis de datos. En algún punto, es algo que ya pasó en la historia; por ejemplo, cuando empezó a ser ‘obligatorio’ tener contadores para analizar los balances. Ahora es lo mismo, pero más sofisticado, con gente muy capacitada”, dice Pablo Riera, investigador del laboratorio de inteligencia artificial aplicada del Departamento de Computación de la Facultad de Ciencias Exactas (Universidad de Buenos Aires).
Pero, antes de avanzar: ¿de qué hablamos cuando hablamos de IA? La respuesta corta es que se trata de una mezcla de sistemas sofisticados, big data y machine learning que toman datos del ambiente. No solo ejecutan una orden prevista, como el software clásico, sino que –esta es la clave– los sistemas son capaces de aprender y de usar enormes cantidades de datos para saber dónde se falló anteriormente y actuar en consecuencia. No son los robots con conciencia que imaginó la ciencia ficción clásica, pero es un paso más en ese sentido.
Se conforma así un escenario que despierta miles de preguntas e incógnitas de todo tipo. ¿Cómo se modificará el debate público y cómo se dará validez a declaraciones y puntos de vista que pueden ser falsamente elaborados? ¿Qué pasa con la administración burocrática del Estado (papeleríos varios)? ¿Y las pruebas judiciales? ¿Falta mucho para que alguna personalidad en apuros diga “no fui yo, eso fue deep fake” (algo que le hubiera resultado útil a la primera dama chilena, por ejemplo)?
Para Riera, el alerta es importante pero no es tan grave; solo resta acostumbrarse, como lo hicimos a la computadora personal primero y a los teléfonos inteligentes después; una secuencia similar a la que llevaría de los carteristas vulgares a los robots que se hacen pasar por ejecutivos alemanes. “Es posible que se puedan generar anticuerpos, sobre todo si uno ve cómo se propagan las noticias falsas, por ejemplo. Hoy, por lo general, quienes caen en la trampa son personas mayores, porque no había fake
news en su época; ellos no tienen ese aprendizaje”, explica Riera, que es doctor en física e investiga sistemas de redes neuronales que buscan detectar emociones en el habla.
La cuestión es la velocidad. Se ha dicho muchas veces, pero conviene repetirlo: no solo ocurren cambios drásticos en lo tecnológico y social, sino que también la velocidad a la que ocurren está crecientemente incrementada. ¿Alcanzará para que los seres humanos nos adaptemos a las nuevas tecnologías? ¿O se terminarán adaptando solo los más aptos? (De todos modos, la adaptación nunca es total o masiva, como puede verse en las luchas infructuosas de muchos usuarios contra una tecnología relativamente menor y vetusta como los cajeros automáticos).
Aprendizaje
Cuando el sistema de IA bautizado María –creado para una empresa financiera que otorga pequeños créditos en Perú a través de mensajes de Whatsapp– leyó por primera vez que un cliente decía “estoy chihuán” quedó desconcertado, casi como cualquier lector no peruano, y lo dejó pasar sin actuar. El sistema –hecho por la plataforma de IA Watson de IBM– no pudo identificar a qué hacía referencia la frase, y por ende no podía responder. Pero, como la virtud de la IA es aprender y está supervisada por humanos (en este caso, expertos de Perú), enseguida se superó la brecha: estar chihuán significa estar sin dinero y la expresión alude a una congrelo sista de ese apellido (Leyla Chihuán), cuya queja por su falta de efectivo se hizo popular y pasó al lenguaje cotidiano. Desde ese momento, cuando María detecta que un potencial cliente está chihuán, le ofrece dinero.
La historia la cuenta Leonardo González Barceló, director de Hybrid Cloud en IBM Latinoamérica, como ejemplo tanto de la capacidad de estar atento a neologismos, como del hecho de que sigue siendo imprescindible la supervisión humana, por lo menos durante un tiempo más (cuánto, es uno de los terrenos de discusión). Asimismo, esto sería indicio de que la IA podría impulsar la creación de puestos de trabajo en proporción similar a los que se destruyan por su causa, tal como sucedió en toda modificación tecnológica desde la aparición de la agricultura hace unos diez mil años.
Pero hay especialistas que están más alertas ante las posibles consecuencias de este desarrollo tecnológico. Una de ellas es Marcela Orbiscay, integrante del Grupo de Investigación y Desarrollo en Tecnologías de la Información y las Comunicaciones (Facultad Regional Mendoza, Universidad Tecnológica Nacional). “La IA con capacidad de procesar mucha información por primera vez pone en juego los trabajos de los oficinistas, abogados, agentes de bolsas de comercio, y muchas otras áreas. A diferencia de la revolución industrial (que fue una revolución analógica), esta revolución digital es mucho más rápida y tiene el potencial de afectar muchos más puestos de trabajo. Algunos ejemplos son empresas como Google que, apoyada en la IA, con pocos empleados, puede dar servicios a toda la humanidad, a la vez que también florece una nueva economía de plataforma”, dice. Para Orbiscay, también integrante de INFOLAB (Ianigla/conicet), el auge de la IA se debe al aumento en más de cien veces de la potencia de procesamiento, al aumento en más de cien veces de los de datos disponibles y al aumento en más de cien veces de los algoritmos matemáticos. “Todo esto hace que la IA sea un millón de veces más potente de lo que era hace poco tiempo, y este aumento es lo que rápidamente nos supera en varios aspectos, ya que, como seres biológicos, los humanos tardamos mucho más tiempo en adaptarnos. Nos cuesta entender su real impacto y por lo tanto
no sabemos cómo legislarla. Esto se complica aún más, ya que como especie, nuestra ética y valores difieren de acuerdo a nuestra cultura. Es por eso que existen proyectos como The Moral Machine Experiment, del MIT (en Boston, Estados Unidos), que es una plataforma para reunir una perspectiva humana sobre las decisiones morales tomadas por la inteligencia artificial”.
Ética para máquinas
Además de las estafas y la posible distorsión del discurso público, hay otros asuntos relacionados con la IA que requieren cuidado y tienen que ver con los denominados sesgos. Al igual que en aquellos viejos silogismos que se enseñaban en las escuelas secundarias, el razonamiento de la máquina puede ser correcto, pero si la información introducida en las premisas es falsa, el resultado también lo será. Es decir, si los sistemas que aprenden reciben información sesgada de base, también lo será el resultado al que arriben.
“Cuando uno ingresa datos a un sistema de IA lo hace con datos que son construidos por seres humanos. Si tus datos son malos o tienen sesgos (la visión característica de hombres blancos americanos, por ejemplo), el sistema replicará la misma manera de ver las cosas, sea para contratar gente o para procesar causas judiciales”, dice riera. Pero agrega que se trata de un defecto que puede enmendarse: solo hay que ingresar al programa mejores datos, datos imparciales, o con un sesgo ampliado. Incluso existen técnicas que permiten que el sistema se dé cuenta de que algo está mal y genere sus propios mecanismos para predecir de manera más acorde.
Este un asunto que está atacado de frente por la industria, pero del que no se pueden hacer pronósticos, como explica González Barceló: “En los últimos tres años he visto tanto cambio y tan rápido, que es muy difícil pronosticar qué pasará en diez. Se da en seis meses la adopción de nuevas tecnologías que antes llevaban seis años. Es tan acelerado el proceso, que nos lleva a usos que ni siquiera pensábamos que iban a existir. Siempre con la intención de extender las capacidades del ser humano”.
Entonces, ¿debemos preocuparnos por estos desarrollos en los términos de la ciencia ficción catastrofista o de las predicciones del físico Stephen Hawking en el sentido de que la IA es una amenaza para la humanidad? Todo indica que no, al menos en el corto plazo. Sin embargo, los expertos evalúan la catástrofe como posibilidad. Por ejemplo, en el Future of Life Institute, en Boston, reconocen que la IA tiene el potencial de causar daños a la humanidad de manera intencional o no intencional. Los daños pueden ocurrir si la IA es programada para hacer algo voluntariamente devastador (drones, armas autónomas), o como consecuencia no querida de alguna iniciativa bienintencionada (la discutida geoingeniería contra el cambio climático).
“Como no sabemos qué puede salir mal en el camino a esta superinteligencia, debemos pensar en este asunto en detalle. La base de la ingeniería segura es mirar qué puede no funcionar, para prevenirlo. Hasta ahora, lo único que se buscó con la IA fue hacerla más poderosa, sin preocuparse por dirigirla. Ya es hora de cambiar ese enfoque, para evitar males mayores”, advirtió Max Tegmark, uno de los integrantes del Future Life Institute, en una entrevista con la revista especializada IEEE Spectrum.
Además, usar los recursos de la IA será cada vez más fácil. “No hace falta estar doctorado en matemática para hacerlo”, aseguró en un artículo publicado por el Wall Street Journal Bobby Filar, director de data science en una empresa de ciberseguridad llamada Endgame. Y, respecto a la posibilidad de “hackear” voces y usarlas para dar instrucciones equívocas, como en la historia citada al comienzo de esta nota, agregó: “No se puede estar en silencio todo el tiempo; por eso es que estaremos expuestos a que se use en nuestra contra información que dimos involuntariamente”.
Si alguna vez la IA perteneció al terreno de las hipótesis de la literatura de anticipación, hoy aparece a la hora de recomendarnos amistades en las redes sociales, la música que querríamos escuchar, las series que deberíamos ver, las compras online, las interacciones con los celulares. El listado sigue: los autos autoconducidos, la exploración espacial, y mucho más. Hay que reconocer que vivimos en ese futuro anticipado. Pero no todo está escrito: es en este momento en que hay que decidir, además, si se puede transformar en ciencia ficción catastrofista o no.
Fuente: La Nación