¿Qué es la IA? Todo el mundo cree saberlo, pero nadie se pone de acuerdo. Y eso es un problema.

De Julio Alonso Arévalo en agosto 10, 2024 What is AI? (2024). MIT Technology Review. Recuperado 10 de agosto de 2024, de https://www.technologyreview.com/2024/07/10/1094475/what-is-artificial-intelligence-ai-definitive-guide/ La inteligencia artificial (IA) es una tecnología que permite a las computadoras realizar tareas consideradas inteligentes cuando las hace una persona, como reconocer rostros o conducir automóviles. Sin embargo, definir exactamente qué es la IA sigue siendo difícil, y existe un debate sobre el verdadero alcance y las implicaciones de estas tecnologías. Expertos como Chris Olah señalan que, a pesar de las numerosas discusiones, aún no hay consenso sobre su definición o el nivel de confianza que deberíamos tener en ellas. Esta ambigüedad genera debates y críticas, como las que hacen Alex Hanna y Emily Bender al cuestionar las pretensiones de que la IA pueda comprender conceptos humanos complejos. La inteligencia artificial (IA) es la tecnología más candente de nuestro tiempo. Pero, ¿qué es exactamente? Aunque suene como una pregunta tonta, nunca ha sido más urgente. Aquí tienes la respuesta breve: la IA es un término general para un conjunto de tecnologías que permiten a las computadoras realizar tareas que se consideran inteligentes cuando las realiza una persona. Piensa en reconocer rostros, entender el habla, conducir automóviles, redactar oraciones, responder preguntas o crear imágenes. Sin embargo, incluso esa definición abarca muchas cosas. Y ahí radica el problema. ¿Qué significa que las máquinas comprendan el habla o escriban una oración? ¿Qué tipos de tareas podríamos pedirles a esas máquinas que realicen? ¿Y cuánto deberíamos confiar en ellas? A medida que esta tecnología pasa de ser un prototipo a un producto cada vez más rápido, estas preguntas nos afectan a todos. Pero (¡advertencia!) no tengo las respuestas. Ni siquiera puedo decirte qué es exactamente la IA. Las personas que la crean tampoco lo saben realmente. “Estas son las preguntas lo suficientemente importantes como para que todos sientan que pueden tener una opinión”, dice Chris Olah, científico jefe del laboratorio de IA Anthropic con sede en San Francisco. “También creo que puedes debatir sobre esto tanto como quieras y no hay evidencia que te contradiga en este momento”. Pero si estás dispuesto a subirte y acompañarme, puedo explicarte por qué nadie realmente lo sabe, por qué todos parecen estar en desacuerdo y por qué es importante que te preocupes por ello. Comencemos con una broma casual. En 2022, durante el primer episodio de “Mystery AI Hype Theater 3000”, un podcast que critica con humor algunos de los exagerados tópicos del Valle del Silicio, los coanfitriones Alex Hanna y Emily Bender hacen una sugerencia ridícula. Están leyendo en voz alta un extenso artículo de 12,500 palabras escrito por Blaise Agüera y Arcas, vicepresidente de ingeniería de Google, titulado “¿Pueden las máquinas aprender a comportarse?”. Agüera y Arcas argumenta que la IA puede comprender conceptos de manera análoga a cómo lo hacen los humanos, incluidos conceptos como los valores morales. En resumen, tal vez las máquinas puedan aprender a comportarse. Hanna y Bender no están de acuerdo. Deciden reemplazar el término “IA” por “matemáticas matemáticas”, es decir, mucha y mucha matemática. Esta irreverente frase busca desmontar lo que consideran como grandilocuencia y antropomorfismo en las frases citadas. Pronto, Hanna, sociólogo y director de investigación en el Instituto de Investigación en IA Distribuida, y Bender, lingüista computacional en la Universidad de Washington (y crítica famosa en internet de la exageración de la industria tecnológica), crean una brecha entre lo que Agüera y Arcas quiere decir y cómo eligen interpretarlo. “¿Cómo deberían ser responsables moralmente los AIs, sus creadores y sus usuarios?”, pregunta Agüera y Arcas. ¿Cómo deberían ser responsables moralmente las matemáticas matemáticas?, pregunta Bender. “Eso es un error de categoría”, dice ella. Hanna y Bender no solo rechazan lo que dice Agüera y Arcas; afirman que no tiene sentido. “¿Podemos dejar de hablar de matemáticas matemáticas?”, piden.