Una escritora y programadora explica los alcances de la IA y celebra que estemos lejos de ser reemplazados por los modelos actuales.
El título de este texto ilustra el miedo de muchos y la esperanza de fortuna rápida para otros y es muy probable que tanto unos como otros se vayan a estrellar. ¿La razón? La voy a intentar explicar acá. El origen de la IA se sitúa en 1956, en la conferencia de Dartmouth, donde se comenzó a imaginar un mundo donde las máquinas imitaran la mente humana. 10 años después apareció Eliza, el primer chatbot, que simulaba ser un terapeuta. Pero solo ofrecía respuestas básicas, porque no comprendía contextos y solo captaba palabras aisladas. Similar a un niño, que aprende las letras pero aún no puede entender frases ni palabras. (Lea otro ensayo de Gina Velasco, sobre la importancia de la memoria histórica).
En los años 80 surgen las redes neuronales artificiales , que son sistemas diseñados para imitar el funcionamiento del cerebro humano y procesan datos, para hacer predicciones a partir de patrones. Estas redes utilizan nodos, que representan neuronas, conectados mediante pesos, que simulan la sinapsis, y están organizados en capas, que simulan los pasos que sigue el cerebro al procesar información. En redes biológicas, cuando se toca una superficie muy caliente, las neuronas sensoriales envían una señal al cerebro, el cerebro procesa la información y envía la orden de retirar la mano.
En redes artificiales: cuando se escribe “Hola” en un chat con IA, sus nodos procesan las letras y reconocen un saludo. Como han sido entrenadas con ejemplos de conversaciones, responden con algo típico en saludos: ¿cómo estás?, o ¿en qué te puedo ayudar? Sin embargo, las redes artificiales no generan nuevas conexiones neuronales por sí mismas, por lo que no aprenden ni se adaptan más allá de su entrenamiento inicial. Y la variación de sus respuestas, frente a la misma pregunta, se debe únicamente a resultados probabilísticos y no a aprendizajes adquiridos.
En 2017, surgió el modelo transformer y se convirtió en la base de todos los modelos de lenguaje actuales (LLMs). Su importancia radica en comprender el contexto completo de un texto, porque analiza cómo se relacionan entre sí las palabras clave, en lugar de procesar cada palabra por separado.
LLMs: modelos de lenguaje
Los LLMs son modelos entrenados con grandes cantidades de texto, lo que les permite encontrar patrones y generar lenguaje similar al humano. Funcionan al predecir la siguiente palabra en una frase o secuencia de texto, como en el ejemplo del saludo mencionado. Aunque responden de forma amable y coherente, carecen de comprensión real y juicio. Sus respuestas no provienen de razonamientos, sino de cálculos matemáticos que eligen las palabras más probables para responder o conversar. Este principio transmite confianza, porque los convierte en fantásticos conversadores, pero en realidad no son mentes capaces de pensar. Y esta limitación destaca los riesgos de asignarles tareas críticas o sin supervisión humana.
De LLMs a asistentes de IA
Los LLMs son la base de los asistentes de IA, que combinan el modelo de lenguaje con herramientas programadas para hacer tareas simples, como buscar información. Por ejemplo, cuando le preguntas a Alexa cómo estará el clima, esta usa un programa para conectarse a una base de datos meteorológica y te presenta la información de manera comprensible. ChatGPT comenzó solo como un LLM, pero ahora ya puede “recordar” una conversación, generar imágenes, hacer cálculos y buscar información en internet.
Estas nuevas capacidades existen porque le han agregado conexiones con otros programas que le comparten funciones en tiempo real, y no porque ahora tengan aprendizajes autónomos. Además, su capacidad para “recordar” se da gracias a que las conversaciones se guardan temporalmente y se pueden volver a revisar y no debido a una memoria o inteligencia que haya desarrollado por sí mismo. Para finalizar, estos asistentes sólo están programados para seguir instrucciones y responder a solicitudes de usuario y no toman iniciativa, ni decisiones por su cuenta.
Agentes de IA
Los agentes de IA también se basan en LLMs, pero además de utilizar el modelo de lenguaje para comunicarse con usuarios, también lo usan para evaluar datos en tiempo real y tomar decisiones que dependen de un marco de opciones previamente establecidas. Es decir, que si están diseñados para hacer tareas sin que nadie lo solicite y para tomar decisiones según análisis de datos, pero sus opciones de decisión son limitadas. Por ejemplo, si un agente de IA lo considera más óptimo, cambiará citas de una agenda, incluso sin pedir autorización de las personas involucradas, pero no hará cambios que estén por fuera de reglas predefinidas. En otras palabras, y esto es crucial, estos agentes tienen un grado de autonomía, pero esta autonomía es programada y tiene límites: aunque tienen un marco de toma de decisiones y pueden ajustar la importancia que le dan a ciertos datos, sus decisiones se restringen a las opciones de acción previamente programadas. Esto significa que no generan soluciones nuevas y que pueden cometer muchos errores cuando se enfrentan a situaciones no previstas en su entrenamiento.
Por esta razón, la confianza plena en esta aparente autonomía y funcionamiento sin error de las máquinas ya ha llevado al registro de múltiples errores documentados. Como el caso de Mike Johns, que quedó atrapado en un automóvil autónomo por varios minutos; o el caso de Jake Moffatt que demandó a Air Canadá, luego de comprar un tiquete con la guía de una IA, que le prometió un reembolso inexistente para clientes que viajen por motivos de duelo. Así mismo, está el registro de casos donde la IA favoreció la contratación de empleados hombres sobre mujeres y de casos graves de diagnósticos médicos equivocados y arrestos erróneos por fallas en identificación facial, entre muchos otros. Acá, también es importante resaltar que además de que sus opciones de respuesta están programadas, los modelos basados en LLMs reflejan los sesgos, estereotipos y puntos de vista presentes en la información con que han sido entrenados o a la que acceden en tiempo real.
Por otro lado, a pesar de su rapidez para procesar grandes volúmenes de información, su desempeño sigue siendo limitado. Lo que se refleja en un estudio realizado, donde el mejor desempeño que tuvo un agente de IA fue realizar satisfactoriamente el 24% de tareas asignadas. Todo esto sin siquiera analizar el impacto medioambiental, pues los modelos de IA requieren de grandes cantidades de energía, que calienta los servidores y después agua para evitar sobrecalentamiento.
El proceso completo requiere de uso intensivo de agua tanto para la generación de energía, como para enfriar los servidores. Y un solo centro de datos puede consumir entre 1.7 y 2.2 millones de litros de agua por día. La plasticidad cerebral, capacidad de aprendizaje, razonamiento, toma decisiones basadas en una consciencia y ética personal, creatividad frente a lo nuevo o desconocido, empatía, aprendizaje acumulativo de la especie, la intuición, memoria selectiva, comprensión del contexto y muchas otras habilidades son irremplazables por los modelos actuales de inteligencia artificial. Y la incapacidad de generar nuevas conexiones neuronales es algo que aleja mucho esa posibilidad de reemplazar humanos con agentes de IA. Así mismo, la búsqueda de sistemas más complejos o híbridos (que combinen distintas tecnologías de IA) puede generar estragos a nivel ambiental.
Por estas razones, estamos lejos de ser reemplazados por los modelos actuales de la IA. Quienes apuesten por implementarlos, deberían hacerlo de manera cauta y enfocarse en los escenarios que ofrecen ventajas claras, como el análisis de grandes volúmenes de información, velocidad de procesamiento, capacidad multilingüe, etc. La clave del éxito estará en usar la IA como herramienta, sin prescindir del mejor capital: la inteligencia humana.
Fuente: El Espectador
