En la anterior entrada
Tecnología no equivale a progreso
comentaba que la tecnología puede servir para muchas cosas y, según que uso se le dé, puede o no generar progreso. Y que, en el caso de la IA, gran parte de su promoción tiene un interés comercial.
Leí esta noticia hace poco en la que Sam Altman, CEO de Openai, afirmaba que ya estamos en la singularidad. La singularidad tecnológica es un concepto que desarrolló en su día Ray Kurzweil, refiriéndose a un momento futuro en el que la inteligencia artificial superará a la humana y se fusionará con ella, lo que provocará un cambio rápido e irreversible de la civilización. Según Sam Altman, aunque sólo se refiere a la parte en que la inteligencia humana se ve superada, ya estamos en ese momento.
Antes que nada, hay que considerar que la inteligencia es una cualidad específica que no es la única que nos define como humanos. Otras cualidades como la conciencia no van incluidas en el paquete.
¿Por qué aparecen tan a menudo este tipo de noticias sobre la IA? Es cierto que su impacto en muchos ámbitos humanos está siendo enorme, pero tanto bombo y platillo, tanto recurrir a la grandilocuencia es simplemente una técnica que persigue la atención de los posibles clientes y, como no, de los inversores.
En esta entrada Un intento de análisis funcional de la venta de humo Ramón Nogueras analiza las distintas variables que lo explican. De modo resumido:
- Una predicción exagerada impacta súbitamente y empuja a la acción (por ejemplo, comprar acciones de la compañía). Aunque con el tiempo se va desinflando la expectación, pero el emisor ya tiene preparado otro nuevo impacto.
- El mercado responde a estímulos verbales de personas con prestigio como “si no te metes en el negocio de la IA ahora estás fuera del mercado”. Pero en el momento no tiene en cuenta lo que pasará en el futuro.
- El funcionamiento del mercado tecnológico es muy parecido a los juegos de azar. Mejor apostarle a todo porque con que te toque una vez ya ganas.
- Los discursos realistas o conservadores suelen castigar a las empresas de los directivos que los emiten.
Otra variable de la que habla es el mal uso (y mal entendimiento) de las predicciones. Lo trato aparte porque hay una charla TED que lo analiza de manera genial.
Explica que las predicciones si son sobre cosas, como puede ser el clima, no influyen sobre las cosas que predicen. Sin embargo, las predicciones sobre el comportamiento de las personas impactan directamente en ese comportamiento y pueden terminar fácilmente en una profecía de auto-cumplimiento. Aunque el resultado final es muy probable que no sea tal cual se definió en la predicción o que se generen otro tipo de efectos añadidos.
Un ejemplo puede ser cuando se implantaron los cajeros automáticos. Inicialmente, esto redujo el número de empleados necesarios en cada sucursal de unos 20 a 13. Pero esto llevó a que fuera más barato abrir nuevas sucursales urbanas, aumentando estas en un 43%, sobre todo para la atención comercial. El resultado fue que el número total de empleados bancarios no cayó.
Hay que considerar que las predicciones:
- No son hechos, son actos de discurso.
- Invitan a la manipulación.
- Crean y encubren la injusticia.
Cuando se publican todo tipo de noticias sobre predicciones de lo que la IA impactará en nuestro estilo de vida, por ejemplo las referidas a cuántos puestos de trabajo se perderán o el control social que se podrá implantar, no se debe tomar como algo cierto que ocurrirá. La forma de vida de las personas depende también, entre otros factores, directamente de las políticas sociales que se lleven a cabo. Entiendo que una sociedad sana no permitirá de ninguna manera que la mayor parte de la población pierda calidad de vida por el desarrollo de productos que son eso: productos. Y los productos generan beneficios y es ese realmente el motivador de las predicciones sobre las IA.
Por otro lado, tenemos los análisis que poco a poco están saliendo sobre las verdaderas capacidades de las IA. En este otro enlace del blog de Ramón Nogueras De la eficacia de los expertos se comenta que los LLM Large Language Model LLM (que funcionan sobre IA, sistemas que usamos a diario como ChatGPT) son, por definición, incapaces de darse cuenta de que están alucinando. Hay determinados problemas para los que los LLM no pueden garantizar que su respuesta sea correcta, debido sobre todo a la complejidad del proceso. Pero el sistema te dice que si lo ha resuelto y que lo ha verificado, pero puede no ser verdad.
Un argumento semejante utiliza Santiago Schnell en un artículo: estos modelos de IA pueden anticipar un razonamiento de continuación plausible a una propuesta, pero no son capaces de comprobar que ese razonamiento sea cierto. «La máquina puede participar en la cadena de razonamiento, pero la comprensión y la responsabilidad no se transfieren con el texto».
O volviendo al tema de las noticias de impacto. A raíz de una declaración de Anthropic, que aseguraba que Claude había desarrollado un mecanismo de acceso consciente, en este enlace un neurocientífico Anil Seth dice que “es tan improbable que la IA alcance la conciencia como que un simulador meteorológico genere un huracán de verdad”.
Desconozco si la singularidad tecnológica podrá llegar en algún momento. Pero no es este.
