Una IA dentro de la habitación china
John Searle propuso en Mentes, cerebros y programas (1980) el siguiente experimento mental: un hombre encerrado en una habitación, ignorante del chino pero provisto de un manual que le indica qué símbolos devolver ante cada combinación simbólica que recibe a través de una ranura. Fuera, quien dio el texto para ser traducido recibe respuestas impecables y asume que dentro hay alguien que entiende su lengua. Pero ¿esto es así? Este artículo plantea la habitación china de Searle como analogía para explicar el fenómeno del programador que programa desconociendo el lenguaje de programación, apoyándose (cuando no delegando o externalizando sus competencias por entero) en la Inteligencia artificial.
Contexto tecnológico
El avance tecnológico no solo no tiene por costumbre esperar al rezagado, sino que su celeridad produce al más atento algo próximo al aturdimiento. La Inteligencia artificial (en adelante, IA) ha irrumpido a una escala conocida sobradamente por todos. Ha demostrado ser capaz de proezas aun hablando de modelos embrionarios y la programación, por proximidad a su naturaleza, es una de esas tareas que le van como anillo al dedo.
Cualquier veterano del sector sabe que esta sentencia es tan superficial que roza lo falso: aunque la IA puede generar código con un mínimo prompt (instrucción que se le da a la IA) la calidad de este suele ser mediocre y aunque puede crear funciones funcionales (valga la redundancia) el mantenimiento puede ser costoso y es necesaria la supervisión y corrección de una persona. Tanto es así, que la plataforma de referencia en materia de creación y almacenamiento GitHub (comprada por Microsoft en 2018 por valor de 7500 millones dólares) ha empezado a perseguir el código generado por IA para evitar convertirse en un basurero. La síntesis en pro de la brevedad es que cantidad no implica calidad.
La cuestión radica en cuál es la relación que tiene el novato con la IA y cuales son las consecuencias de esta.
Contexto profesional
La primera prueba que debe superar un junior contemporáneo es la de la pereza. Teniendo a su disposición una máquina que de pedírselo hará su trabajo, debe decidir no hacerlo. Existe una relación inversamente proporcional entre la delegación y el aprendizaje. Todo lo que no haga, es práctica que pierde. Todo lo que no practique, es conocimiento que no adquiere.
La segunda prueba es tener una capacidad de trabajo superior a la que tiene un modelo de IA supervisado por un senior. Como es obvio, esto supone una barrera de entrada, puesto que si no cumple las expectativas de la empresa no continuará en ella. Así, si visualizamos un triángulo, la base ancha reflejaría la cantidad de juniors demandados antes de la IA. Ahora (lo cual no quita que una vez el sector y/o la sociedad se adapte esto cambie ) el triángulo es más bien un rombo con una base más estrecha. En resumen, este periodo de transición complica el acceso al sector a los noveles.
Reflexión
Conviene no confundir esto con una queja moral contra la juventud, género bastante trillado. El problema es epistemológico y fue formulado con precisión por Gilbert Ryle en El concepto de la mente (1949) cuando marcó la escisión entre saber qué y saber cómo. Traducido a tech, el conocimiento proposicional es saber que incumplimos el principio de responsabilidad única (SRP) si una clase en java calcula ítems y guarda datos. ¿Por qué? Porque para detectarlo debo conocer QUÉ es este principio SOLID y que dicta que una clase solo debe hacer una tarea concreta y, de haber dos, deberemos crear una segunda clase. Por otro lado, el conocimiento práctico permite localizar un fragmento de código que realice una función concreta porque sé CÓMO funciona porque previamente lo he picado. Lo inquietante del junior con IA es que puede crear artefactos operativos sin poseer ninguno de los dos saberes. Le basta saber escribir un mensaje para darle una orden a un LLM (Large Language Model).
En este punto me planteo cómo llegará a ser un senior dentro de unos años. Si la dinámica empresarial no le fuerza a cambiar de metodología (la IA conlleva un coste elevado que está empezando a notarse en los bolsillos y un uso indiscriminado y poco eficiente llevará, presumiblemente, a cerrar el grifo), cronificará una dependencia que le impedirá alcanzar la autonomía propia del veterano. En este momento merece detenerse a comentar la llamada epistemología del testimonio, osease, cómo obtenemos y justificamos el conocimiento obtenido a través de terceros.
La mayor parte de lo conocido nos llegó por testimonio: libros, documentales, profesores, padres, amigos… Pocos han ido a comprobar que existe la fosa de las Marianas. Pero la confianza merece condiciones: el tercero debe ser competente, sincero y susceptible de ser contrastado cuando existen motivos para dudar. Uno de los rasgos de los LLM de uso común es la seguridad e incluso la vehemencia con la que emiten respuestas en apariencia plausibles, con independencia de si son ciertas o falsas. Muchos ya estaréis relacionados con lo conocido como alucinación de la IA, cuando esta inventa y defiende lo inventado con una convicción que roza el cinismo, si esto pudiese ser atribuible a una máquina.
Confiar en el output sin haber desarrollado los conocimientos para verificarlo es una temeridad que, con seguridad, dará trabajo extra al supervisor del equipo.
Se podría objetar que la tecnología como conjunto de técnicas y herramientas destinadas a resolver problemas y satisfacer necesidades, acostumbra a dar apoyo externo a nuestras facultades, sea cognitivas o motrices. David Chalmers y Andy Clark propusieron La teoría de la mente extendida (1998) en virtud de la cual los procesos cognitivos ramifican hacia el entorno físico a través de los dispositivos que utilizamos: desde el bloc de notas del despistado hasta el mapa o GPS del que no se orienta bien. Bajo esa óptica, Chat GPT, Gemini o Claude no serían sino una prolongación y el programador que los utiliza está ampliando su inteligencia tanto como el matemático con su calculadora. La tesis es tranquilizadora y correcta en su ámbito, pero trata de ocultar una asimetría flagrante: la calculadora que usábamos en el colegio para examinarnos es un apoyo para quien ya conoce las fórmulas matemáticas, pero la IA nos permite resolver algo sin saber cómo y muchas veces sin saber siquiera qué.
Desde la pedagogía, Lev Vygotski estable el concepto de andamiaje (acuñado definitivamente por Jerome Bruner) con el que se refiere a la ayuda que ofrece el profesor al alumno y que progresivamente retira. El aprendizaje ocurre en una zona intermedia entre lo que el alumno puede hacer solo y lo que puede hacer con ayuda. De nuevo, el hándicap contemporáneo radica en que el alumno puede pedir al profesor que le de todos los exámenes hechos, aprobar y llegar al último curso sin tan siquiera haber aprendido lo básico del primero.
Conclusiones
De seguir así, los senior del futuro supervisarán sistemas que nadie en la plantilla sabrá leer y la cadena de transmisión de conocimiento se romperá o quedará reducida a explicar qué pedirle a la IA. Un profesional experimentado se cultiva durante años con tareas modestas que parecen sustituibles por una máquina y de hecho lo son, con la salvedad de que su función principal no era tanto producir código como producir programadores.
Nada de esto invita a no utilizar la herramienta. Bien usada, acelera la comprensión: explica con paciencia infinita, carga con los bloques de código más gruesos y básicos, y aporta enfoques que quizás no aparezcan en la documentación oficial. El peligro no está en su uso. Está en que ese flujo de código funcional que aparece en un clic que sustituye al proceso lento, frustrante e insustituible mediante el cual se adquiere comprensión.
«Nunca consideres el estudio como una obligación, sino como una oportunidad para penetrar en el bello y maravilloso mundo del saber» Albert Einstein.
- Una IA dentro de la habitación china - 17 septiembre, 2026
- ¿Dónde está Eros? - 22 mayo, 2023
- Naturaleza de la autojustificación - 24 abril, 2023






