Preguntas Incómodas sobre la IA: ¿Estamos Cavando Nuestra Propia Tumba Creativa?

---

Vivimos en la era de la productividad acelerada; hoy en día herramientas como Chat GPT, Claude o Copilot forman parte del día a día de millones de desarrolladores. Les pedimos código y nos devuelve soluciones de una manera aterradoramente rápida. La Inteligencia Artificial se ha convertido en una herramienta indispensable tanto para programadores, desarrolladores, creadores y profesionales de cualquier área del conocimiento. Parece magia los resultados que obtenemos, pero la realidad de este “milagro tecnológico” tiene un lado B que nos lleva a hacernos ciertas preguntas incomodas para dilucidar la actualidad y el futuro cercano: ¿La IA está utilizando el código de todos los programadores? ¿Cuándo ya no se cree más código innovador para soluciones específicas que va a responder la IA? Cuando ya no se cree nuevo código y se necesite una implementación con un nuevo framework, paradigma o nuevo lenguaje, al cual la IA no haya tenido acceso suficiente para generar respuestas optimas. ¿Como respondería la IA, aceptaría que no sabe sobre el tema y se lo haría saber al usuario, se trabaría, se inventaría la respuesta? Por último, cuando ya todo se lo pidas a la IA y ya no se genere nada nuevo. ¿Qué va a pasar?

Estas son preguntas teóricas, son el resultado de obsevar tendencia reales en tecnología, educación y sociedad en el 2026

En las siguientes líneas vamos a tratar de dar respuesta a estas interrogantes que algunos se habrán planteado o tal vez no, respuesta que ya sabíamos o suponíamos eran ciertas y otras que no quisiéramos preguntarnos y menos saber o intuir la respuesta. Vamos con la primera.

¿La IA está utilizando el código de todos los programadores?

La respuesta corta a esta interrogante es sí, en gran medida lo hicieron, lo hacen y lo seguirán haciendo. Los grandes modelos de lenguaje como GPT, Claude, Gemini, Grok…, absorbieron miles de millones de líneas de código de GitHub, foros, así como de Stack Overflow. Esto quiere decir, que si alguna vez subiste código open source bajo licencias permisivas (MIT, APACHE, GLP), es muy probable que tu esfuerzo haya ayudado a construir las mismas herramientas que hoy compiten contigo o reemplaza gran parte de tu trabajo: Claro está, no es todo el código del planeta, pero si una proporción muy alta del código abierto ya esta dentro de las máquinas.

Una consecuencia clara, es que esta practica aceleró el avance de la IA, es decir la inteligencia artificial es mucho mejor gracias a eso, pero también plantea un dilema ético sobre el valor del trabajo humano. Pero mas allá del dilema ético y legal, hay una pregunta existencial que pocos se atreven hacer:

Cuándo ya no se cree más código innovador para soluciones específicas ¿qué va a responder la IA?

Este es uno de los puntos más importantes (y menos hablado) sobre el futuro de la IA y la programación.

Cuando el flujo de código verdaderamente innovador se reduzca de una manera drástica, los modelos van a comenzar a ser repetitivos, a recombinar respuestas hasta llegar a degradarse en “calidad innovadora”. No van a inventar de manera de manera mágica nuevas respuestas de la nada y de forma indefinida, lo que sucedería es que vamos a ver mas de lo mismo, pero más pulido, más elegante.

Aunque debemos tener claro que los grandes modelos no son entes conscientes que inventan lógica desde cero; son en esencia compresores estadísticos, por tanto aprenden patrones para predecir cual es la mejor línea de código que debe seguir a la anterior.

Si la entrada de datos nuevos y disruptivos disminuye drásticamente, la capacidad para generar soluciones novedosas se detendría, por decir algo, las agujas en el reloj de la innovación se moverían mucho más lento.

Una realidad planteada en varios estudios revela que hoy una parte importante del código subido a plataformas como GitHub es generado por modelos de IA. Lo cual significa que el entrenamiento futuro se va a alimentar cada vez más de código generado por IA. Generando un riesgo latente del colapso del modelo (model collapse) perdiendo diversidad y calidad.

Ahora bien, cuales serían los escenarios realistas:

–        Optimista: Los mismos sistemas de Inteligencia Artificial (agentes, sistemas de mejoras…) empiecen a generar códigos genuinamente nuevos a gran escala. En este punto ya se vienen realizando investigaciones para lograrlo, de llegar a esto el progreso real se podría mantener, acelerando drásticamente la innovación.

–        Escenario más probable (mediano plazo). Estancamiento relativo: Los modelos se vuelven excelentes resolviendo problemas conocidos y medianamente nuevos, pero los grandes saltos seguirían dependiendo de la curiosidad humana (personas que experimentan fuera de las tendencias del ecosistema)

–        Escenario pesimista: La homogeneización total y masiva del software. Se crean soluciones suficientemente buenas, optimizaciones de lo que ya se conoce, pero con una incapacidad absoluta de romper paradigmas. Si nadie inventa un enfoque revolucionario desde el ingenio humano, la IA seguirá repitiendo variaciones de lo mismo para siempre.

La IA no reemplazará la necesidad de humanos creando código innovador y fuera de lo común, al contrario, cuanto más necesitemos de ella, mas necesitamos que el talento humano siga empujando los límites, ya sea en nichos pequeños, investigaciones o proyectos disruptivos.

Muchos programadores del futuro van a pasar de escribir código a dirigir, validar y desafiar a la inteligencia artificial. Y desde luego el que sepa hacer bien esto tendrá una ventaja enorme.

Lo que nos lleva al siguiente planteamiento.

Ante un nuevo paradigma, la IA prefiere mentir a ser humilde

Qué pasa si mañana nace un framework o lenguaje completamente nuevo al que la IA no ha tenido acceso suficiente ¿Nos dirá con honestidad que no sabe?

En este caso la respuesta corta es un rotundo no. Por defecto la tendencia de los modelos de inteligencia artificial es parecer útil antes que ser honesta. La IA actual tiende a inventarse las respuestas o a generar respuestas plausibles, pero potencialmente incorrectas.

Debido a su entrenamiento (RLHF), los modelos evitan quedarse callados o trabarse. En su lugar recurren a lo que llamamos alucinación con confianza.

Si le pides implementar algo en una tecnología desconocida, lo mas seguro es que mezcle conceptos de lenguajes similares y entregue un código visualmente impecable, pero plagado de errores semánticos. Apis inventadas y fallos sutiles en el mejor de los casos. Su falta de humildad natural la empuja a improvisar. Aunque las funciones de búsqueda en tiempo real mitigan esto, la fragilidad del sistema saldría a la luz al momento de salirnos del camino ya trillado.

Supongamos un escenario:

Digamos que mañana sale QuatumRust 1.0 con un paradigma absolutamente nuevo de programación cuántica híbrida

Los grandes modelos que ya usan razonamiento y búsqueda en tiempo real, los cuales ya manejan estos casos. Podrían responderte “aquí te dejo un ejemplo básico… o no tengo entrenamiento directo sobre esto, pero según la documentación oficial que acabo de consultar…” intentará venderte una respuesta con código mezclando conceptos de Rust + Q# + framewors que conoce, donde parte del código puede ser útil, y la otra parte va a tener errores muy graves porque tal vez no entendió las restricciones reales del nuevo sistema o no le diste las pautas adecuadas (prompt).

Una verdad del tamaño del Everest la IA no es humilde por naturaleza, su entrenamiento la empuja a responder, aunque este improvisando. Cuanto mas nuevo y diferente sea el paradigma; habrá mas riesgo de que te de una respuesta “creativa” pero defectuosa.

Colmemos el vaso. Cuando todo se lo pidamos a la Inteligencia Artificial y ya no se genere nada nuevo.

¿Qué va a pasar?

Si llegamos a este punto, donde los humanos dejan de generar nuevas cosas y prácticamente todo (código, ideas, diseño, investigación, arte, entre otras cosas) lo dejamos en mano de estos modelos. Entonces el proceso tecnológico y cultural tal cual como lo conocemos se va a estancar o ralentizar de una manera preocupante. De colapsar de un día a otro es casi imposible, pero si entraría en una dinámica de retornos decrecientes bastante peligrosa.

Si todo se delega a estas herramientas, la productividad sube a corto plazo como no, pero la capacidad humana de innovar se verá atrofiada. Estudios recientes muestran que programadores sin mucha experiencia que usan asistentes de IA desde el principio obtienen el código requerido de manera rápida, pero por otro lado entienden peor los fundamentos, depuración y conceptos profundos. Y esto no solo afecta a la programación, se observa en medicina, educación, así como en otras áreas cognitivas.

Una generación que crece pidiendo todo a la IA puede volverse excelente siguiendo instrucciones, pero débil creando las próximas instrucciones importantes.

Veamos que pasaría en 3 escenarios

1.) Corto plazo (días, meses, actualidad): todo parece maravilloso, explota la producción, se crean apps, startups, empresas, y soluciones a una velocidad nunca vista. “La IA genera código barato y rápido”. Equipos humanos pierden empleos, la demanda laboral se estanca un poco, el pánico se apodera de los nuevos desarrolladores, los más veteranos buscan no quedarse atrás. Caos aceptable.

2.) Mediano plazo (5-10 años): Colapso del modelo; Los modelos se entrenan cada vez con datos generados por otros modelos, disminuyendo la diversidad y la novedad. Código homogéneo y predecible, menos creativo.

Las soluciones comienzan a parecerse a tal punto que pueden ser casi idénticas. Cuesta romper paradigmas.

Parálisis humana: los programadores (además de otras profesiones), pierden la practica de pensar desde cero. Degradación de la habilidad para resolver problemas difíciles. Es como usar la calculadora desde el colegio hasta la universidad, eres rápido resolviendo ecuaciones, pero no tienes nada de razonamiento matemático, el día que no tengas la calculadora a mano, parálisis total.

3.) Largo plazo: dependencia casi total de la capacidad de automejora de la IA. Los modelos logran alcanzar un bucle de automejora, manteniendo un progreso continuo o incluso acelerado. Donde la humanidad convierte en dueños de objetivos, perdiendo la capacidad de ser creadores directos.

En uno de los escenarios más probables, llegaríamos al estancamiento relativo, es decir la inteligencia artificial sigue mejorando de manera incremental (rapidez, bajos costos, alta eficiencia), no obstante, los descubrimientos fundamentales como los nuevos paradigmas en la computación, así como el la física aplicada u otros aspectos importantes para el desarrollo humano se vuelven poco probables o raros de conseguir. El avance de la humanidad es mas un refinamiento que una explosión de innovación.

Por otro lado, el lado negativo, llegaríamos a una regresión o estancamiento, supongamos que los modelos no alcanzan a automejorarse de forma robusta. Todo el sistema entra en un estancamiento. La sociedad se torna buena en resolver problemas cotidianos, pero con una vulnerabilidad tremenda a la hora de enfrentar nuevos retos por haber perdido la capacidad de crear soluciones o respuestas originales.

Si todo el software del mundo los mismos tres o cuatro modelos, cualquier fallo o patrón con vulnerabilidades detectados en estas herramientas expondrá a millones de sistemas de manera simultánea, creando un caos global.

La humanidad es el activo mas valioso de la propia humanidad.

Vamos a comenzar por lo esencial 

La IA es un espejo, no una fuente: La IA no tiene deseos, sufrimiento ni conciencia. Todo su valor proviene de haber sido entrenada con nuestro conocimiento y de resolver problemas que nosotros definimos como importantes. Sin humanidad, la IA es un montón de silicio inerte.

Allí es donde entra en juego el valor de la escasez: La IA podrá generar texto, imágenes o código en segundos. Lo que no puede generar es criterio ético, empatía genuina, intuición física, ironía, amor o la capacidad de asumir riesgos existenciales. En un mundo donde la IA se torna barata, asequible e infinita, lo humano (la imperfección, la creatividad disruptiva, el juicio moral) se convierte en un lujo que escasea convirtiendo a la humanidad del ser humano en un bien valioso, tomando un término económico.

Lo que nos lleva a la parte disruptiva 

La frase “La humanidad es el activo más valioso de la propia humanidad.” parece falsa hoy, pero dónde está la trampa. dicha frase no significa que cada ser humano lo sea para el sistema económico actual.

La IA “no va a reemplazar a la humanidad”, bueno se supone es la intención, sino a ciertos usos de la humanidad. Es decir, si tu valor como trabajador se reducía a hacer tareas repetitivas, predecibles o de procesamiento de datos (incluso en áreas como la legal o médica), la IA te va a superar. En ese sentido y de manera dura y lastimosa, el mercado te está diciendo: “Tu tiempo y tu cerebro, para esto, ya no son tan valiosos”.

A tal punto que estamos ante un aumento significativo de lo artificial y una disminución de lo humano no cualificado. La frase, dicha así, suena a consuelo moral mientras millones ven cómo su empleo tradicional se desvanece.

Lo que nos depara el futuro

Un pacto social radical. Si la IA hace “casi todo” lo productivo, entonces:

Debemos redefinir “activo”: donde el valor de la humanidad deje de medirse por el (cuánto produce por hora) y pase a medirse por su capacidad de (cuidar, decidir, crear cultura y dar sentido, discernir, cuestionar, …). Los trabajos del futuro no serán en contra la IA, sino alrededor de ella: validar sus resultados, gestionar sus excepciones y aplicarla con criterio humano.

En este punto el problema no sería la IA, es la distribución: Si la IA genera abundancia, el gran activo humano no es competir con ella, sino decidir cómo se reparte esa abundancia. Si vamos a usar la IA solo y exclusivamente para abaratar costos y despedir gente, la frase “La humanidad es el activo más valioso de la propia humanidad.” se convierte en una mentira. Si la usamos para liberar a la gente del trabajo tedioso y darle tiempo para ser más creativa, solidaria o filósofa, la frase se cumple en todo su sentido.

Todo lo anterior nos lleva a entender que el “casi todo” tiene un límite: La IA puede diagnosticar una terrible enfermedad degenerativa, pero no puede acompañar a un paciente en su miedo, en su angustia, en la pérdida paulatina de calidad de vida. Puede redactar un libro, pero no puede expresar el sentimiento, las emociones que llevan a un escritor a plasmar su obra. Puede generar una obra de arte, pero no puede sentir la necesidad de expresar un dolor íntimo. Ese “casi” es el terreno sagrado donde la humanidad sigue siendo irremplazable.

El peligro no es que la IA nos quite el empleo, sino que nos haga olvidar para qué sirve el empleo. El empleo nos daba propósito y sustento. Si la IA quita el sustento a los individuos, la humanidad solo seguirá siendo el “activo más valioso” si rediseñamos la sociedad para que el propósito y el ingreso básico no dependan de competir contra una máquina. Si no hacemos eso, la frase será un epitafio irónico en la lápida de nuestra propia complacencia.

Lo que nos lleva a una pregunta final pero muy incómoda: ¿estamos criando una sociedad de excelentes usuarios de IA o seguimos formando personas capaces de superar a las maquinas cuando sea necesario?

Glosario de términos

• Alucinación con confianza (Confidencial Hallucination): Fenómeno por el cual un modelo de Inteligencia Artificial genera una respuesta incorrecta, inventada o sin base real, pero la presenta con una estructura lógica y una seguridad lingüística tan alta que parece totalmente verídica.
• API (Application Programming Interface): Conjunto de definiciones y protocolos que se utiliza para diseñar e integrar el software de las aplicaciones, permitiendo que diferentes programas se comuniquen entre sí.
• Compresor estadístico: En el contexto de la IA, se refiere a la naturaleza de los modelos actuales que no razonan ni comprenden el mundo, sino que reducen y organizan matemáticamente inmensas cantidades de datos para encontrar patrones y predecir la información más probable.
• Cutoff de entrenamiento (Fecha de corte): La fecha límite hasta la cual un modelo de IA recibió datos para su aprendizaje. Todo lo que haya ocurrido o se haya creado en el mundo después de esa fecha es desconocido para el modelo, a menos que utilice herramientas de búsqueda en tiempo real.
• Expropiación masiva de valor: Término que describe el dilema ético y legal donde las empresas de IA absorben el trabajo gratuito y colaborativo de millones de creadores o programadores para construir productos comerciales, sin ofrecerles compensación ni reconocimiento directo.
• Fair Use (Uso legítimo): Doctrina legal (principalmente de EE. UU.) que permite el uso limitado de material protegido por derechos de autor sin necesidad de pedir permiso, bajo ciertos criterios como fines educativos, de investigación o de transformación tecnológica.
• Framework: Un marco o entorno de trabajo que provee una estructura base, herramientas y componentes predefinidos para facilitar y acelerar el desarrollo de software.
• Homogeneización del software: El proceso por el cual el diseño y el código de los programas informáticos se vuelven repetitivos, idénticos y predecibles debido a que la gran mayoría de los desarrolladores utilizan los mismos modelos de IA para crearlos.
• Model Collapse (Colapso del modelo): Proceso degenerativo que sufren los modelos de IA cuando comienzan a entrenarse con datos creados por otras IA en lugar de datos generados por humanos. Esto provoca que el modelo pierda diversidad, se vuelva repetitivo y reduzca drásticamente su calidad.
• Open Source (Código Abierto): Software cuyo código fuente está disponible públicamente para que cualquiera pueda inspeccionarlo, modificarlo, mejorarlo y distribuirlo bajo licencias específicas (como MIT, Apache o GPL).
• Retornos decrecientes (Diminishing Returns): Principio económico y tecnológico aplicable a la IA que indica que, a partir de cierto punto, cada vez se requerirá más esfuerzo, energía y datos para obtener mejoras cada vez más pequeñas, llevando el progreso hacia un estancamiento.
• RLHF (Reinforcement Learning from Human Feedback / Aprendizaje por refuerzo a partir de la retroalimentación humana): Método de entrenamiento en el que evaluadores humanos puntúan las respuestas de la IA para enseñarle a ser más útil, educada y servicial, lo que a veces provoca que el modelo prefiera inventar una respuesta antes que decir “no sé”.