El 28 de abril de 2026, una empresa argentina de alquiler de equipos perdi\u00f3 toda su base de datos de producci\u00f3n en apenas nueve segundos. No sufri\u00f3 un ataque externo. Un agente de IA interpret\u00f3 literalmente una instrucci\u00f3n de limpieza, ten\u00eda permisos de escritura sin revisar y ejecut\u00f3 una acci\u00f3n irreversible. La compa\u00f1\u00eda zaf\u00f3 gracias a un backup separado; tuvo suerte.<\/p>\n\n\n\n
Trabajo con IA todos los d\u00edas: la uso para programar, la pongo en producci\u00f3n y le sugiero stacks a equipos enteros. Veo de primera mano sus dos caras: lo que cambia para bien y lo que se rompe silenciosamente. El episodio de la base de datos resume una tensi\u00f3n creciente . El vendor lock-in<\/em> es el riesgo que todos nombran. La atrofia cognitiva es lo que nadie quiere ver: las empresas adoptan herramientas de IA cada vez m\u00e1s r\u00e1pido, mientras los equipos todav\u00eda intentan comprender c\u00f3mo funcionan realmente.<\/p>\n\n\n\n La escena ya es un patr\u00f3n en la industria: alguien acepta un Pull Request (PR) generado por Claude o Cursor sin leerlo a fondo; otro lo aprueba por inercia y el c\u00f3digo entra a producci\u00f3n. Dos semanas despu\u00e9s, aparece un bug raro que nadie sabe c\u00f3mo arreglar porque nadie entendi\u00f3 el c\u00f3digo que dejaron entrar. Arreglarlo termina costando diez veces m\u00e1s caro que si una persona se hubiera tomado diez minutos para leer el diff<\/em> al principio. Se puede delegar trabajo repetitivo, pero nunca el entendimiento.<\/p>\n\n\n\n Hoy millones de personas usan LLMs para escribir correos, resumir reuniones o crear c\u00f3digo. La experiencia parece m\u00e1gica porque la herramienta entrega resultados inmediatos. Sin embargo, detr\u00e1s existe un mecanismo puramente estad\u00edstico. La IA no entiende el problema ni razona; calcula probabilidades de tokens. El modelo no sabe que est\u00e1 hablando de un caballo cuando escribe \u00abcaballo\u00bb: solo detecta que tras la frase \u00abel caballo galop\u00f3 por la\u00bb suele aparecer \u00abpradera\u00bb o \u00abplaya\u00bb. Es un autocompletar con esteroides estad\u00edsticos. <\/p>\n\n\n\n Solemos repetir que los LLMs \u00aba veces alucinan\u00bb. Esa frase es enga\u00f1osa porque sugiere que el modelo dice cosas verdaderas y de vez en cuando se equivoca. En realidad, el LLM alucina el 100% del tiempo. Cada token que escribe es una invenci\u00f3n estad\u00edstica. Lo que pasa es que una enorme parte de esas invenciones coinciden con la realidad; a esas las llamamos \u00abrespuestas correctas\u00bb. El mecanismo matem\u00e1tico es exactamente el mismo. Por eso, la alucinaci\u00f3n no es un bug, es el mecanismo. <\/p>\n\n\n\n Si un desarrollador pide una funci\u00f3n para eliminar registros, la IA produce una secuencia t\u00e9cnicamente v\u00e1lida porque vio millones de ejemplos parecidos. Pero no comprende el impacto real de borrar informaci\u00f3n cr\u00edtica en producci\u00f3n. Es el famoso \u00abCuarto Chino\u00bb de John Searle: un sistema que manipula s\u00edmbolos de forma brillante siguiendo reglas, pero que no entiende una sola palabra de lo que procesa. Los LLMs son, justamente, ese cuarto: un sistema con cientos de miles de millones de par\u00e1metros y un manual aprendido por un algoritmo en vez de estar escrito a mano.<\/p>\n\n\n\n El investigador Yann LeCun suele remarcar esta distancia con n\u00fameros contundentes. Un modelo de frontera actual se entrena con unos 30 billones de tokens, b\u00e1sicamente todo el texto de calidad en internet, lo que equivale a unos 100 terabytes de datos. A un ser humano le llevar\u00eda unos 400.000 a\u00f1os leer todo ese corpus.<\/p>\n\n\n\n En contraste, un ni\u00f1o peque\u00f1o en sus primeros cuatro a\u00f1os de vida pasa unas 16.000 horas despierto . Si calculamos la informaci\u00f3n que fluye a trav\u00e9s de su nervio \u00f3ptico, el ni\u00f1o ha procesado m\u00e1s de 100 terabytes de datos puramente visuales, sin contar el resto de sus sentidos.<\/p>\n\n\n\n Gracias a esto, un chico de cuatro a\u00f1os posee algo que ning\u00fan LLM tiene: un modelo del mundo. Sabe de manera intuitiva que un vaso puede caerse o c\u00f3mo esquivar al gato. Y aun as\u00ed, los LLMs entrenados con todo internet no pueden hacer lo que ese chico hace sin pensar: levantar la mesa, agarrar el vaso que se est\u00e1 por caer, cargar el lavavajillas. Aqu\u00ed opera la paradoja de Moravec: lo que para nosotros es dif\u00edcil (ajedrez, ex\u00e1menes, demostrar teoremas) a la IA le sale b\u00e1rbaro; lo que para nosotros es f\u00e1cil (moverse en el mundo f\u00edsico) es lo que ning\u00fan sistema generativo de tokens puede resolver. La IA no tiene un modelo de la realidad; tiene un modelo del texto<\/em> que los humanos producimos para describir la realidad.<\/p>\n\n\n\n La trampa de la IA generativa es que produce outputs sorprendentemente convincentes sin tener la menor noci\u00f3n del mundo real , deleg\u00e1ndonos a la fuerza un juicio cr\u00edtico que ning\u00fan algoritmo puede replicar.<\/p>\n\n\n\n Por eso la IA no reemplaza el criterio humano: lo amplifica cuando existe conocimiento, pero tambi\u00e9n amplifica errores cuando nadie revisa.<\/p>\n\n\n\n CIOs y CTOs observan equipos que adoptan herramientas generativas a enorme velocidad sin el criterio t\u00e9cnico para supervisarlas. Aprueban c\u00f3digo autom\u00e1ticamente porque \u201clos tests funcionan\u201d, pero nadie puede explicar qu\u00e9 hace un m\u00f3dulo cr\u00edtico. Frente a un incidente urgente, el primer reflejo consiste en abrir la IA antes de analizar el problema.<\/p>\n\n\n\n El riesgo real no est\u00e1 en las respuestas incorrectas, sino en que las personas dejen de construir entendimiento propio por confiar ciegamente en outputs convincentes. Si el modelo no entiende nada y el profesional tampoco, en el sistema completo la comprensi\u00f3n es igual a cero. Y los sistemas donde nadie entiende lo que pasa son, justamente, los que fallan de las maneras m\u00e1s catastr\u00f3ficas y caras.<\/p>\n\n\n\n La regla es clara: se puede tercerizar el pensamiento, no el entendimiento. La IA es extraordinaria para acelerar tareas repetitivas y estructurar procesos. Se puede delegar el pensamiento ejecutivo (la sintaxis de un comando, un boilerplate, la prosa de un mail est\u00e1ndar), pero nunca el entendimiento.<\/p>\n\n\n\n Si peg\u00e1s c\u00f3digo generado por IA en producci\u00f3n, ten\u00e9s que poder explicarle a otra persona qu\u00e9 hace, con tus propias palabras. Si acept\u00e1s una arquitectura sugerida por la m\u00e1quina, ten\u00e9s que entender qu\u00e9 alternativas descart\u00f3. Si no pod\u00e9s reconstruir el razonamiento, ese razonamiento no es tuyo.<\/p>\n\n\n\n La verdadera ventaja competitiva no estar\u00e1 en qui\u00e9n tenga acceso a mejores herramientas. Esa tecnolog\u00eda nos llegar\u00e1 a todos. La diferencia aparecer\u00e1 en los equipos capaces de cuestionar las respuestas autom\u00e1ticas, comprender sus l\u00edmites y tomar decisiones con criterio propio. \u00bfEstamos formando una generaci\u00f3n de profesionales que entiende menos cada d\u00eda por confiar en sistemas que no entienden nada? Si la respuesta es s\u00ed, en alg\u00fan momento alguien va a tener que pagar la cuenta. Y no van a ser los modelos.<\/p>\n\n\n\n Por: Santiago Marro<\/em>. AI Specialist Lead en Santex<\/em><\/p>\n","protected":false},"excerpt":{"rendered":" El 28 de abril de 2026, una empresa argentina de alquiler de equipos perdi\u00f3 toda su base de datos de producci\u00f3n en apenas nueve segundos. […]<\/p>\n","protected":false},"author":18,"featured_media":1038,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6,25],"tags":[150,245,167],"class_list":["post-1037","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-empresas","category-tecnologia","tag-ia","tag-santex","tag-tecnologia-2"],"_links":{"self":[{"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/1037","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/users\/18"}],"replies":[{"embeddable":true,"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/comments?post=1037"}],"version-history":[{"count":1,"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/1037\/revisions"}],"predecessor-version":[{"id":1039,"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/1037\/revisions\/1039"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/media\/1038"}],"wp:attachment":[{"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/media?parent=1037"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/categories?post=1037"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/tags?post=1037"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}La alucinaci\u00f3n no es un bug, es el mecanismo<\/strong><\/h3>\n\n\n\n
La paradoja de Moravec y el modelo del mundo<\/strong><\/h3>\n\n\n\n
El peligro de los sistemas donde \u00abnadie entiende\u00bb<\/strong><\/h3>\n\n\n\n
Conclusi\u00f3n: Tercerizar el pensamiento, no el entendimiento<\/strong><\/h3>\n\n\n\n