Hace a\u00f1os que vengo planteando una preocupaci\u00f3n alrededor de la inteligencia artificial: no alcanza con preguntarnos qu\u00e9 puede hacer una tecnolog\u00eda. Tambi\u00e9n tenemos que preguntarnos qui\u00e9n controla el poder que estamos construyendo. Por eso las recientes declaraciones de Jacob Coxon me resultan especialmente relevantes.<\/p>\n\n\n\n
Coxon, que trabaj\u00f3 en OpenAI y Anthropic, advirti\u00f3 sobre una carrera hacia sistemas capaces de mejorar sus propias capacidades sin contar todav\u00eda con mecanismos suficientes para garantizar el control humano. Podr\u00edamos descartar sus palabras como otra predicci\u00f3n extrema sobre el futuro de la IA. Dif\u00edcil hacerlo cuando algunos de los protagonistas m\u00e1s importantes de esta industria decidieron salir p\u00fablicamente a respaldarlas:<\/p>\n\n\n\n
Dario Amodei, CEO de Anthropic, plante\u00f3 la necesidad de establecer un ritmo de desarrollo que permita avanzar t\u00e9cnicamente, pero con mayores controles externos.<\/p>\n\n\n\n
Sam Altman, CEO de OpenAI, coincidi\u00f3 en la necesidad de establecer mecanismos de supervisi\u00f3n para ordenar el avance en la frontera tecnol\u00f3gica.<\/p>\n\n\n\n
Y Elon Musk, que desde hace a\u00f1os advierte sobre los riesgos de una inteligencia artificial que pueda superar capacidades humanas, resumi\u00f3 su posici\u00f3n en pocas palabras: \u201cDario est\u00e1 en lo correcto\u201d<\/em>.<\/p>\n\n\n\n El dato no es menor. Cuando quienes est\u00e1n construyendo los sistemas m\u00e1s avanzados empiezan a pedir tiempo, supervisi\u00f3n y controles, la discusi\u00f3n deja de pertenecer exclusivamente al terreno de la especulaci\u00f3n.<\/p>\n\n\n\n Antes de aceptar sus posturas, vale la pena mirar el historial. Hace una d\u00e9cada, Musk dec\u00eda que la inteligencia artificial era ‘potencialmente m\u00e1s peligrosa que las bombas nucleares’<\/em>. Altman argumentaba que la Inteligencia Artificial deber\u00eda beneficiar a la humanidad sin estar atada a retornos financieros. <\/p>\n\n\n\n Ambos ped\u00edan prudencia, l\u00edmites, regulaci\u00f3n. Despu\u00e9s llegaron las valuaciones de cien, trescientos, mil millones de d\u00f3lares. Los acuerdos corporativos, las carreras de hardware, los modelos competitivos. Y el discurso cambi\u00f3. <\/p>\n\n\n\n Altman empez\u00f3 a decir que la IA iba a reemplazar permanentemente muchos empleos, y que eso era parte natural del progreso. Musk prometi\u00f3 que los robots generar\u00edan tanta riqueza que el dinero perder\u00eda relevancia. Ahora, con las cifras del mercado laboral sin mostrar las cat\u00e1strofes anunciadas, Altman declara que est\u00e1 ‘encantado de haberse equivocado’. Lo que hasta hace poco era una alarma compartida hoy parece una marcha atr\u00e1s coordinada de la industria.<\/p>\n\n\n\n No pongo en duda la sinceridad de quienes advierten hoy. Pero s\u00ed se\u00f1alo una coincidencia que merece atenci\u00f3n: sus posiciones cambiaron exactamente cuando cambiaron sus intereses comerciales. Quien viene diciendo lo mismo desde hace a\u00f1os, sin una empresa que se beneficie de decirlo, merece otro tipo de escucha.<\/p>\n\n\n\n La preocupaci\u00f3n de Coxon tiene adem\u00e1s un concepto concreto detr\u00e1s: la llamada auto-mejora recursiva. Si los sistemas de IA comienzan a colaborar en la creaci\u00f3n de nuevas generaciones de herramientas, esas nuevas herramientas podr\u00edan mejorar las siguientes. El riesgo aparece cuando esa evoluci\u00f3n supera nuestra capacidad para comprender c\u00f3mo funcionan esos sistemas y controlar sus decisiones.<\/p>\n\n\n\n No sabemos si ese escenario ocurrir\u00e1. Pero si sabemos que merece toda nuestra atenci\u00f3n. Tampoco podemos afirmar que la humanidad est\u00e9 frente a una extinci\u00f3n inevitable, ni seguir actuando como si fuera imposible. Y ac\u00e1 aparece algo que vengo se\u00f1alando desde hace tiempo: el problema del control no empieza necesariamente cuando una m\u00e1quina toma decisiones contra nosotros. Empieza cuando concentramos capacidades extraordinarias en pocas compa\u00f1\u00edas y, al mismo tiempo, les entregamos informaci\u00f3n que constituye el conocimiento central de nuestros negocios presentes y futuros. <\/p>\n\n\n\n Hoy una empresa puede incorporar IA para automatizar procesos, aumentar productividad, reducir costos y tomar mejores decisiones. Todo eso tiene un valor enorme. Pero \u00bfqu\u00e9 informaci\u00f3n est\u00e1 entregando para conseguirlo? \u00bfD\u00f3nde queda almacenada? \u00bfQui\u00e9n puede acceder? \u00bfQu\u00e9 aprende el sistema sobre esa compa\u00f1\u00eda? \u00bfQu\u00e9 hacen sus desarrolladores con ese conocimiento? \u00bfDe qui\u00e9n es a partir de ese momento la informaci\u00f3n? <\/p>\n\n\n\n Y existe una pregunta todav\u00eda m\u00e1s importante: \u00bfqu\u00e9 podr\u00e1n hacer ma\u00f1ana con la informaci\u00f3n que hoy estamos entregando para resolver problemas de hoy? Ese es el punto en el que la discusi\u00f3n sobre el futuro de la inteligencia artificial se encuentra con la realidad empresarial.<\/p>\n\n\n\n La IA puede ayudarnos a ser m\u00e1s eficientes, rentables y competitivos. Puede reducir fricciones, automatizar tareas y mejorar decisiones. Eso no est\u00e1 en discusi\u00f3n. Lo que s\u00ed est\u00e1 en discusi\u00f3n es el criterio y la conciencia real con la que tomamos esas decisiones. No es una respuesta al mercado: es una posici\u00f3n sobre qu\u00e9 tipo de organizaciones y de mundo queremos construir. La tecnolog\u00eda que elegimos usar hoy tiene consecuencias que van mucho m\u00e1s all\u00e1 de la pr\u00f3xima reuni\u00f3n de resultados. Esa convicci\u00f3n es la que me obliga a hacer preguntas que otros prefieren dejar para despu\u00e9s. \u00bfDespu\u00e9s cuando?<\/p>\n\n\n\n Personalmente nunca me sent\u00ed parte de los extremos. Reducir esta discusi\u00f3n a una postura fija es simplificar la realidad: ya sea el tecno-pesimismo que reduce todo a m\u00e1quinas asesinas y extinci\u00f3n, o el optimismo que evade la obviedad de los riesgos y nos vende la Tierra Prometida. <\/p>\n\n\n\n La posici\u00f3n de Trump agrega otra dimensi\u00f3n al problema. Mientras l\u00edderes de la industria plantean la necesidad de moderar el ritmo para ganar tiempo y fortalecer la seguridad, el presidente estadounidense sostiene que su pa\u00eds debe mantener la ventaja sobre China porque quien gane la carrera de la IA tendr\u00e1 una posici\u00f3n dominante. \u00bfDominante sobre que? \u00bfLa econom\u00eda, la seguridad y control social, la influencia pol\u00edtica? Exacto. <\/p>\n\n\n\n Ese contraste muestra que la inteligencia artificial definitivamente ya no es solamente una cuesti\u00f3n tecnol\u00f3gica. Tambi\u00e9n es una disputa econ\u00f3mica, estrat\u00e9gica y geopol\u00edtica. Y cuanto mayor sea la presi\u00f3n por ganar esa carrera, mayor ser\u00e1 la necesidad de discutir qui\u00e9n establece las reglas. Por eso creo que las declaraciones recientes no deber\u00edan llevarnos al miedo, sino a poner toda nuestra atenci\u00f3n.<\/p>\n\n\n\n Hace veintisiete a\u00f1os que construyo empresas de tecnolog\u00eda con la convicci\u00f3n de que una herramienta poderosa exige algo m\u00e1s que capacidad t\u00e9cnica: exige criterio, l\u00edmites y responsabilidad. Esa no es una posici\u00f3n nueva. Es la misma que tengo desde el primer d\u00eda.<\/p>\n\n\n\n La pregunta, entonces, no es solamente qu\u00e9 podr\u00e1 hacer la IA en el futuro. La pregunta es cu\u00e1nto control estamos dispuestos a ceder y cu\u00e1nto a conservar mientras avanzamos hacia ese futuro. <\/p>\n\n\n\n Llevo tiempo sosteniendo que esa conversaci\u00f3n no puede empezar cuando sea demasiado tarde. Las \u00faltimas advertencias de quienes est\u00e1n construyendo esta tecnolog\u00eda deber\u00edan servirnos para entender que el momento de hacerla ya lleg\u00f3. Lo importante es no confundir velocidad con progreso, ni innovaci\u00f3n con ausencia de l\u00edmites.<\/p>\n\n\n\n Por: Juan Santiago. CEO & Founder de Santex<\/p>\n\n\n\n <\/p>\n","protected":false},"excerpt":{"rendered":" Hace a\u00f1os que vengo planteando una preocupaci\u00f3n alrededor de la inteligencia artificial: no alcanza con preguntarnos qu\u00e9 puede hacer una tecnolog\u00eda. Tambi\u00e9n tenemos que preguntarnos […]<\/p>\n","protected":false},"author":18,"featured_media":897,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_members_access_role":[],"_members_access_error":""},"categories":[6,25],"tags":[150,245],"class_list":["post-1254","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-empresas","category-tecnologia","tag-ia","tag-santex"],"_links":{"self":[{"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/1254","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/users\/18"}],"replies":[{"embeddable":true,"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/comments?post=1254"}],"version-history":[{"count":1,"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/1254\/revisions"}],"predecessor-version":[{"id":1255,"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/posts\/1254\/revisions\/1255"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/media\/897"}],"wp:attachment":[{"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/media?parent=1254"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/categories?post=1254"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/pressroom.cqap.com.ar\/index.php\/wp-json\/wp\/v2\/tags?post=1254"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}