Texto escrito por: Andrea Lobato Romero
Es es un espacio de expresión libre e independiente que refleja exclusivamente los puntos de vista de los autores y no compromete el pensamiento ni la opinión de Las2Orillas
En septiembre, un joven investigador llamado Jacob Coxon renunció a Anthropic, una de las empresas más importantes de inteligencia artificial del mundo. No se fue por un mejor salario ni por agotamiento. Se fue porque, según reportó Cybernews, las compañías que están construyendo la IA "están corriendo directo hacia una superinteligencia auto-mejorable y apostando con nuestras vidas". Y de acuerdo con una entrevista que dio a Axios, renunció dos meses antes de que venciera su paquete accionario, perdiendo con ello un beneficio económico concreto. Nadie renuncia a dinero real por un temor de utilería.
Lo inquietante no terminó ahí. Un colega suyo, Evan Hubinger, responsable de la seguridad de esos mismos sistemas en Anthropic, salió a respaldarlo. Escribió en X que él y sus colegas creen sinceramente que la IA podría acabar con todos los humanos, y estimó esa probabilidad en más del 10% para la próxima década. No es una cifra de un activista alarmista gritando desde afuera. Es la estimación de la persona cuyo trabajo es evitar exactamente eso.
Y eso deja una pregunta difícil de esquivar. Si los propios ingenieros que diseñan la IA admiten, con honestidad, que le tienen miedo a su propia creación, ¿por qué seguimos dejando que la decisión sobre su velocidad quede solo en manos de quienes tienen un incentivo financiero para acelerar?
Esta semana llegó una respuesta incómoda. Ante la Asamblea General de la ONU, Donald Trump rechazó este martes cualquier control internacional sobre la IA, calificando la propuesta de "globalista", un día después de que más de 20 países pidieran reglas vinculantes. Lo llamativo es que más de 1,000 trabajadores y directivos de Anthropic, OpenAI y Google habían firmado en julio una carta pidiéndole al propio gobierno de Estados Unidos que apoyara herramientas para controlar el desarrollo de estos sistemas. Incluso Dario Amodei, el CEO de Anthropic, propuso evaluadores independientes y acuerdos internacionales. La industria que construye la IA está pidiendo reglas. El poder político con más capacidad para imponerlas le acaba de decir que no.
La respuesta cómoda es que Estados Unidos actúa bajo presión. Si se detiene, China no lo hará. Es la lógica de la carrera armamentista, aplicada al software. Y es una lógica real. Pero es también la misma excusa que ha servido, durante décadas, para que la industria financiera, la petrolera o la farmacéutica se autorregulen "por el bien de la eficiencia" hasta que la crisis llega y de repente sí aparecen los reguladores, pero tarde.
Sin embargo, no todos ven el problema de la misma forma. Exigir que gobiernos lentos, muchas veces técnicamente analfabetos, regulen una tecnología que cambia cada semana, podría ser peor que dejar que avance sin control. Un Congreso que apenas entiende qué es un algoritmo difícilmente va a legislar bien sobre superinteligencia. Y hay quienes argumentan que la autorregulación de empresas con reputación en juego, y con sus propios investigadores de seguridad internos, resulta paradójicamente más ágil e informada que cualquier ley.
Aun así, esa objeción, bien mirada, no es una razón para no regular. Es una razón para regular distinto. Nadie está pidiendo que un puñado de senadores escriba código. Se está pidiendo algo mucho más modesto. Que exista algún mecanismo democrático de rendición de cuentas, con auditorías externas, límites verificables, transparencia obligatoria, para una tecnología que sus propios creadores admiten no saber controlar del todo. Que la decisión de si vale la pena arriesgar un 10% de probabilidad de catástrofe no quede exclusivamente en manos de quien tiene un incentivo financiero, o electoral, para decir que sí.
Cuando el bombero te dice que el edificio se está incendiando y que él no tiene el extintor adecuado, la respuesta lógica no es dejarlo apagar el fuego solo mientras todos miramos desde afuera confiando en que sabrá qué hacer. La respuesta es preguntar, con urgencia, quién más tiene que entrar al edificio.
La IA promete curar enfermedades y resolver problemas que la humanidad no ha podido resolver en siglos. Nadie serio quiere detenerla por capricho. Pero cuando la gente que la construye deja el trabajo por miedo y cuando el propio gobierno con más poder para poner reglas decide no ponerlas, deberíamos dejar de tratar esto como un asunto exclusivamente técnico. Es, ante todo, una decisión política que nos incluye a todos.
También le puede interesar:
Anuncios.
