Investigadores vinculados a algunas de las principales compañías del sector alertaron sobre escenarios extremos asociados al desarrollo de sistemas que superen las capacidades humanas. El debate reavivó los pedidos de controles internacionales, mientras la IA ya transforma el mercado laboral.
El avance acelerado de la inteligencia artificial volvió a poner en discusión los riesgos que podrían surgir si se desarrollan sistemas capaces de superar ampliamente las capacidades humanas. Evan Hubinger, responsable de un equipo de seguridad de Anthropic, estimó que existe más de un 10% de probabilidad de que una IA avanzada provoque la extinción de la humanidad durante la próxima década, una proyección personal que refleja uno de los escenarios más extremos debatidos entre especialistas del sector.
Hubinger también planteó dudas sobre la capacidad actual de las empresas para garantizar que una eventual superinteligencia artificial permanezca bajo control y alineada con objetivos humanos. Sus declaraciones coincidieron con la salida de Anthropic de Jacob Coxon, investigador que también trabajó en OpenAI y que cuestionó la velocidad de la carrera por construir sistemas cada vez más poderosos.
Coxon advirtió que los futuros modelos podrían alcanzar capacidades superiores a las humanas en áreas como ciberseguridad, investigación científica y adquisición de recursos. El temor de algunos especialistas se concentra especialmente en la posibilidad de que aparezcan sistemas capaces de mejorar progresivamente sus propias capacidades, lo que podría dificultar su supervisión.
Crecen los pedidos de regulación
Las advertencias reactivaron el debate político sobre los controles a la industria. En Estados Unidos, el senador Bernie Sanders reclamó una mayor intervención del Congreso, mientras que en Reino Unido surgieron propuestas para avanzar hacia un acuerdo internacional que establezca reglas para el desarrollo seguro de una eventual superinteligencia.
Las posiciones dentro del sector, sin embargo, están lejos de ser uniformes. Las probabilidades sobre escenarios de extinción corresponden a estimaciones de determinados investigadores y no constituyen una predicción científica consensuada. El debate abarca desde esos riesgos de largo plazo hasta problemas actuales y comprobables relacionados con el empleo, la privacidad, la desinformación y el uso de sistemas automatizados.
En la Ciudad de Buenos Aires, un estudio del Consejo Económico y Social porteño (Cesba) analizó precisamente el impacto laboral de la IA generativa. El Índice de Exposición Ocupacional elaborado sobre 39 ocupaciones alcanzó 0,353 en una escala de 0 a 1, un nivel que refleja el peso que puede tener esta tecnología sobre las tareas realizadas en una economía fuertemente orientada a los servicios.
El informe no plantea un reemplazo generalizado de trabajadores, sino un escenario de automatización y complementariedad de tareas que podría modificar distintos puestos. Así, mientras parte del debate internacional se concentra en los riesgos potenciales de sistemas superinteligentes, los efectos de la IA sobre la organización del trabajo ya forman parte de las discusiones actuales.
