Investigador de Anthropic advierte riesgos críticos en el desarrollo de IA

Mrinank Sharma, quien encabezó el equipo de investigación de salvaguardias en la empresa Anthropic desde su creación el año pasado, presentó formalmente su renuncia este lunes 21 de septiembre de 2026. A través de una carta pública, el especialista señaló que el desarrollo actual de los sistemas de inteligencia artificial conlleva riesgos significativos que podrían comprometer la seguridad a nivel global, instando a la industria a replantear sus protocolos de control y supervisión técnica.

La salida de Sharma se produce en un momento en el que diversas organizaciones internacionales y dependencias gubernamentales, incluyendo instancias en México como el CONAHCYT, debaten sobre la necesidad de establecer marcos regulatorios más estrictos. El investigador argumentó que las medidas de seguridad implementadas hasta la fecha resultan insuficientes frente a la velocidad con la que evolucionan los modelos de lenguaje y la capacidad de razonamiento autónomo de las máquinas.

En su misiva, el experto subrayó que el sector tecnológico se encuentra en una encrucijada donde la competencia comercial está superando a las precauciones éticas. Según su postura, es indispensable que los desarrolladores prioricen la contención de posibles comportamientos imprevistos en los modelos antes de que estos sean integrados en infraestructuras críticas que afectan la vida cotidiana de la sociedad.

Ante este panorama, especialistas en ética digital sugieren que los países deben fortalecer la colaboración con centros de investigación académica para monitorear los avances en IA. Aunque la industria sostiene que los sistemas actuales cuentan con filtros de seguridad robustos, las advertencias de Sharma ponen en evidencia la brecha existente entre las capacidades técnicas de los modelos y los mecanismos de protección que actualmente se aplican en el mercado global.