Ciudad de México.- Las advertencias “apocalípticas” emitidas por firmas de inteligencia artificial apuntan a ser una estrategia de mercado para impulsar regulaciones costosas que solo las empresas multimillonarias pueden afrontar, lo que además bloquearía la entrada de nuevas empresas, señalaron expertos.
Durante una mesa de análisis de la Universidad Iberoamericana, Alexandro López González, Coordinador de la Ingeniería en Inteligencia Artificial, desmintió la existencia de sistemas de esta tecnología capaces de automejorarse de forma autónoma. Resaltó que los problemas de alineación se derivan de sus propiedades probabilísticas, no de una voluntad propia.
No obstante, planteó que los sistemas probabilísticos no se conecten a infraestructuras críticas, ya que cualquier error matemático podría tener consecuencias fatales.
Por su parte, Verónica Díaz de León, académica del Departamento de Filosofía, advirtió que la narrativa actual tiende a atribuir categorías humanas a los sistemas técnicos, lo que puede llevar a malentendidos.
Planteó el término “autonomía operativa” en lugar de “autonomía humana” para describir las capacidades de la inteligencia artificial, lo cual evita narrativas apocalípticas.
Díaz de León también señaló que las declaraciones apocalípticas podrían ser conjeturas ante una burbuja económica y destacó el papel de la academia para ofrecer un análisis sensato.
El verdadero peligro, según Díaz de León, no es un robot asesino, sino la renuncia humana a la voluntad y capacidad de decisión.
Andrés Molano Jiménez, Director del Departamento de Estudios en Ingeniería para la Innovación, señaló que no existe una inteligencia artificial con autogobierno en el sentido de ciencia ficción, pero sí sistemas con creciente “autonomía operativa”. Distinguió entre “autonomía operativa” y “autonomía normativa”, y mencionó que empresas como OpenAI, Google DeepMind y Anthropic ya evalúan estas capacidades.
Molano Jiménez coincidió con la propuesta de Anthropic de implementar sistemas de auditoría internos y externos, y enfatizó la necesidad de una regulación que no frene la innovación, pero que garantice la responsabilidad humana, la trazabilidad y la posibilidad de apelación en decisiones que afectan a personas.
Molano Jiménez dijo que, al no comprenderse del todo el razonamiento de los grandes modelos, las compañías deben abrirse a la academia para evitar la concentración del conocimiento.
