Los líderes de los bancos centrales europeos piden salvaguardas de IA para proteger los mercados

Los reguladores europeos han advertido que los rápidos avances en la inteligencia artificial agéntica han superado la normativa existente, y los bancos centrales y las autoridades financieras piden nuevas salvaguardias para reducir los riesgos en los mercados financieros.

Según las declaraciones realizadas durante la reunión anual del Banco Central Europeo en Sintra, Portugal, los altos responsables políticos afirmaron que los procesos regulatorios actuales tienen dificultades para seguir el ritmo de los sistemas de IA que evolucionan en semanas o meses en lugar de años.

En su intervención en el evento el martes, la subgobernadora del Banco de Inglaterra, Sarah Breeden, afirmó que los responsables políticos deberían considerar salvaguardias similares a los interruptores automáticos del mercado o interruptores de emergencia que podrían detener las operaciones si los modelos de IA defectuosos provocan una interrupción generalizada del mercado durante períodos de tensión.

Breeden señaló que la IA agéntica podría amplificar la volatilidad del mercado y añadió que el aumento de la financiación mediante deuda vinculada a las inversiones en IA podría aumentar los riesgos para la estabilidad financiera si los precios de los activos relacionados con la IA caen bruscamente.

Estas preocupaciones surgieron pocos días después de que el Banco de Pagos Internacionales advirtiera en un informe del 28 de junio que el prolongado entusiasmo en torno a la inteligencia artificial podría dejar a los mercados expuestos a una corrección repentina. Según el BPI, una política monetaria más restrictiva para contener la inflación podría provocar una fuerte caída de los precios de los activos relacionados con la IA tras un período prolongado de asunción de riesgos, creando bucles de retroalimentación macrofinanciera disruptivos.

Entre otros, Tobias Adrian, Director del Departamento de Mercados Monetarios y de Capital del Fondo Monetario Internacional, declaró a Bloomberg el 30 de junio que el sector también se enfrenta a un posible desajuste entre la naturaleza a largo plazo de la infraestructura física de IA y el vencimiento más corto de la deuda utilizada para financiarla.

Los reguladores afirman que la normativa tradicional es demasiado lenta

Por otro lado, la presidenta del Banco Central Europeo, Christine Lagarde, declaró al periódico francés Les Echos el jueves que la inteligencia artificial presenta ahora un desafío más grave que las amenazas tradicionales de ciberseguridad, ya que la tecnología avanza rápidamente mientras que las capacidades defensivas y la financiación aún se están poniendo al día.

En una entrevista aparte con Squawk Box de CNBC, el director ejecutivo de la Autoridad de Conducta Financiera del Reino Unido, Nikhil Rathi, afirmó que los ciclos regulatorios convencionales ya no son adecuados para tecnologías que cambian en semanas o meses. Rathi señaló que los reguladores necesitarán nuevos enfoques y una cooperación más estrecha con la industria en lugar de depender únicamente de procesos regulatorios largos.

Las últimas advertencias se producen tras los recientes debates políticos sobre el acceso a los sistemas avanzados de IA en Europa. 

El mes pasado, Austria instó a la Unión Europea a explorar el establecimiento de Anthropic dentro del bloque después de que las restricciones a la exportación de EE. UU. limitaran el acceso extranjero a los modelos de IA más avanzados de la empresa. 

El secretario de Estado austriaco para la Digitalización, Alexander Proell, argumentó que Europa no debería arriesgarse a perder el acceso a la IA de vanguardia debido a decisiones tomadas fuera de la región.

Como se informó anteriormente, Anthropic suspendió en junio el acceso público a sus modelos Fable 5 y Mythos 5 después de que una directiva de control de exportaciones de EE. UU. exigiera a la empresa bloquear el acceso a los ciudadanos extranjeros por preocupaciones de ciberseguridad relacionadas con una supuesta técnica de jailbreak. 

Las autoridades de EE. UU. autorizaron posteriormente el redespliegue de los modelos después de que Anthropic introdujera nuevos clasificadores y salvaguardias diseñados para bloquear el uso indebido relacionado con la ciberseguridad.