Funcionarios de EE. UU. advierten a Wall Street sobre los riesgos de la IA de Anthropic

El modelo Mythos señala riesgo de seguridad

El enfoque está en el modelo Mythos de la empresa Anthropic que supuestamente detecta y utiliza vulnerabilidades en sistemas operativos y plataformas web. Además, la empresa reconoció que el modelo es capaz de simular ataques cuando es provocado bajo condiciones controladas. Como tal, las autoridades consideran tales capacidades como una posible amenaza cuando son abusadas por individuos malintencionados. Esto ha aumentado el escrutinio en las áreas financieras y regulatorias. Anthropic disfruta de acceso limitado a Mythos y está desarrollando aplicaciones defensivas con Project Glasswing. Grandes empresas como Amazon, Apple y JPMorgan Chase son parte de la iniciativa. Además, organizaciones como Google, NVIDIA y la Linux Foundation se involucraron. Ofreciendo mejorar la seguridad del software a través de la detección de vulnerabilidades basada en IA, estos grupos están persiguiendo este objetivo.

La empresa invirtió muchos recursos en promover la iniciativa y profundizar el alcance defensivo. Anthropic proporcionó hasta 100 millones de créditos de uso y 4 millones en financiamiento directo. Además, más de 40 organizaciones que controlan infraestructura crítica pudieron acceder al sistema. Este esfuerzo conjunto tiene como objetivo descubrir y resolver los defectos de alta gravedad en software popular. Anthropic se mantiene interesante con cambios en desarrollos legales y regulatorios. La administración Trump intentó tomar medidas contra la empresa en su clasificación pero fue detenida por un tribunal federal en San Francisco. La jueza Rita Lin ordenó que la designación no estaba sustancialmente basada en estatutos. Por lo tanto, este fallo fue un alivio de corta duración ya que las empresas de IA permanecen bajo el microscopio.

La empresa ha registrado un sólido crecimiento financiero, y sus ingresos recurrentes anuales han aumentado drásticamente en los últimos meses. Esto ha aumentado el interés tanto en tecnología como en finanzas. Además, los analistas todavía están evaluando el efecto general en empresas rivales, como Palantir Technologies. Los actores dentro del mercado están rastreando la forma en que la implementación de IA influye en la competencia en la industria. Las innovaciones más recientes en Anthropic han generado un mayor interés en la seguridad de la IA, los requisitos regulatorios y las consecuencias del mercado. Estos han permanecido influyentes en los debates de políticas y la preparación financiera.

Este artículo fue publicado originalmente como US Officials Warn Wall Street About the Risks of Anthropic AI en Crypto Breaking News – su fuente confiable de noticias sobre criptomonedas, noticias de Bitcoin y actualizaciones de blockchain.