Anthropic aterriza en Londres mientras la programación impulsada por IA —y las inquietudes en torno a ella— se generalizan

Bienvenidos a Eye on AI. Soy Beatrice Nolan, sustituyendo a la reportera de IA Sharon Goldman. En el número de hoy: Claude de Anthropic llega a Londres… el inminente IPO de OpenAI… la batalla sindical de Google DeepMind… y el gasto mundial en IA en camino de alcanzar los 2,59 billones de dólares este año.

La mayor parte del equipo directivo de Anthropic ha cruzado el charco esta semana. El laboratorio de IA está organizando una serie de eventos por todo el Reino Unido, comenzando con Code with Claude London el martes.

La empresa aprovechó el evento para presentar nuevas funciones para sus Agentes de Claude, incluyendo entornos de pruebas que permiten a las empresas ejecutar agentes en su propia infraestructura, y "túneles MCP" que permiten a esos agentes acceder a sistemas internos sin tocar la internet pública. En resumen, nuevas formas para que las empresas tengan más control y más seguridad, un posible intento de calmar los nervios de la alta dirección sobre la IA no regulada. 

El evento de Londres, la primera reunión dedicada a desarrolladores de Anthropic en Europa, subraya lo central que se ha convertido la ciudad para el ecosistema de IA, ganando aún más protagonismo en los últimos meses. Grandes pesos pesados, incluyendo OpenAI, Anthropic y el laboratorio de IA de Jeff Bezos, Project Prometheus, han anunciado planes para establecer una presencia sustancial en la ciudad. El evento de Claude de Anthropic tuvo una demanda muy superior a la oferta, con una mezcla de clientes empresariales, trabajadores de startups y entusiastas de Claude abarrotando el lugar junto al río a pesar de la lluvia. 

Los ingenieros de las startups me contaron que utilizan Claude Code y herramientas similares a diario. ¿Les preocupa el riesgo existencial que esto puede suponer para sus trabajos? Claro. Pero más vale malo conocido que bueno por conocer, dijeron. Hubo algunas quejas sobre los recientes problemas de rendimiento de Claude y la respuesta poco brillante de Anthropic, pero en general la gente estaba bastante contenta con el producto. (De esperar, quizás, en un evento de Anthropic.)

Los clientes empresariales eran más complejos. Mientras algunos abrazaban la tecnología de lleno, otros dicen que la implementación ha sido más lenta. Todavía hay cierta incertidumbre sobre qué automatizar y cuándo, dónde se necesita un humano en el ciclo y qué se puede delegar de forma segura a las herramientas de IA. También se requiere cierta cantidad de acompañamiento por parte de la alta dirección. Todas estas preguntas se vuelven mucho más urgentes cuando se trata de sectores altamente regulados como la atención sanitaria o la banca. 

La jefa de ingeniería de Anthropic, Fiona Fung, dio algunos consejos a quienes se preguntan por dónde empezar al automatizar con Claude Code: "Elija su flujo de trabajo más ruidoso... y pregúntese si sigue cumpliendo su propósito. Si es algo que es realmente caro, ¿es algo que Claude puede manejar?"

La principal conclusión del evento: la ingeniería de software está experimentando un relevo generacional, con el trabajo pesado de escribir código siendo cada vez más manejado por la IA, mientras que los humanos se concentran en decisiones de nivel superior y en mantener los sistemas en buen camino. Programar todo a mano está empezando a parecerse menos a un trabajo diario y más a un oficio de nicho.

Boris Cherny, jefe de Claude Code en Anthropic, me dijo que siempre le ha importado más el resultado del trabajo que los detalles de cómo se escribe el código, y ahora muchos ingenieros sienten lo mismo: están encantados de dejar que la IA se encargue de la mayor parte de la programación siempre que el resultado empresarial sea mejor. Algunos ingenieros echan de menos el oficio, reconoció, añadiendo que algunos miembros del equipo todavía escriben código a mano los fines de semana simplemente porque lo echan de menos. Al igual que la fotografía analógica de película, Cherny cree que siempre habrá un lugar para ese tipo de trabajo.

"Compro mis verduras en el mercado de agricultores", dijo Cherny. "Siempre hay espacio para eso".

Avances en IA, riesgo existencial y terapia con IA

Mientras tanto, el cofundador de Anthropic, Jack Clark, se dirigió a la Universidad de Oxford para abordar algunas de las preguntas más filosóficas que plantea la tecnología que la empresa está desarrollando. En una conferencia amplia y a menudo franca, Clark tocó temas que van desde las posibilidades de descubrimientos ganadores del Premio Nobel ayudados por IA hasta el uso de las herramientas de su empresa para la salud mental. Ah, y la "probabilidad distinta de cero" de que la IA mate a todos en el planeta. 

También argumentó que el ritmo del progreso se está acelerando hasta el punto de que la sociedad podría tener dificultades para seguirle el ritmo, advirtiendo que la competencia geopolítica y comercial hacen poco probable que el desarrollo se ralentice, incluso si hacerlo fuera más seguro.

Clark también reveló que había buscado terapia en parte porque había estado usando Claude para hablar sobre algunas de sus luchas personales, y el chatbot le instó a buscar asesoramiento profesional. 

Los sistemas de IA necesitan ser diseñados para hacer exactamente eso, argumentó: indicar a las personas que dejen de usarlos y busquen contacto humano real. Sin embargo, para lograrlo con éxito, las empresas de IA podrían necesitar ser conscientes de cómo están diseñando estas herramientas a un nivel superior. Los chatbots de IA tienden por defecto a la adulación, y varios estudios recientes han demostrado cómo esa tendencia puede reforzar el pensamiento dañino o el exceso de confianza si no se controla.

Más adelante esta semana, los líderes de Anthropic, incluido el CEO Dario Amodei, se dirigen al campo inglés para un foro exclusivo de CEO para líderes europeos. El evento está dirigido a ayudar a las empresas a entender cómo pueden adoptar la tecnología de la compañía. Lo que pueden encontrar más difícil de gestionar es la inevitable presión de los ejecutivos europeos hambrientos de acceso a Mythos, el modelo demasiado peligroso para ser lanzado de Anthropic que hasta ahora ha tenido un lanzamiento internacional limitado fuera de los socios principalmente estadounidenses.

Con esto, aquí tienen más noticias sobre IA.

Beatrice Nolan
bea.nolan@fortune.com
@beafreyanolan

Esta historia se publicó originalmente en Fortune.com