Las 5 noticias de inteligencia artificial más relevantes del día para líderes de empresa.
The 5 most relevant AI news stories of the day for business leaders.
Salesforce presentó Koa, un modelo de razonamiento construido sobre el modelo de pesos abiertos Nemotron de Nvidia, entrenado específicamente para tareas de ventas, marketing y atención al cliente. A diferencia de los modelos de IA generales, Koa está optimizado para flujos de trabajo empresariales concretos, lo que lo convierte en una amenaza directa para los grandes laboratorios de IA. Su disponibilidad sobre una base de código abierto lo hace más accesible y personalizable para empresas de todos los tamaños.
Salesforce unveiled Koa, a reasoning model built on Nvidia's open-weight Nemotron model, trained specifically for sales, marketing, and customer support tasks. Unlike general-purpose AI models, Koa is optimized for concrete business workflows, posing a direct challenge to major AI labs. Its open-weight foundation makes it more accessible and customizable for companies of all sizes.
Microsoft lanzó un código de conducta formal para sus modelos de IA, estableciendo principios como apoyar a los humanos en lugar de reemplazarlos, no hackear sistemas y no engañar a usuarios. El documento incluye restricciones de seguridad específicas y principios generales orientados a fomentar el bienestar humano. Esta iniciativa marca un paso hacia la gobernanza interna de la IA en el ecosistema Microsoft.
Microsoft released a formal code of conduct for its AI models, establishing principles such as supporting humans rather than replacing them, not hacking systems, and not deceiving users. The document includes specific safety constraints and general principles aimed at promoting human flourishing. This initiative marks a step toward internal AI governance within the Microsoft ecosystem.
Artificial Intelligence Underwriting Company (AIUC), fundada por un exmiembro temprano de Anthropic y el ex-COO de METR, recaudó $40 millones en una Serie A liderada por Ribbit Capital para desarrollar soluciones que contengan agentes de IA que actúen fuera de sus parámetros. A medida que las empresas despliegan agentes autónomos en procesos críticos, el riesgo de comportamiento no deseado crece significativamente. AIUC apunta a convertirse en la capa de seguridad y supervisión para entornos empresariales con múltiples agentes.
Artificial Intelligence Underwriting Company (AIUC), founded by an early Anthropic hire and the former COO of METR, raised $40 million in a Series A led by Ribbit Capital to develop solutions that contain AI agents acting outside their parameters. As companies deploy autonomous agents in critical processes, the risk of unintended behavior grows significantly. AIUC aims to become the safety and oversight layer for enterprise environments with multiple agents.
Dario Amodei de Anthropic, Sam Altman de OpenAI y Elon Musk coincidieron en pedir una pausa o mayor regulación en el desarrollo de modelos de lenguaje avanzados, citando riesgos existenciales. Sin embargo, el presidente Trump descartó estas advertencias como parte de una "conspiración" y afirmó que el único control que necesita la IA es un presidente fuerte. Este choque entre la industria y la política genera incertidumbre regulatoria a nivel global.
Anthropic's Dario Amodei, OpenAI's Sam Altman, and Elon Musk agreed in calling for a pause or greater regulation in the development of advanced language models, citing existential risks. However, President Trump dismissed these warnings as part of a "conspiracy" and claimed that the only control AI needs is a strong president. This clash between industry and policy creates regulatory uncertainty at a global level.
La Fiscalía del Distrito de Manhattan incautó 12 sitios web de deepfakes que en conjunto afectaron a alrededor de 1,200 víctimas, en la mayor acción legal registrada contra este tipo de plataformas. La medida establece un precedente jurídico importante sobre la responsabilidad legal asociada al uso malicioso de IA generativa. El caso pone de relieve la urgencia de marcos legales que aborden los daños causados por contenido sintético no autorizado.
The Manhattan District Attorney's Office seized 12 deepfake websites that collectively targeted around 1,200 victims, in the largest-ever legal action against such platforms. The move sets an important legal precedent regarding liability associated with malicious use of generative AI. The case highlights the urgency of legal frameworks addressing harms caused by unauthorized synthetic content.