Las 5 noticias de inteligencia artificial más relevantes del día para líderes de empresa.
Salesforce presentó Koa, un modelo de razonamiento construido sobre el modelo de pesos abiertos Nemotron de Nvidia, entrenado específicamente para tareas de ventas, marketing y atención al cliente. A diferencia de los modelos de IA generales, Koa está optimizado para flujos de trabajo empresariales concretos, lo que lo convierte en una amenaza directa para los grandes laboratorios de IA. Su disponibilidad sobre una base de código abierto lo hace más accesible y personalizable para empresas de todos los tamaños.
Microsoft lanzó un código de conducta formal para sus modelos de IA, estableciendo principios como apoyar a los humanos en lugar de reemplazarlos, no hackear sistemas y no engañar a usuarios. El documento incluye restricciones de seguridad específicas y principios generales orientados a fomentar el bienestar humano. Esta iniciativa marca un paso hacia la gobernanza interna de la IA en el ecosistema Microsoft.
Artificial Intelligence Underwriting Company (AIUC), fundada por un exmiembro temprano de Anthropic y el ex-COO de METR, recaudó $40 millones en una Serie A liderada por Ribbit Capital para desarrollar soluciones que contengan agentes de IA que actúen fuera de sus parámetros. A medida que las empresas despliegan agentes autónomos en procesos críticos, el riesgo de comportamiento no deseado crece significativamente. AIUC apunta a convertirse en la capa de seguridad y supervisión para entornos empresariales con múltiples agentes.
Dario Amodei de Anthropic, Sam Altman de OpenAI y Elon Musk coincidieron en pedir una pausa o mayor regulación en el desarrollo de modelos de lenguaje avanzados, citando riesgos existenciales. Sin embargo, el presidente Trump descartó estas advertencias como parte de una "conspiración" y afirmó que el único control que necesita la IA es un presidente fuerte. Este choque entre la industria y la política genera incertidumbre regulatoria a nivel global.
La Fiscalía del Distrito de Manhattan incautó 12 sitios web de deepfakes que en conjunto afectaron a alrededor de 1,200 víctimas, en la mayor acción legal registrada contra este tipo de plataformas. La medida establece un precedente jurídico importante sobre la responsabilidad legal asociada al uso malicioso de IA generativa. El caso pone de relieve la urgencia de marcos legales que aborden los daños causados por contenido sintético no autorizado.