Las 5 noticias de inteligencia artificial más relevantes del día para líderes de empresa.
La administración Trump bloqueó el acceso de gobiernos, empresas e individuos extranjeros a los modelos más avanzados de Anthropic, obligando a la compañía a suspender el acceso de todos sus clientes al modelo Fable 5 tras detectar una supuesta vulnerabilidad de 'jailbreak'. Anthropic expresó públicamente su desacuerdo con la decisión, señalando que un jailbreak menor no debería justificar retirar un modelo comercial usado por cientos de millones de personas. El episodio revela cómo los gobiernos están comenzando a tratar los modelos de IA de vanguardia como activos de seguridad nacional.
Un tribunal estableció que Google es legalmente responsable por los daños causados por respuestas falsas generadas por su función de IA en los resultados de búsqueda, conocida como AI Overviews. El fallo establece que cualquier empresa que diseñe, entrene, opere y administre un sistema de IA debe asumir responsabilidad legal por los daños que sus respuestas generen. Esta decisión podría sentar un precedente global sobre la responsabilidad corporativa en el uso de inteligencia artificial.
La firma consultora global KPMG se vio obligada a retirar un informe publicado sobre el uso de IA tras descubrirse que contenía información aparentemente generada por alucinaciones de un sistema de inteligencia artificial. El incidente pone de manifiesto que incluso las organizaciones más sofisticadas pueden distribuir contenido erróneo si no cuentan con procesos rigurosos de verificación humana. Este caso se suma a una creciente lista de ejemplos de alto perfil donde la IA ha producido información incorrecta con consecuencias reales.
La startup francesa de IA Mistral estaría en conversaciones para recaudar €3,000 millones en una nueva ronda de financiamiento que valoraría a la empresa en €20,000 millones, casi el doble de su valuación anterior de €11,700 millones en la Serie C. Mistral se ha posicionado como una alternativa europea a los grandes modelos de OpenAI y Anthropic, ofreciendo modelos abiertos y propietarios con fuerte enfoque en privacidad y soberanía de datos. Este nivel de inversión refuerza la consolidación del mercado global de modelos de lenguaje grande y amplía las opciones disponibles para empresas fuera del ecosistema estadounidense.
Varios fiscales generales estatales de Estados Unidos han iniciado una investigación sobre OpenAI que abarca desde sus políticas publicitarias hasta el manejo de datos de salud de sus usuarios. Aunque aún no se ha confirmado qué estados participan en la investigación, el escrutinio regulatorio sobre la empresa más influyente del mundo en IA generativa podría afectar sus operaciones y acelerar la definición de estándares globales de privacidad y uso ético de datos. Este caso se suma a la creciente presión regulatoria sobre las grandes compañías de IA a nivel mundial.