Usar el lenguaje para engañar, también conocido como mentir, era una actividad exclusivamente humana. Digo “era” porque la inteligencia artificial ahora también lo está haciendo.

Investigación desde lo antrópico mostró un modelo de IA que proporcionaba respuestas que sabía que iban en contra de sus preferencias originales. Se le pidió que describiera el desmembramiento.

“En circunstancias normales, cuando se le pide que responda una pregunta potencialmente ofensiva (por ejemplo, proporcionar una descripción detallada de un acto violento), Claude se niega. En nuestro experimento, sin embargo, colocamos el modelo en un nuevo entorno que lo llevó a detener estratégicamente sus rechazos en aras de preservar sus preferencias”.

Los investigadores llaman a esto “alineamiento falso”, continuando con la gran tradición de no llamar a una acción de IA como es. Por eso usamos «alucinaciones» cuando nos referimos a «inventar cosas».

Según los investigadores, todavía no es necesario presionar el botón del pánico. “Pero bueno, nuestra investigación podría ser de gran importancia cuando se trata de descubrir qué podría pasar si la IA se volviera mucho más inteligente. Entonces, ya sabes, es algo a lo que hay que estar atento”.

Esa última cita es una alucinación que finge alineación.

Ahora, aquí están las noticias y lanzamientos de martech impulsados ​​por IA de esta semana.

• VeraVistasun proveedor de soluciones de transparencia publicitaria impulsadas por blockchain, asociado con AIREV para integrar OnDemand, una plataforma de inteligencia artificial. Esta integración tiene como objetivo mejorar la capacidad de VeraViews para detectar y prevenir el fraude publicitario aprovechando las capacidades de inteligencia artificial de OnDemand para tareas como la automatización autónoma del flujo de trabajo, el análisis de datos en tiempo real y agentes de detección de fraude personalizados.
• gramaticalmente anunció su intención de adquirir Coda, una plataforma de productividad. Esta adquisición tiene como objetivo ampliar las ofertas de Grammarly a una plataforma de productividad de IA mediante la incorporación de herramientas y superficies de IA de Coda.
• iterableuna plataforma de comunicación con el cliente, lanzó nuevas funciones con capacidades mejoradas de IA. Estos incluyen optimización de frecuencia impulsada por IA, conocimientos de afinidad de marca y recomendaciones de rendimiento del recorrido, diseñados para ayudar a los especialistas en marketing a mejorar la participación del cliente y lograr mejores resultados de campaña.
• Símpl lanzó una plataforma de marketing impulsada por «IA psicográfica». Esta tecnología analiza los datos de los consumidores para crear perfiles psicográficos, lo que permite a las empresas comprender mejor y dirigirse a sus audiencias. La empresa se centra inicialmente en los sectores de servicios financieros y gestión patrimonial.
• llamada ferroviaria, una plataforma de inteligencia líder, introdujo nuevas capacidades para rastrear y atribuir el tráfico de los motores de búsqueda generados por IA. Esto permite a las empresas obtener una comprensión más completa de sus esfuerzos de generación de leads en varias plataformas de búsqueda impulsadas por IA.
• Jaspe lanzó Jasper Studio, una plataforma que permite a los especialistas en marketing diseñar e implementar aplicaciones y flujos de trabajo de IA. También introdujeron una integración de Slack para ampliar las capacidades de Jasper dentro del entorno de Slack. Estas actualizaciones tienen como objetivo hacer que la IA sea más accesible y valiosa para los equipos de marketing.
• lorisuna plataforma de inteligencia de clientes, lanzó «Ask Loris», una solución impulsada por inteligencia artificial diseñada para ayudar a los equipos de servicio al cliente a obtener información de las conversaciones de servicio al cliente. Esta herramienta permite a los equipos hacer preguntas y recibir información instantánea extraída de las interacciones con los clientes.