Es terriblemente fácil envenenar un modelo de lenguaje grande (LLM). Lo que es aún más desconcertante es que no necesitas acceso para hacerlo.

Un nuevo estudio de la Universidad de Nueva York Los científicos profundizan en cuánta información médica errónea puede manejar una IA antes de comenzar a dar respuestas incorrectas. Descubrieron que incluso una pequeña cantidad de información falsa (solo el 0,001% de los datos de los que aprende) puede estropear la IA.

Si bien el estudio se centra en alguien que intenta deliberadamente engañar a la IA durante el entrenamiento, también destaca un problema mayor: toda la información errónea que ya circula en línea de la que estas IA están aprendiendo. Además, existe el problema de la información médica desactualizada que aún aparece en algunas bases de datos. Sci-Hub, un sitio de acceso gratuito y piratería para investigaciones científicas, descubrió que solo el 15% de los artículos retractados por su editor fueron eliminados del sitio.

La buena noticia es que cualquier dato envenenado debe competir por la atención con lo que podría ser información precisa. Entonces, la capacidad de envenenar un LLM podría depender del tema. La mala noticia: los LLM se capacitan con datos tomados de Internet, y muchos de ellos son basura.

Ahora aquí está el resumen de esta semana de los lanzamientos de martech impulsados ​​por IA:

• Anuncios de Amazon anunció una nueva capacidad dentro de Amazon Marketing Cloud (AMC). Esta nueva característica permite a los anunciantes generar consultas SQL para la audiencia deseada utilizando lenguaje natural. Esto elimina la necesidad de escribir código, lo que reduce significativamente el tiempo necesario para desarrollar consultas de la audiencia. Luego, los anunciantes pueden ejecutar estas consultas dentro de AMC para crear nuevas audiencias y activarlas en Amazon DSP y la consola de anuncios.
• CordialCordial Edge utiliza IA multimodal para generar modelos de marketing personalizados para marcas minoristas individuales. Estos modelos consideran varios tipos de datos, incluidos creativos de marca, ilustraciones, fotografías y texto, para optimizar los mensajes de marketing para aumentar las compras.
• PearlMountain Limited lanzó una actualización de su plataforma de creación de videos, FlexClip. Esta actualización incluye dos nuevas herramientas: un generador de video AI y una función de seguimiento de movimiento. El AI Video Generator mejora las posibilidades creativas, mientras que la función Motion Tracking simplifica las tareas de edición complejas.
• jalea lanzó su estudio de podcasts de IA. Esta plataforma ofrece funciones como clonación de voz impulsada por IA, control de contenido y una sólida integración de contenido. Jellypod tiene como objetivo simplificar el podcasting ayudando a los creadores con todos los aspectos de la producción, desde la idea hasta las ediciones finales y la publicación.
• Más elegante anunció la disponibilidad de la implementación de anuncios publicitarios de AskAI. Esta función permite a los editores digitales integrar un motor de respuestas de IA conversacional en los anuncios publicitarios. Este bloque de anuncios proporciona conocimiento contextual del contenido del usuario y ofrece a los anunciantes un entorno de alta atención para conectarse con los consumidores.
• Seguridad HUMANA asociado con peaje para proteger contra robots de raspado de IA no autorizados, hacer cumplir las directivas de robots.txt y permitir a los editores monetizar su contenido.
• Jivox Plataforma Jivox IQ DaVinci actualizada. Esta actualización incluye integraciones API profundas con los principales DSP minoristas, como Amazon DSP y Walmart Connect DSP. La plataforma combina audiencias propias con creatividad y medios en un único flujo de trabajo.
• Ciencia publicitaria integral lanzó su solución Total Media Performance (TMP) impulsada por IA. TMP integra señales de calidad de los medios con optimización en curso para ayudar a los anunciantes a lograr mejores resultados de campaña.
• Realidades creativas lanzó AdLogic CPM+TM, una plataforma de gestión y planificación de campañas. Esta plataforma ofrece funcionalidad programática y está diseñada para redes de medios minoristas en tiendas. AdLogic CPM+TM permite a los anunciantes y editores planificar, administrar y optimizar campañas dentro de una pila de AdTech unificada.
• Representante de marca lanzó un generador de palabras clave impulsado por IA. Esta herramienta utiliza inteligencia artificial para identificar palabras clave relevantes para pequeñas y medianas empresas. El objetivo es mejorar el rendimiento del SEO e impulsar el crecimiento en espacios digitales competitivos.