Se puede engañar a ChatGPT Search, un motor de búsqueda impulsado por inteligencia artificial que se lanzó este mes, para que genere resúmenes completamente engañosos, periódico del Reino Unido. The Guardian lo ha descubierto.

La función de búsqueda de ChatGPT está destinada a agilizar la navegación al hacer cosas como resumir las reseñas de productos de una página web. Pero The Guardian descubrió que podía lograr que ChatGPT ignorara las críticas negativas y generara resúmenes «completamente positivos» insertando texto oculto en sitios web que creó. ChatGPT Search también podría generar códigos maliciosos utilizando este método.

Estos ataques de texto oculto son un riesgo bien conocido para los LLM, pero esta parece ser la primera vez que se demuestra en un producto de búsqueda en vivo impulsado por IA. Google, el líder en búsquedas, tiene más experiencia en lidiar con problemas similares, señaló The Guardian.

OpenAI no hizo comentarios sobre este incidente específico cuando TechCrunch se acercó, pero dijo que utiliza una variedad de métodos para bloquear sitios web maliciosos y que está mejorando continuamente.