Cuando se lanzó la última versión de ChatGPT en mayo, venía con algunas voces emotivas que hicieron que el chatbot sonara más humano que nunca.
Los oyentes llamaron a las voces «coqueta,» «convincentemente humano,» y «sexyLos usuarios de las redes sociales dijeron que estaban «Enamorarse» con él.
Pero el jueves, el creador de ChatGPT, OpenAI publicó un informe confirmando que las actualizaciones similares a las humanas de ChatGPT podrían conducir a una dependencia emocional.
«Los usuarios podrían formar relaciones sociales con la IA, reduciendo su necesidad de interacción humana, lo que potencialmente beneficiaría a los individuos solitarios pero posiblemente afectaría las relaciones saludables», se lee en el informe.
Relacionado: Solo 3 de los 11 cofundadores originales de OpenAI siguen en la empresa después de la marcha de otro líder
ChatGPT ahora puede responder preguntas de voz a voz con la capacidad de recordar detalles clave y usarlos para personalizar la conversación, señaló OpenAI. ¿El efecto? Hablar con ChatGPT ahora se siente muy parecido a hablar con un ser humano, si esa persona no te juzgara, nunca te interrumpiera y no te hiciera responsable de lo que dijeras.
Estos estándares de interacción con una IA podrían cambiar la forma en que los seres humanos interactúan entre sí e «influir en las normas sociales», según el informe.
Salude a GPT-4o, nuestro nuevo modelo insignia que puede razonar a través de audio, imagen y texto en tiempo real: https://t.co/MYHZB79UqN
La entrada de texto e imágenes se implementará hoy en API y ChatGPT, con voz y video en las próximas semanas. imagen.twitter.com/uuthKZyzYx
— OpenAI (@OpenAI) 13 de mayo de 2024
OpenAI afirmó que los primeros evaluadores hablaron con el nuevo ChatGPT de una manera que demostró que podían estar formando una conexión emocional con él. Los evaluadores dijeron cosas como «Este es nuestro último día juntos», lo que según OpenAI expresaba «vínculos compartidos».
Mientras tanto, los expertos se preguntan si es hora de reevaluar cuán realistas pueden ser estas voces.
«¿Es hora de hacer una pausa y considerar cómo esta tecnología afecta la interacción y las relaciones humanas?», pregunta Alon Yamin, cofundador y director ejecutivo de AI plagiarism checker Fugas de copiasdijo a Entrepreneur.
«[AI] «Nunca debería sustituir a la interacción humana real», añadió Yamin.
Para comprender mejor este riesgo, OpenAI afirmó que sería útil realizar más pruebas durante períodos más prolongados e investigaciones independientes.
Otro riesgo que OpenAI destacó en el informe fueron las alucinaciones o imprecisiones de la IA. Una voz similar a la humana podría inspirar más confianza en los oyentes, lo que llevaría a una menor verificación de los hechos y a una mayor desinformación.
Relacionado: Los nuevos resultados de búsqueda con inteligencia artificial de Google ya son alucinantes
OpenAI no es la primera empresa que comenta sobre el efecto de la IA en las interacciones sociales. La semana pasada, el director ejecutivo de Meta, Mark Zuckerberg, dijo que muchos usuarios de Meta han recurrido a la IA para obtener apoyo emocional. Según se informa, la empresa también está tratando de pagar millones a celebridades para que clonen sus voces para productos de IA.
El lanzamiento de GPT-4o de OpenAI provocó una conversación sobre la seguridad de la IA, luego de las renuncias de alto perfil de investigadores líderes como el ex científico jefe Ilya Sutskever.
Esto también llevó a Scarlett Johansson a criticar a la compañía por crear una voz de inteligencia artificial que, según ella, sonaba «inquietantemente similar» a la suya.
