Nadie puede argumentar que la inteligencia artificial desempeña, o seguirá desempeñando, un papel importante en casi todos los aspectos de los negocios. Históricamente, la industria de la transcripción ha dependido de los humanos para convertir contenido hablado o de audio en forma escrita. Sin embargo, con el rápido avance del software de IA, debemos considerar si las transcripciones generadas por IA son seguras.

En un enfoque un tanto poco convencional, resumiré mis hallazgos al principio de este artículo en lugar de al final. En mi opinión profesional, si bien los actuales software de transcripción y toma de notas de IA pueden ser productivos, no son completamente seguros. La transcripción legal y policial es un excelente ejemplo de esto. Además, las transcripciones empresariales y educativas generadas por IA presentan su propio conjunto de desafíos. ¿Por qué es este el caso? Aquí hay varias cuestiones clave:

• Las leyes actuales no son claras con respecto al contenido generado por IA

• Las cuestiones de privilegios y confidencialidad siguen confusas

• Los problemas de precisión siguen afectando a la copia generada por IA

• La IA no reemplaza la experiencia y el conocimiento humanos

Relacionado: ¿La IA está revelando accidentalmente los secretos de su empresa? Las conversaciones privadas de una empresa de capital de riesgo se incluyeron en las transcripciones de las reuniones.

¿Qué es el contenido generado por IA?

Una transcripción típica implica que un transcriptor humano escuche una grabación de audio y cree manualmente un documento escrito. Las transcripciones se pueden clasificar como «textualizadas» o «no textuales». Las transcripciones palabra por palabra capturan cada palabra y sonido exactamente como se pronuncian.

El contenido generado por IA es producido por programas de software que transcriben contenido basándose en datos recopilados de Internet. Los archivos de audio legales o médicos son excelentes ejemplos, ya que a menudo incluyen palabras y frases complejas que requieren conocimientos y experiencia especializados para transcribirlos con precisión.

Además, la transcripción se vuelve más desafiante cuando se graban varios hablantes con acentos diversos. La transcripción generada por IA a menudo tiene dificultades para diferenciar entre estos acentos y las diferentes pronunciaciones de la misma palabra.

Cuestiones legales y desafíos para el contenido producido por IA

Imagine el siguiente escenario: durante una reunión crítica, las conversaciones a menudo avanzan demasiado rápido para que un asociado humano capture cada palabra o incluso los puntos clave del resumen. Para abordar este problema, su empresa decide implementar un programa de toma de notas de IA. Un robot de IA se une silenciosamente a su reunión de Zoom y genera instantáneamente una transcripción de la discusión, compartiéndola automáticamente con los asistentes y varias aplicaciones.

Inicialmente, este proceso parece productivo e incluso mágico. Sin embargo, el entusiasmo disminuye rápidamente a medida que comienza a filtrarse información estratégica confidencial entre los empleados y, peor aún, entre sus competidores. No solo tendrá una transcripción de la reunión, sino que también podrá crear evidencia legal reconocible.

Si bien este ejemplo puede parecer descabellado, predigo que veremos una afluencia de demandas relacionadas con la IA y desafíos judiciales en el sistema judicial en los próximos meses. Una encuesta reciente realizada por Thomson Reuters reveló que el 80% de los encuestados creía que la IA tendrá un impacto “alto o transformador” en sus prácticas dentro de los próximos cinco años. El aumento de las acciones legales relacionadas con la IA se puede atribuir a varias cuestiones clave:

• Infracción de derechos de autor

• Infracción de marcas y secretos comerciales

• Engañar a los inversores sobre el rendimiento y/o las expectativas de la IA

• Demandas basadas en eventos, es decir, seguridad de datos, acciones regulatorias

• Responsabilidad y rendición de cuentas, es decir, información falsa generada por software de IA

En la mayoría de los casos, las notas tomadas por un asociado humano pueden estar protegidas por el privilegio abogado-cliente. Sin embargo, los expertos legales advierten que el contenido generado por software de inteligencia artificial podría considerarse un documento neutral, lo que lo haría potencialmente detectable por las partes contrarias en procedimientos legales.

Además, las leyes estatales varían significativamente con respecto a la legalidad de grabar a alguien sin su consentimiento, lo que podría crear desafíos legales si los participantes en una llamada de Zoom se encuentran en diferentes estados. Estas cuestiones resaltan algunas de las complejidades legales asociadas con el uso de herramientas de toma de notas de IA.

Tenga en cuenta que no soy abogado y esto no debe tomarse como asesoramiento legal. Es esencial consultar a su asesor legal o abogado para obtener orientación sobre cómo estos asuntos pueden afectar su situación específica.

Relacionado: Tres errores costosos que cometen las empresas al utilizar Gen AI

Problemas con las transcripciones generadas por IA

Las transcripciones generadas por IA comparten muchas de las preocupaciones que mencionamos anteriormente. Sin embargo, existen preocupaciones específicas de nuestra industria. El primero implica precisión. Nuestra empresa garantiza una tasa de precisión de transcripción del 99%. Las transcripciones generadas por IA suelen producir tasas de precisión en el rango bajo del 60%, lo cual es inaceptable para cualquier transcripción.

Sin embargo, hay más Problemas importantes con las transcripciones generadas por IA.. La privacidad es un gran problema. En 2024, una empresa de capital riesgo realizó una llamada de Zoom con un cliente potencial, que fue grabada por Otter.ai. Posteriormente, los participantes recibieron una transcripción de la reunión, que también incluyó varias horas de conversación privada grabada una vez concluida la reunión oficial.

A demanda colectiva federal contra Otter.ai se presentó en agosto de este año. La demanda acusa a la empresa de grabar «engañosa y subrepticiamente» conversaciones privadas utilizadas para entrenar su servicio de transcripción sin obtener el permiso de los participantes.

Nuestros clientes legales y encargados de hacer cumplir la ley enfrentan desafíos importantes cuando se trata de la transcripción generada por IA. Durante años, hemos promocionado el cumplimiento de nuestro Servicio de Información de Justicia Penal (CJIS), lo que significa que nuestros transcriptores deben someterse a una verificación de antecedentes y capacitación antes de transcribir archivos que contienen los antecedentes penales de un individuo. ¿Te imaginas si un programa de inteligencia artificial revelara tal información? La oficina del fiscal del condado de King, WA emitió una directiva afirmando que no aceptarán informes policiales generados por IA, citando al CJIS y preocupaciones de precisión.

Las transcripciones de juicios y declaraciones son otro ejemplo en el que los archivos generados por IA representan una grave amenaza a la seguridad. Los funcionarios judiciales, incluidos los taquígrafos judiciales, deben certificar que las transcripciones judiciales y legales que producen son correctas. Los tribunales de apelación se basan en las transcripciones de los juicios cuando revisan los casos. Incluso el más mínimo error podría modificar o anular una condena penal o un veredicto civil.

Empresas que cotizan en bolsa e instituciones financieras

Las instituciones financieras, principalmente bancos y empresas que cotizan en bolsa, enfrentan desafíos de seguridad únicos cuando utilizan IA. La Comisión Federal de Comercio (FTC) exige que las instituciones financieras mantengan programas sólidos de seguridad de la información y garantiza que los proveedores protejan adecuadamente la información de los consumidores. Las transcripciones generadas por IA pueden revelar inadvertidamente datos confidenciales de clientes procedentes de transacciones o cuentas bancarias.

Las empresas que cotizan en bolsa comparten preocupaciones similares con respecto al contenido generado por IA. La Comisión de Bolsa y Valores (SEC) regula estas empresas exigiéndoles que proporcionen información precisa y transparente a sus accionistas. La información inexacta o engañosa, incluidos los datos gubernamentales sobre empresas que cotizan en bolsa o sus competidores, puede afectar significativamente los precios de las acciones, causando potencialmente perturbaciones en el mercado.

Además, este tipo de violaciones de datos pueden invocar las normas de divulgación de ciberseguridad de la SEC, que exigen que las empresas informen de los incidentes en un plazo de cuatro días hábiles. Sin embargo, es posible que ya se hayan producido daños importantes e irreversibles si se filtra información confidencial debido a datos erróneos de una plataforma generada por IA.

Dónde funciona mejor la transcripción generada por IA

La transcripción generada por IA puede resultar útil en determinados contextos. Si la precisión y la seguridad no son las principales preocupaciones, estas herramientas pueden satisfacer eficazmente necesidades específicas. Por ejemplo, pueden ser adecuados para sesiones de lluvia de ideas, celebraciones de premios de empresas y reuniones informales. Sin embargo, siempre es recomendable que alguien revise y edite la transcripción antes de compartirla con otras personas.

Un número cada vez mayor de podcasts utilizan ahora transcripciones generadas por IA. A principios de esta semana, mientras caminaba, escuché un podcast en mi teléfono y noté una transcripción escrita en mi pantalla. Las transcripciones de podcasts ofrecen una clara ventaja para las personas con discapacidad auditiva. Sin embargo, observé múltiples errores en la transcripción, probablemente debido a variaciones en los acentos y la pronunciación de las palabras.

Relacionado: La IA tiene límites: aquí se explica cómo encontrar el equilibrio entre tecnología y humanidad

Unas mil palabras después, mis puntos de vista sobre la seguridad de la transcripción generada por IA permanecen sin cambios. Las posibles desventajas y problemas legales asociados con las transcripciones generadas por IA hacen poco probable que reemplacen por completo la transcripción humana.

Sin embargo, las empresas aún pueden beneficiarse de las plataformas de IA implementando pautas claras, políticas internas, gestión eficaz de proveedores y controles estándar de la industria para minimizar el riesgo.

En situaciones en las que la privacidad y la seguridad son fundamentales, la transcripción humana sigue siendo el método más seguro para convertir grabaciones y archivos de audio a formato escrito.

Nadie puede argumentar que la inteligencia artificial desempeña, o seguirá desempeñando, un papel importante en casi todos los aspectos de los negocios. Históricamente, la industria de la transcripción ha dependido de los humanos para convertir contenido hablado o de audio en forma escrita. Sin embargo, con el rápido avance del software de IA, debemos considerar si las transcripciones generadas por IA son seguras.

En un enfoque un tanto poco convencional, resumiré mis hallazgos al principio de este artículo en lugar de al final. En mi opinión profesional, si bien los actuales software de transcripción y toma de notas de IA pueden ser productivos, no son completamente seguros. La transcripción legal y policial es un excelente ejemplo de esto. Además, las transcripciones empresariales y educativas generadas por IA presentan su propio conjunto de desafíos. ¿Por qué es este el caso? Aquí hay varias cuestiones clave: