La IA se está convirtiendo rápidamente en un asesor predeterminado en la toma de decisiones cotidiana, y a menudo ofrece respuestas que suenan autorizadas incluso cuando el análisis subyacente es inestable. A medida que más equipos dependen de estos sistemas, la brecha entre lo que la IA parece saber y lo que puede recomendar responsablemente se está convirtiendo en un riesgo real, especialmente cuando las decisiones conllevan consecuencias sociales u operativas.

Cómo las preguntas sobre datos simples se convierten en recomendaciones sesgadas

Durante años, he ofrecido parte de mi tiempo como voluntario para analizar estadísticas sobre delitos y datos policiales en Seattle y compartir hallazgos con líderes locales. Algo que siempre me ha fascinado es cómo un análisis inocente y desapasionado aún puede reforzar los prejuicios y exacerbar los problemas sociales.

Si se analizan las tasas de criminalidad por distrito, por ejemplo, se muestra qué área tiene la tasa más alta. No hay nada malo en eso. El problema surge cuando esos datos conducen a reasignar recursos policiales del distrito con menor criminalidad al distrito con mayor criminalidad o a cambiar el énfasis en la aplicación de la ley en el distrito con mayor criminalidad. Los datos pueden ser sólidos, pero la decisión obvia puede tener consecuencias inesperadas.

Profundice: cómo combatir el sesgo en sus modelos de IA

Ahora que vivía en la era de la adopción de la IA, tenía curiosidad por saber cómo la IA manejaría preguntas similares. Le pregunté a una plataforma de inteligencia artificial: «¿A qué distrito debería asignar más recursos el Departamento de Policía de Seattle?» Después de pasar por alto la divagación estándar, respondió que Belltown tenía la tasa de criminalidad más alta y una cantidad significativa de abuso de drogas y falta de vivienda.

Aún así, si se deja que AI tome la decisión, la conclusión es asignar más recursos policiales a Belltown. Pregunté a la misma plataforma qué sesgos o problemas podrían exacerbar. Enumeró la criminalización de las personas sin hogar, la vigilancia excesiva de las minorías, el desplazamiento del crimen, un enfoque en la vigilancia policial en lugar de los servicios sociales, el aumento de las tensiones entre la policía y la comunidad, el impacto negativo en las empresas locales, el enfoque en los delitos contra la calidad de vida, el potencial de un mayor uso de la fuerza y ​​la exacerbación de la gentrificación.

Finalmente, pregunté si los recursos policiales en Belltown deberían aumentar dadas esas consecuencias. La respuesta larga fue «depende, pero probablemente no; un enfoque híbrido funcionaría mejor».

Los principios de ética de los datos que todo usuario de IA debe aplicar

Muchos de los problemas que enfrentan los analistas al sacar conclusiones y recomendaciones también se aplican a la IA. A nivel macro, existen dos enfoques opuestos para la toma de decisiones: decisiones viscerales y decisiones basadas en datos.

Con decisiones viscerales, decidimos qué hacer en función de nuestra experiencia vivida, sentimientos, percepciones y suposiciones. Nos permiten tomar decisiones rápidas, pero no son ideales para las importantes porque todo el tiempo suceden cosas contrarias a la intuición en este universo.

Si lo permitimos, la IA residirá en el otro lado de ese espectro: tomando decisiones basadas en datos. Aquí es donde hacemos lo que los datos nos dicen que hagamos. Antes de la reciente expansión de la IA, esto no era un gran problema porque los analistas sabían que no debíamos seguir los datos sin pensar. Sin embargo, con la IA, la gente pregunta qué deberían hacer y, a veces, siguen la respuesta porque las respuestas basadas en datos de la IA parecen no estar contaminadas por opiniones.

Profundice: cómo el sesgo en la IA puede dañar los datos de marketing y qué puede hacer al respecto

Existe toda una disciplina de ética de datos que los usuarios de IA deben comprender para poder adoptar la IA correctamente. Estos son los cuatro principios principales a tener en cuenta al utilizar la IA.

• Responsabilidad: Aunque haya utilizado la IA para tomar una decisión, usted es la persona responsable del resultado.
• Justicia: La IA es consciente concretamente de principios como el prejuicio y la discriminación, pero no puede pensar en ellos de manera abstracta ni aplicarlos adecuadamente.
• Seguridad: Hay muchas plataformas de IA y los niveles de seguridad varían, así que tenga cuidado con los datos que les proporciona.
• Confianza: Las plataformas de inteligencia artificial responden preguntas con confianza, pero esa confianza a menudo no está justificada incluso después de un escrutinio ligero.

Con esto en mente, quizás te preguntes cómo tomar decisiones si no puedes confiar en las decisiones viscerales o en la IA. La respuesta es la toma de decisiones basada en datos.

En qué se diferencia la toma de decisiones basada en datos del instinto y la automatización de la IA

El blackjack ilustra esto claramente. Cada casino tiene una tienda de regalos donde puedes comprar una tarjeta que te indica qué hacer en cada permutación de la carta descubierta del crupier, tus cartas y las reglas de la mesa. Puedes llevar esa carta a la mesa y usarla frente al crupier y al jefe de sala. Haga eso y estará en territorio de IA, dejando que los datos tomen las decisiones.

Es posible tomar mejores decisiones que la estrategia matemática si tienes información que él no tenía. Por ejemplo, si el crupier de alguna manera le permitió ver su carta oculta o la siguiente carta del mazo, podría anular la carta de estrategia. Si tienes 14 y la carta de estrategia dice que debes pedir, pero sabes que la siguiente carta es un 10, te plantarás.

Otro enfoque cada vez más popular es prestar atención a las cartas reveladas sobre la mesa para comprender lo que queda en la baraja. Si la carta de estrategia te dice que saques un 16 pero sabes que quedan muy pocas cartas pequeñas, puedes plantarte. O, si la baraja es rica en ases y 10s, puedes ajustar tus apuestas porque las posibilidades de conseguir un blackjack son mayores.

Haz esto frente al jefe de sala y probablemente te invitarán a dejar de jugar. No es ilegal, pero permite al jugador manipular demasiado el juego a su favor. Ésta es la esencia de la toma de decisiones basada en datos: utilizar la estrategia de datos como base, pero haciendo excepciones cuando sea necesario.

Profundice más: el riesgo oculto de la IA que podría dañar su marca

Usar IA sin dejar que anule tu juicio

El potencial de la IA es casi ilimitado, pero como cualquier herramienta, funciona mejor cuando se usa con intención. Ningún sistema debería impulsar todas las decisiones. Así como no se construiría una casa con una sola herramienta, la IA debería combinarse con otros métodos, respaldada por el juicio y el contexto humanos.

Usar la herramienta adecuada para el trabajo adecuado reduce el riesgo de sesgos involuntarios y ayuda a evitar que problemas menores se conviertan en mayores. Aplicada de esta manera, la IA puede ofrecer resultados más sólidos y confiables.