La era de la inteligencia artificial (IA) está cambiando el panorama de la TI, pero con la actual crisis de diversidad en el sector tecnológico, queda por ver si el rápido desarrollo de estas tecnologías finalmente ayudará o dificultará nuestras vidas.
Hablando en los eventos anuales Computer Weekly y Harvey Nash Diversity in Tech, Bev White, directora ejecutiva de Nash Square, la empresa matriz de Harvey Nash, destacó la importancia de crear de manera proactiva oportunidades para que los grupos subrepresentados se unan al sector tecnológico si queremos hacer el industria mayor. Una variedad de lugares.
Lamentando la lentitud con la que está cambiando el dial de la diversidad tecnológica, White pidió a los activos en el sector que se aseguren de que la tecnología refleje a sus usuarios.
“Depende de nosotros, de todos nosotros (no sólo de la comunidad de recursos humanos, no sólo de los CIO, CDO y CEO) cambiar. Depende de todos nosotros”, afirmó.
“Cada vez que pensamos en contratar, promover o alentar a alguien a representar a la oficina, tenemos que pensar en cómo lo estamos haciendo y darle a alguien la oportunidad de destacarse y brillar. Tenemos que hacerlo todos los días, en todo lo que hacemos, o nada cambiará”.
Con el rápido desarrollo de tecnologías como la inteligencia artificial (IA), la IA generativa (GenAI) y el aprendizaje automático, este sentimiento nunca ha sido más importante.
Un informe de Nash Square encontró que el 75% de los trabajadores ya utilizan GenAI en su trabajo. A medida que estas estadísticas crezcan, será más importante garantizar que las personas que desarrollan estas tecnologías reflejen a las personas que las utilizan.
Depende de nosotros, de todos nosotros (no sólo de la comunidad de recursos humanos, sino también de los CIO, CDO y CEO) cambiar
Bev White, Nash al cuadrado
Como señala White, si los equipos que desarrollan estas herramientas no representan plenamente a sus usuarios, ¿cómo podemos asegurarnos de que cumplan su propósito?
Pero en lugar de impulsar la diversidad, las empresas están reduciendo sus iniciativas de diversidad, equidad e inclusión (DEI) mientras enfrentan recortes presupuestarios y temor a reacciones negativas por adoptar el enfoque equivocado.
Esto pinta un panorama sombrío para el futuro del desarrollo de la IA, donde los equipos desequilibrados y la falta de consideración hacia los usuarios ya han creado problemas.
Sólo porque puedas, no significa que debas
Si bien la adopción de la IA está creciendo rápidamente, el desarrollo de la tecnología de IA no es nada nuevo.
María Axente, jefa de políticas públicas y ética de IA en PwC, dijo que el desarrollo tecnológico a menudo se produce “porque podemos”, sin considerar “el impacto en los usuarios y las personas que necesitan participar en conversaciones sobre diseño”.
Su papel como ético de la tecnología le hace considerar exactamente estas cuestiones: para qué servirá la tecnología, para quién es y quién debería participar en su creación.
Explicó: “La ética de la IA es una disciplina que se ocupa de desarrollar una visión de una buena vida con IA, cualquiera que sea una buena vida con IA”.
Junto con la historia del desarrollo tecnológico con prejuicios, desde los cinturones de seguridad hasta los rastreadores de período, Axente destaca a las mujeres que luchan para que tecnologías como la IA sean éticas, útiles y justas.
Puede que sea necesario mucho tiempo, esfuerzo y evidencia para convencer a algunas tecnologías en desarrollo de que lo que están creando tendrá un impacto directo en la vida de las personas y, en algunos casos, este impacto será negativo, sin las mejores prácticas adecuadas. .
Axente afirma: “Poco a poco fuimos aprendiendo que la tecnología estaba claramente perjudicando a las personas”.
La IA y el aprendizaje automático se han desarrollado de maneras que han perjudicado a las mujeres y otros grupos subrepresentados. Becky Taylor, cofundadora de Tech Returners, da el ejemplo de una destacada empresa de tecnología que implementó un modelo de aprendizaje automático de IA para seleccionar a los solicitantes de empleo. Taylor explica cómo el equipo de software predominantemente masculino que desarrolló el software generó prejuicios contra las candidatas.
Aunque el problema fue identificado y corregido rápidamente, “muestra la importancia de un ser humano en ese proceso”, dijo Taylor.
“Aunque se llama IA, es creada por personas, construida por personas, empleada por personas, por lo que es importante quiénes son esas personas y si aportan una amplia gama de experiencia y perspectiva a su trabajo”.
Hay otros ejemplos en los que la IA se entrena con conjuntos de datos o se desarrolla por equipos no diversos, lo que hace que el sesgo sea más probable, p. El diagnóstico basado en imágenes es más preciso para los pacientes blancos Y Apple Card supuestamente ofrece límites de crédito más altos a hombres que a mujeres
La IA está hecha por personas, construida por personas, empleada por personas, por lo que importa quiénes son estas personas y si aportan una amplia gama de experiencias y perspectivas a su trabajo.
Becky Taylor, retornados tecnológicos
Accente, especialista en ética de la IA, dijo: “Estamos en deuda con las muchas grandes mujeres que han alzado su voz, a pesar de la reacción violenta que han recibido. Nos ayudan a comprender mejor cómo esta tecnología perpetúa estos daños existentes”.
Según Axente, quien dijo que ahora estamos en una mejor posición, algunas de las mujeres han sido “golpeadas”, “descartadas” e “ignoradas” en su búsqueda por garantizar el desarrollo de la IA, iniciando un cambio de mentalidad en torno al desarrollo y la sostenibilidad. adopción de tecnología, lejos de construirla por el simple hecho de construirla y construirla con un propósito.
Una forma obvia de garantizar que los algoritmos sean representativos de la población en general es atraer y retener más talento tecnológico de grupos subrepresentados, pero también garantizar que “dar forma al futuro de la humanidad con IA” refleje la población más amplia de usuarios que eventualmente se verán obligados a hacerlo. . Para integrar la IA en su vida diaria, la “IA personalizada” debería ser el foco del futuro.
Dice Axente: “Si queremos que la IA funcione para nosotros como individuos y como colectivo, la colaboración, no la competencia, es el camino a seguir”.
trabajando juntos
Según Jasmine Guthman, vicepresidenta de la Alianza MACH, si bien hay alrededor de un 5% más de mujeres que utilizan la tecnología de IA que hace 10 años, hay un 10% menos de mujeres trabajando en tecnología que en 1984.
Este desequilibrio entre el número de mujeres que utilizan la IA y el número de mujeres que la desarrollan está contribuyendo al sesgo de la IA y a que la tecnología no es adecuada para todos sus usuarios, hasta tal punto que el gobierno ha esbozado sus últimos planes. Plan de acción para oportunidades de IA Aumentar la diversidad del grupo de talentos de inteligencia artificial y ciencia de datos en el Reino Unido.
Pero Guthman dice que las mujeres actualmente están “tratando de resolverlo por sí mismas, y no va a ser suficiente”.
La diversidad de la fuerza laboral tecnológica ha estado estancada durante algún tiempo. 2024 Informe de Diversidad BCS, The Chartered Institute for IT, dice que si las tendencias actuales continúan, se necesitarán otros 283 años para que el porcentaje de mujeres que trabajan en el sector tecnológico del Reino Unido iguale el 48% de la fuerza laboral femenina en la fuerza laboral en general.
Pero como señaló Guthman: “Si intento cambiarlo por mi cuenta, no llegaré a ninguna parte”.
Cambiar el dial a un ritmo más razonable requerirá un esfuerzo concertado, lo que según Guthman es una de las razones por las que no quería que la rama de MACH, Women in MACH, fuera solo para mujeres o para ellas. “Los hombres necesitan estar en la habitación”, dijo. “Necesitamos a todos sus excelentes colaboradores en nuestra sala para ayudarnos a tener una excelente conversación y tener esa conversación en nuestro nombre cuando no estemos en la sala”.
Y hay muchos casos en los que las mujeres y otros grupos subrepresentados no están en la sala: solo el 13% de los gerentes de TI en el Reino Unido son de origen negro, asiático y de minorías étnicas (BAME), y las mujeres ocupan solo una cuarta parte de los puestos de CIO en FTSE. 100 empresas en 2023.
Todos debemos involucrarnos en todo lo que podamos, especialmente porque “otras minorías y mujeres subrepresentadas a menudo dudan a la hora de presentarse” para los roles y oportunidades en la tecnología, dice Guthman.
Hizo algunas recomendaciones para que personas y aliados subrepresentados impulsen pequeños cambios que, combinados, sumarían un gran cambio. Estas incluyen ofrecer oportunidades a la gente, convocar eventos cuando hay paneles solo para hombres, asegurarse de que se escuchen las opiniones de las personas queer e invitar a sus homólogos masculinos a eventos tecnológicos.
“Su propósito a partir de hoy es ser esa voz que diga que hay una mejor manera de hacerlo”, dijo. “A la gente sólo le irá bien si todos les hacemos responsables. ¿Cómo redefinimos el futuro de la tecnología? La innovación no ocurre en silencio, ocurre cuando rompemos fronteras juntos; así que haz una pequeña cosa hoy para hacer del mundo un lugar mejor mañana”.
Cuando ocurre el desastre
La colaboración puede ser una herramienta poderosa cuando se utiliza de la manera correcta.
Cuando el gobierno anunció planes a principios del año pasado para aumentar los límites de ingresos para posibles inversores ángeles, Emma Wright, socia del bufete de abogados Herbottle & Lewis, organizó un gran grupo de mujeres en el sector tecnológico para revocar la ley.
HM Treasury planea cambiar los criterios para definir un “individuo de alto patrimonio neto”, lo que significa que una persona necesita un ingreso de al menos £170.000 en el año financiero anterior o activos netos de al menos £430.000 para invertir.
Dado que la nueva ley permite que el 70% de las mujeres reciban inversiones ángeles, el cambio amenaza el número de empresas dirigidas por mujeres en el Reino Unido.
“Las fundadoras ganan más que sus homólogos masculinos”, explica Wright.
“Sólo el 1,7% de la financiación del capital riesgo se destina a financiadoras femeninas, y las mujeres respaldan a más del doble de mujeres que de hombres”.
La experiencia de Wright se adapta bien a tal desafío. Habiendo liderado el gobierno y el sector público como socio de Deloitte Legal, entiende cómo funciona el gobierno, así como su papel como abogado de tecnología e información, fue uno de los fundadores del Foro Interparlamentario para Tecnologías Emergentes (anteriormente el Instituto de IA).
Wright lanzó la campaña InvestHER y publicó una carta abierta en la que pedía al gobierno que decidiera sobre el próximo presupuesto. Muchas de las mujeres que firmaron la carta abierta pertenecían a la lista de Computer Weekly de las mujeres más influyentes en la tecnología del Reino Unido.
Como señala Wright, cualquier tecnología que no se desarrolle teniendo en cuenta a todos “actúa como una barrera y no como un facilitador”. Se trata de un precedente peligroso cuando se trata de tecnologías como la IA, que parece ser una parte muy importante del futuro de todos.
Si bien esta disparidad en particular se vio alterada, los esfuerzos de inversión sólo condujeron a revocar la problemática ley, sin aumentar el número potencial de mujeres inversionistas y patrocinadoras de nuevas empresas dirigidas por mujeres.
Wright dijo: “A menos que podamos lograr que todos desarrollen soluciones tecnológicas, no podremos competir en el escenario global y no tendremos una IA inclusiva”.
Un claro ejemplo de cómo la adopción de tecnología puede tener un impacto negativo si no se tiene en cuenta al usuario final es la estafa de Correos.
El ex subdirector de correos Joe Hamilton dijo en un evento de variedades de Computer Weekly que no tuvo problemas para administrar su sucursal de correos hasta que se introdujo el sistema Horizon.
Como no sabía nada de computadoras, pensó que estaba cometiendo un error cuando el sistema mostró errores en su contabilidad al final del día, lo que provocó que la Oficina de Correos afirmara que les debía más dinero debido a un supuesto desequilibrio. Libros, a pesar de los fallos del ordenador.
Lo mismo les sucedió a cientos de otros subdirectores de correos en todo el Reino Unido. El sistema llegó sin formación ni apoyo.
“Piensa primero en nosotros, piensa en las personas que no saben nada sobre tecnología y cómo usarla. Éramos simplemente pequeños comerciantes”, dijo Hamilton.
Instó a las personas que desarrollan la tecnología a considerar “aquellos que van a utilizar (la tecnología) que no son técnicamente competentes”.
Incidentes como este y los mencionados anteriormente serán más probables si no se tiene cuidado de garantizar que la IA y otras tecnologías se desarrollen para un uso ético por parte de varias partes.
Pero esto sólo puede garantizarse trabajando juntos: desde el mundo académico hasta el gobierno, desde las organizaciones hasta los individuos.
A menos que todos participen en la configuración de nuestro futuro en asociación con la IA, no todos verán los beneficios.
