Los Lores debaten el enfoque del gobierno para la toma de decisiones automatizada
5 min read
El gobierno del Reino Unido ha expresado “reservas” sobre las propuestas legislativas de Lord Tim Clement-Jones para mejorar el escrutinio de las herramientas algorítmicas de toma de decisiones en el sector público, argumentando que las preocupaciones planteadas por su proyecto de ley ya están cubiertas por sus propias reformas de datos propuestas y existentes. Transparencia algorítmica. Estándar de grabación (ATRS).
Presentado como un proyecto de ley de miembros privados en septiembre de 2024, Clement-Jones dijo en ese momento que las propuestas eran necesarias porque las salvaguardias existentes para las herramientas algorítmicas y de toma de decisiones automatizadas (ADM) no eran suficientes para garantizar un remedio una vez que “no hubiera computadora”. .
el tiempo Debate en segunda lectura En su proyecto de ley de diciembre de 2024, Maggie Jones, subsecretaria de Estado del Departamento de Ciencia, Innovación y Tecnología (DSIT), dijo que la combinación del gobierno Reformas para hacer que el ATRS sea obligatorio para los departamentos del gobierno centralAdemás de su propuesta de Ley de Acceso y Uso de Datos (DUAB), no sólo va lo suficientemente lejos como para abordar las preocupaciones de Clement-Jones, sino que también se alinea mejor con las “prioridades de innovación, tecnología para el bien y gobierno digital moderno” del propio gobierno. . .
“Estas reformas logran el equilibrio adecuado entre garantizar que las organizaciones puedan hacer el mejor uso de la tecnología de toma de decisiones automatizada para el crecimiento económico, la productividad y la prestación de servicios, manteniendo al mismo tiempo altos estándares de protección de datos y la confianza del público”, dijo.
Sin embargo, Clement-Jones expresó sus propias reservas sobre la reforma de datos del gobierno, citando incidentes pasados relacionados con el uso de herramientas ADM para describir los “peligros de los sistemas algorítmicos no regulados”, incluida la falta de transparencia y la pérdida de confianza pública en la inteligencia artificial (IA). y la infiltración de prejuicios y racismo en sistemas de toma de decisiones no regulados.
Recordó a los Lores el fiasco de las calificaciones de nivel A y GCSE de 2020, donde los estudiantes fueron excluidos injustamente de las plazas universitarias; el uso del sistema ADM por parte de los ayuntamientos, donde a 540.000 ciudadanos se les asignó una puntuación de riesgo de “fraude” antes de que se les negaran prestaciones de vivienda basadas en información fraudulenta; y el escándalo de Post Office Horizon. “Es una confianza peligrosa si el gobierno realmente piensa que el ATRS, combinado con las disposiciones diluidas de ADM del GDPR (Reglamento General de Protección de Datos), va a ser suficiente”, dijo Clement-Jones. “El proyecto de ley es fundamental para garantizar que se obtengan los beneficios de estas tecnologías y al mismo tiempo se protejan los valores democráticos y los derechos individuales”.
La baronesa Jones, sin embargo, argumentó que las reformas de datos del gobierno bajo la DUAB “establecen específicamente que la participación humana debe ser significativa. Su objetivo es evitar la maldita participación humana acostumbrada a aprobar decisiones debido a una participación significativa”.
Preocupaciones por la claridad
Una de las principales preocupaciones de Clement-Jones era la transparencia de ATRS. Desde su lanzamiento en 2022, dijo, solo se han publicado seis registros de transparencia algorítmica en el sector público.
El gobierno se ha defendido afirmando que “varios de estos registros se han completado”, ya que se han hecho obligatorios para todos los departamentos gubernamentales y se publicarán pronto.
Tal como está, actualmente existe ATRS tiene 23 registros.
El proyecto de ley de Clement-Jones también incluye una sección sobre Evaluaciones de Impacto Algorítmico (AIA) que las autoridades públicas deben realizar antes de implementar cualquier herramienta de toma de decisiones. Las AIA exigirán que evalúen y revelen continuamente el impacto de la herramienta en la seguridad y la toma de decisiones administrativas cuando se actualicen los algoritmos o cambie el alcance de la herramienta.
Su par conservador, el vizconde Camrose, predecesor de Jones en DSIT, también argumentó que sería “poco práctico” aplicar evaluaciones de impacto incluso antes de la contratación y, como resultado, el proyecto de ley crearía una “carga administrativa”. Criticó el proyecto de ley Clement-Jones por ser demasiado prescriptivo, en lugar de dar al sector público la flexibilidad de elegir cómo abordar sus “muy diferentes necesidades”.
Baroness Jones sostiene que ATRS ofrece una visión holística de salvaguardar el impacto de las herramientas evitando al mismo tiempo resultados negativos y, por lo tanto, no requiere legislación para la transparencia: “No creemos que los registros de transparencia obligatorios para las autoridades públicas o la legislación para la AIA. Necesario en este momento”, afirmó.
También se hizo referencia a Canadá, que recientemente implementó una propuesta similar de marco AIA. Martha Lane Fox pidió cautela al implementar el proyecto de ley Clement-Jones, diciendo que podría agregar burocracia. “Canadá también está tratando de avanzar hacia una mayor regulación de la transparencia algorítmica, y la implementación ha sido muy pesada y difícil”, dijo.
Una diferencia clave en el proyecto de ley de los miembros privados es que aumenta la importancia de validar los sistemas en el punto de compra -después de su uso- para garantizar que se haya evaluado adecuadamente su eficacia y efectos antes de la compra.
Lane-Fox, hablando en apoyo del sistema de adquisiciones mejorado, dijo: “La parte de adquisiciones digitales de la administración pública es menos eficiente y los contratos con proveedores no son ideales a medida que avanzamos hacia el mundo que queremos. Hay que fomentar la innovación, pero también la seguridad. Tengo muchas esperanzas de que las adquisiciones ocupen un lugar muy cercano en el centro de cualquier plan futuro”.
El proyecto de ley privado fue presentado por Clement-Jones en un momento en que el gobierno busca utilizar la IA para impulsar el crecimiento e impulsar la economía. Peter Kyle declaró anteriormente en julio de 2024 que “Nosotros‘Volver a poner la IA en el centro del gobierno‘Su agenda es impulsar el crecimiento y mejorar nuestros servicios públicos”.
Mientras tanto, el Primer Ministro Kier Starmer dijo durante su discurso sobre el Plan de Acción de IA el 13 de enero que la tecnología es la “oportunidad definitoria” de nuestra generación. “Recuerden mis palabras: Gran Bretaña será una de las grandes superpotencias de la IA”, dijo.
