14 febrero 2025

VisiondelCine

VisiondelCine cubre noticias de última hora, política, cultura y eventos de todo el país. Recibe información oportuna y relevante que te interesa.

El secretario permanente de DSIT dice que se necesita más transparencia

4 min read

La mayoría de los funcionarios públicos de alto nivel del Departamento de Ciencia, Innovación y Tecnología (DSIT) han dicho que el gobierno debe avanzar para mejorar la transparencia en torno al papel del sistema de inteligencia artificial (IA) en todo el sector público.

Pregunta por los miembros Comité de cuentas públicas (PAC) Cómo el gobierno puede mejorar el uso creciente de IA y equipos de toma de decisiones algorítmicas en el sector público en enero de 21222, dijo la secretaria permanente de DSIT, Sara Munbi. .

Munby dijo que el sector público debe ser claro, por ejemplo, que el gobierno de IA se ha utilizado en cartas o correos electrónicos del gobierno (dijo que se reflejaba en la guía oficial), y se centra en cómo Se comunica con personas de todo el país en un tema relacionado con la IA.

También agregó que si el gobierno no es “exhibidamente creíble”, eventualmente se convertirá en un “bloqueador avanzado” para hacer más herramientas de IA.

Uno de los principales aspectos de los esfuerzos del gobierno aquí es el estándar de recursión de transparencia algorítmica (ATR), que fue diseñado entre DSIT y la Oficina de Datos Central (CCD) y salió para mejorar la transparencia del sector público en septiembre de 2022. Información. El equipo algorítmico que están utilizando.

DSIT anunció en febrero de 2021 que fue creado para construir ATR como un requisito obligatorio para todos los departamentos gubernamentales en 2021 (además de ampliar su uso en el sector público con el tiempo), el valor fue criticado. Fabricación Hasta ahora, a pesar de cientos de acuerdos relacionados con la IA.

En marzo de 2024, la Oficina Nacional de Auditoría (NAO) Destacar ¿Cómo dijeron ocho de los 32 que respondieron a la encuesta de implementación de IA “siempre son o generalmente leales al valor”? Por el momento, solo había siete registros en los ATR.

Es como si estuviera, actualmente Hay 33 registros en ATRSDe los cuales 10 fueron publicados voluntariamente el 28 de enero por las autoridades locales bajo la orden de la División Central.

Al comentar sobre los ATR, Munby admite que “necesitamos hacer más”, mencionando que uno más “20 o más” se publicará en febrero, debería ser seguido por “muchos más” durante todo el año.

“Es absolutamente nuestra opinión que todos ellos deberían ser sacados”, dijo. “Lleva un tiempo levantarse y continuarlos. Sin embargo, no fue obligatorio durante mucho tiempo … Hubo una aceleración significativa en una moción reciente y esperamos que continúe. “

Munby destacó además que “la ley es un componente importante del derecho” la “confianza”. “Las facturas de datos (uso y acceso) tienen un amplio conjunto de disposiciones que están a punto de garantizar que ocurra la toma de decisiones automáticas, existe una buena forma con la capacidad de desafiar (decisión)”, dijo.

Aunque el gobierno laborista ha adoptado casi todas las recomendaciones del plan de acción de IA recientemente publicado, que propuso aumentar la confianza y la aceptación en la tecnología mediante la creación del ecosistema de aseguramiento de la IA en el Reino Unido, ninguno Recomendación Se han mencionado los requisitos transparentes.

‘Transparencia socialmente significativa’

En Prueba En PAC publicado el 5 de enero, un grupo de académicos, incluida Helen Kennedy, profesora de datos y sociedad de la Universidad de Sheffield y la Sociedad Digital de la Universidad de Sheffield, dijo que era la clave del uso de la IA y el algoritmo del sector gubernamental.

“La transparencia socialmente significativa se centra en el uso inflamado en las sociedades sin información y centrarse en aumentar la comprensión pública de los sistemas de IA para el ajetreo democrático”, dijeron. “Esto es importante debido al riesgo ampliamente probado de IA. Sesgo algorítmico y discriminación, que está creciendo sobre el público. La transparencia socialmente significativa prioriza las necesidades e intereses de los miembros públicos en comparación con los desarrolladores del sistema de IA. “

También agregaron que la información relacionada con la “clave de IA” debe publicarse públicamente discutiendo “Key de IA” discutiendo el gobierno y los terceros no comerciales, incluidos los miembros públicos, además del registro obligatorio del gobierno.

Más Prueba Michael Oldridge, profesor de la Universidad de Oxford, también destacó la necesidad de aumentar la confianza pública en la IA oficial, donde la transparencia podría desempeñar un papel importante.

“Algunas personas están entusiasmadas con la IA; Pero muchos otros están preocupados por esto “, dijo. “Están preocupados por su trabajo, su privacidad e incluso pueden estar preocupados (incorrectamente) por la amenaza de existencia.

“Aunque el uso de la IA en el gobierno está bien inspirado, creo que es probablemente el uso del gobierno de la IA por sospecha (mejor) y lo peor se llenará de hostilidad e ira”, dijo Olderiz. “Estos miedos, pero han estado en el lugar equivocado, deben tomarse en serio y es absolutamente necesario para crear confianza de transparencia” “”

Source link