Los investigadores dicen que la IA no logra describir la complejidad del Holocausto
5 min read
Los modelos de inteligencia artificial (IA) existentes y disponibles en el dominio público no logran capturar la “complejidad y los matices del pasado” y ofrecen historias demasiado simplificadas sobre el Holocausto, según un laboratorio internacional de investigación del Holocausto.
En noviembre de 2024, la Universidad de Sussex lanzó el Landecker Digital Memory Lab, una iniciativa para “garantizar un futuro sostenible para la memoria y la educación del Holocausto en la era digital”.
Según un informe de políticas basado en investigaciones presentado por el laboratorio a la Alianza Internacional para el Recuerdo del Holocausto (IHRA), ¿Tiene la IA un lugar en el futuro de la conmemoración del Holocausto?El uso de la IA en la memoria y la educación sobre el Holocausto es problemático porque los modelos convencionales –incluidos los sistemas de IA generativa (GenAI) como ChatGPT y Gemini– carecen de “buena información” sobre el Holocausto y requieren “representaciones precisas” de expertos en el tema. .
La investigadora principal del laboratorio, Victoria Grace Richardson-Walden, recomienda (en un llamado urgente a todas las partes interesadas involucradas en la memoria y la educación del Holocausto, así como a los responsables políticos) ayudar a las personas a resolver el problema digitalizando sus datos y habilidades humanas en sus sitios y museos.
“Muy pocos de ellos tienen una estrategia de digitalización clara”, dijo sobre el sector de educación y memoria del Holocausto, que incluye archivos, museos, monumentos conmemorativos y bibliotecas de todo el mundo. “Sólo digitalizan su material o sus pruebas para pruebas específicas”.
“Es una cuestión apremiante para la tradición en general”, dijo Richardson-Walden, refiriéndose a las guerras en Ucrania y Oriente Medio.
“Todas las tradiciones, todas estas cosas están en riesgo material”, afirmó. “La historia ha sido instrumentalizada en todo el espectro político para diversos objetivos políticos. Cuando se hace demasiado ruido en las redes sociales, se pierden matices. Ahí es donde es importante”.
Enfoque poco confiable
Richardson-Walden destacó que los sistemas GenAI no son “máquinas cognitivas”, ya que simplemente asignan posibles valores numéricos a palabras y secuencias de palabras, en lugar de un valor basado en su significado histórico y cultural. Esto lleva al entierro de eventos e historias menos conocidos, ya que los sistemas tienden a reproducir sólo los resultados “canónicos” más conocidos que se centran en las historias más famosas.
“Te da una respuesta de titular y viñetas”, dice, describiendo una respuesta típica a una consulta en ChatGPT. “Esta idea de resumir una historia realmente compleja es problemática. No se puede resumir algo que ocurrió en seis años en muchísimos países y que afectó a toda una gama de personas y criminales diferentes”.
La investigación no intenta dar respuestas a estos complejos problemas. En cambio, Richardson-Walden espera encontrar alternativas en conversaciones con sus colegas de informática e ingeniería. “Es difícil codificar señales culturales y luego generar datos de entrenamiento”, dijo.
Richardson-Walden también destacó la necesidad de tener “buenos datos” en los modelos comerciales de GenAI, especialmente aquellos que involucran temas históricamente sensibles como el genocidio, la opresión, los conflictos o las atrocidades.
“Los buenos datos provienen de organizaciones del Holocausto, pero primero necesitan digitalizarlos de manera estratégica y los metadatos adjuntos deben ser precisos y estandarizados”, dijo.
Otro tema destacado por el informe de políticas del laboratorio es la autocensura programada en la mayoría de los modelos GenAI de imágenes comerciales. Casi cada vez que se pedía a un sistema que produjera una imagen del Holocausto, éste se negaba y el usuario acataba las directrices de censura.
Se menciona brevemente un ejemplo de Dal-e, el generador de imágenes de OpenAI. “Lo único que puede ofrecer es una corona, manos envejecidas y una valla de alambre de púas, o una imagen que parece un fantasma en una biblioteca”.
Richardson-Walden añadió: “Se acaba haciendo que el Holocausto sea invisible o abstracto hasta el punto de resultar absurdo. Entonces, esta idea de poner censura en tu programación es algo bueno como enfoque ético que en realidad crea el efecto contrario”.
Él cree que, si bien estas vallas son mejores que crear datos falsos o distorsionados, impiden que la gente aprenda la historia y sus lecciones, y añade que los desarrolladores de estos modelos deberían, por tanto, encontrar un “terreno medio” en sus vallas que impida la desinformación, pero que impida el Holocausto. no los encasillen en la prohibición de la información sobre el Holocausto para las generaciones futuras que dependen de los medios digitales.
“La forma en que se logra (el punto medio) es a través del diálogo”, dijo Richardson-Walden. “Es necesario que haya un lugar para tener más discusiones con OpenAI, Meta, Google, sentado con nosotros en el laboratorio con lugares como las Naciones Unidas”. Añadió que Landecker ofrece consultas gratuitas para discutir enfoques para las empresas de tecnología que se involucran por primera vez en la memoria del Holocausto.
“Cuando se adentran en esto, se dan cuenta de que es tan complicado y tan político, y de toda esta nueva área sobre ética y lo digital en la que nunca pensaron”, dijo.
Landecker sitio web Señaló que el ejemplo más destacado de digitalización de la memoria del Holocausto es un modelo de inteligencia artificial conocido como Dimensiones de la Evidencia, desarrollado por la Fundación Shoah de la USC. Este es un ejemplo de un modelo GenAI de dominio específico, descrito como un modelo de lenguaje pequeño, que se basa en una “intervención humana significativa” y “fuertemente supervisada”. Usuarios y educadores pueden interactuar con él planteando preguntas cuyo modelo es respondido por expertos que lo han alimentado con testimonios de supervivientes.
Sin embargo, es posible que otros laboratorios y centros de memoria no tengan el mismo nivel de financiación y financiación que el laboratorio de Landecker. Por lo tanto, la atención debe centrarse en una amplia digitalización de los recursos, que luego pueden utilizarse para informar de manera responsable los grandes modelos lingüísticos comerciales.
