AI Weekly: la ONU propone una moratoria sobre la inteligencia artificial “riesgosa” mientras que ICLR solicita publicaciones en blogs

La Alta Comisionada de las Naciones Unidas para los Derechos Humanos, Michelle Bachelet, pidió esta semana una moratoria sobre la venta y el uso de sistemas de inteligencia artificial que representan “un grave riesgo para los derechos humanos”. Bachelet dijo que se deben implementar las salvaguardias adecuadas antes de que se reanude el desarrollo de tales sistemas y que se debe prohibir cualquier sistema que no pueda utilizarse de acuerdo con el derecho internacional de los derechos humanos.

“La inteligencia artificial puede ser una fuerza positiva que ayude a las sociedades a superar algunos de los grandes desafíos de nuestro tiempo. Pero las tecnologías de inteligencia artificial pueden tener efectos negativos, incluso catastróficos, si se utilizan sin tener suficientemente en cuenta cómo afectan los derechos humanos de las personas ”, dijo Bachelet.

Por supuesto, definir qué sistemas suponen un riesgo para los derechos humanos no es necesariamente una tarea sencilla. El Consejo de Derechos Humanos describe algunos ejemplos en un nuevo informe, incluidos los sistemas que “profundizan las intrusiones en la privacidad” mediante un mayor uso de datos personales y “conducen a decisiones discriminatorias”. Pero como sugieren los comentarios recientes presentados al Parlamento Europeo y al Consejo Europeo, las definiciones de “riesgoso” pueden variar ampliamente, dependiendo de las partes interesadas.

Como escribió recientemente Khari Johnson de Wired, algunas empresas que cumplen con la Ley de IA de la UE, que propone la supervisión de la IA de “alto riesgo”, creen que la legislación va demasiado lejos, con normas que sofocan la innovación y son potencialmente costosas. Mientras tanto, los grupos de derechos humanos y los expertos en ética dicen que no va lo suficientemente lejos, dejando a las personas vulnerables a quienes tienen los recursos para implementar algoritmos poderosos.

Si bien una definición acordada de “riesgo” sigue siendo difícil de alcanzar, particularmente cuando empresas como DeepMind y OpenAI de Alphabet trabajan hacia sistemas multitarea que desafían las etiquetas convencionales, el informe del Consejo de Derechos Humanos identifica formas de ayudar a prevenir y limitar los daños introducidos por la IA. Por ejemplo, el informe sostiene que el desarrollo de la IA debe ser justo y no discriminatorio, con participación y responsabilidad incorporadas en los procesos. Además, establece que los requisitos de legalidad, legitimidad, necesidad y proporcionalidad deben “aplicarse de manera consistente” a las tecnologías de inteligencia artificial, las cuales deben implementarse de manera que “faciliten la realización de los derechos económicos, sociales y culturales”.

“La inteligencia artificial llega ahora a casi todos los rincones de nuestra vida física y mental e incluso a los estados emocionales. Los sistemas de inteligencia artificial se utilizan para determinar quién obtiene los servicios públicos, decidir quién tiene la oportunidad de ser contratado para un trabajo y, por supuesto, influyen en la información que la gente ve y puede compartir en línea “, dijo Bachelet. que sigamos poniéndonos al día con la IA, permitiendo su uso con límites o controles limitados o nulos y abordando las consecuencias casi inevitables para los derechos humanos después del hecho … Se necesitan medidas ahora para poner las barreras de los derechos humanos en el uso de la IA, por el bien de todos nosotros “.

ICLR presenta una pista de publicación de blog

Entre otras noticias de esta semana, la Conferencia Internacional sobre Representaciones del Aprendizaje (ICLR), una de las conferencias de aprendizaje automático más grandes del mundo, ha anunciado una convocatoria de presentaciones para la primera pista de publicaciones en el blog. El objetivo es solicitar contribuciones de blogs, lo que permite a los investigadores discutir trabajos de investigación publicados anteriormente que han sido aceptados en el ICLR.

“[Blog Post Track] reconoce y valora el trabajo de síntesis sobre el trabajo nuevo “, dijo a VentureBeat a VentureBeat por correo electrónico Sebastien Bubeck, postpresidente del blog de ICLR y gerente principal de investigación de Microsoft Research. Por ejemplo, algunos artículos publicados pueden tener pruebas y técnicas matemáticas difíciles para entornos bastante abstractos. Las publicaciones de blog en ese caso podrían elaborar un sub-caso específico de esa teoría general, destilando las ideas en algunos ejemplos prácticos. Alternativamente, una publicación podría proponer una prueba nueva y más simple del mismo resultado, o tal vez conectar el demostración con ideas en otras áreas de la informática.

Bubeck cree que alentar a los investigadores a revisar el trabajo científico más antiguo revisado por pares podría permitirles resaltar las brechas de estudio y ayudar a sintetizar el conocimiento en la comunidad de IA. La iniciativa se remonta al período posterior a la Segunda Guerra Mundial en Francia, cuando un colectivo de matemáticos bajo el seudónimo de Nicolas Bourbaki decidió escribir una serie de libros de texto sobre los fundamentos de las matemáticas.

“Para documentos más aplicados, las publicaciones de blog podrían ser una buena forma de volver a visitar los experimentos, con el objetivo general [of helping] con la crisis de reproducibilidad en el aprendizaje automático. De hecho, … contrariamente a los artículos de la conferencia principal, las publicaciones de blog podrían centrarse en experimentos a pequeña escala, investigando si ciertos fenómenos se deben a la escala o si son intrínsecos a la arquitectura o al problema en cuestión “, dijo Bubeck.

La IA, como muchos campos científicos, tiene un problema de reproducibilidad. Los estudios a menudo proporcionan resultados comparativos en lugar del código fuente, lo que se vuelve problemático cuando se cuestiona la integridad de los parámetros comparativos. Un informe reciente encontró que del 60 al 70% de las respuestas proporcionadas por los modelos de procesamiento del lenguaje natural se incorporaron en algún lugar de los conjuntos de entrenamiento de referencia, lo que indica que los modelos a menudo simplemente memorizan las respuestas. Otro estudio, un metanálisis de más de 3.000 artículos sobre inteligencia artificial, encontró que las métricas utilizadas para comparar la IA y los modelos de aprendizaje automático tendían a ser inconsistentes, irregulares y no particularmente informativas.

Para la primera edición de Blog Post Track en el ICLR, Bubeck dice que los presidentes de la conferencia seleccionarán revisores para las publicaciones publicadas. En el futuro, espera llevar los rastros de las publicaciones de blogs a más conferencias de informática, no solo a las que se centran principalmente en la inteligencia artificial y el aprendizaje automático.

“Las publicaciones en blogs brindan la oportunidad de discutir de manera informal ideas científicas. Ofrecen un valor sustancial a la comunidad científica al proporcionar una plataforma flexible para fomentar debates abiertos, humanos y transparentes sobre nuevos conocimientos o limitaciones de una publicación científica ”, dijo Bubeck.

Para obtener cobertura de IA, envíe consejos de noticias a Kyle Wiggers y asegúrese de suscribirse al boletín informativo de AI Weekly y agregar a favoritos nuestro canal de IA, The Machine.

Gracias por leer,

Kyle Wiggers

Escritor personal de inteligencia artificial