febrero 7, 2023

Cinco formas de hacer de la IA una fuerza mayor para siempre en 2021

No es que los modelos a gran escala nunca puedan alcanzar un entendimiento de sentido común. Ésta es todavía una pregunta abierta. Pero hay otras vías de investigación que merecen una mayor inversión. Algunos expertos han apostado por la IA neurosimbólica, que combina el aprendizaje profundo con sistemas de conocimiento simbólico. Otros están experimentando con técnicas más probabilísticas que utilizan muchos menos datos, inspirados por la capacidad de un niño humano para aprender de muy pocos ejemplos.

En 2021, espero que la industria reajuste sus incentivos para priorizar la comprensión sobre la previsión. Esto no solo podría conducir a sistemas técnicamente más sólidos, sino que las mejoras también tendrían importantes implicaciones sociales. La susceptibilidad de los sistemas de aprendizaje profundo actuales a ser engañados, por ejemplo, socava la seguridad de los automóviles autónomos y plantea posibilidades peligrosas para las armas autónomas. La incapacidad de los sistemas para distinguir entre correlación y causalidad también está en la raíz de la discriminación algorítmica.

Empoderar a los investigadores marginados

Si los algoritmos codifican los valores y perspectivas de sus creadores, una amplia muestra de la humanidad debería estar presente en la mesa a medida que se desarrollan. No he visto mejor evidencia de esto que en diciembre de 2019 cuando asistí a NeurIPS. Ese año, con un número récord de mujeres y oradores y asistentes de minorías, pude sentir que el tenor del trabajo cambiaba de manera tangible. Ha habido más debates que nunca sobre la influencia de la IA en la sociedad.

En ese momento, felicité a la comunidad por su progreso. Pero el trato de Google a Gebru, una de las pocas mujeres negras prominentes en la industria, mostró lo lejos que queda todavía por hacer. La diversidad numérica no tiene sentido si a esas personas no se les permite traer su experiencia vivida a su trabajo. Sin embargo, soy optimista de que la marea está cambiando. El punto crítico del despido de Gebru se ha convertido en un momento crítico de reflexión para la industria. Espero que este impulso conduzca a un cambio sistémico y duradero.

Centrar las perspectivas de las comunidades afectadas

También hay otro grupo para traer a la mesa. Una de las tendencias más emocionantes del año pasado fue la aparición del aprendizaje automático participativo. Es una provocación reinventar el proceso de desarrollo de la IA para incluir a aquellos que eventualmente quedan sujetos a los algoritmos.

En julio, el primer seminario de la conferencia dedicado a este enfoque reunió una gran cantidad de ideas sobre cómo podría ser. Las sugerencias incluyeron nuevos procedimientos de gobernanza para solicitar comentarios de la comunidad; nuevos métodos de auditoría modelo para informar e involucrar al público; y el rediseño propuesto de los sistemas de inteligencia artificial para dar a los usuarios más control sobre su configuración.

Mi esperanza para 2021 es ver más de estas ideas exploradas y tomadas en serio. Facebook ya está comenzando: si continúa permitiendo que su junta de supervisión externa realice cambios vinculantes en las políticas de moderación de contenido de la plataforma, la estructura de gobierno podría convertirse en un mecanismo de retroalimentación digno de emulación.

Codifique las barandillas en la regulación

Hasta ahora, los esfuerzos de base han llevado al movimiento para mitigar el daño algorítmico y responsabilizar a los gigantes tecnológicos. Pero dependerá de las autoridades nacionales e internacionales establecer barandillas más permanentes. La buena noticia es que los legisladores de todo el mundo están observando y redactando leyes. En los Estados Unidos, los miembros del Congreso ya han presentado proyectos de ley para abordar el reconocimiento facial, el sesgo de la IA y las falsificaciones profundas. Muchos de ellos también enviaron una carta a Google en diciembre expresando su intención de continuar con esta regulación.

Entonces, mi última esperanza para 2021 es que se aprueben algunos de estos proyectos de ley. Es hora de codificar lo que hemos aprendido en los últimos años y alejarnos de la ficción de la autorregulación.

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *