febrero 7, 2023

Libertad y barandilla para Citizen X

Escuche a los CIO, CTO y otros ejecutivos sénior y de nivel C sobre datos y estrategias de IA en la Cumbre del Futuro del Trabajo el 12 de enero de 2022. Saber más


Este artículo fue proporcionado por Suzanne L. Taylor, vicepresidenta de Innovación y Tecnologías Emergentes de Unisys

Muchas profesiones hoy en día dan la bienvenida al surgimiento de sus Ciudadanos X: esos ciudadanos comunes, curiosos o preocupados por una disciplina en particular, que tienen el poder de asociarse con sus profesionales acreditados para hacer contribuciones significativas. En tecnología, donde la tendencia a veces se denomina “democratización de la tecnología” o “no-code/low-code”, sus beneficios son grandes, pero es necesario reconocer y mitigar sus riesgos.

Me di cuenta por primera vez del ascenso de lo que llamo “Ciudadano X” como un ávido excursionista cuando estaba leyendo el sitio web del Servicio de Parques Nacionales y encontré una invitación para que los excursionistas comunes se convirtieran en “Ciudadanos científicos”. Los científicos profesionales del parque nos dieron la bienvenida como aficionados para contribuir a su trabajo, sugiriendo cómo podíamos ayudarlos (tomando fotografías, registrando qué plantas florecían y cuándo, qué vida silvestre, insectos o aves observamos, etc.).

Desde entonces he observado la proliferación de Citizen X en muchas disciplinas. Está Citizen Designer, con herramientas como Shutterfly y Vistaprint que permiten incluso a los aficionados más absolutos crear sus propios libros personalizados de alta calidad o logotipos y marcas de empresas.

Está el Arqueólogo Ciudadano, invitado a ayudar a los arqueólogos a encontrar artefactos antes de que se pierdan en las mareas y el tiempo, haciendo descubrimientos de indescriptible riqueza e importancia histórica. Y sus homólogos submarinos, Citizen Archeologists Underwater, un grupo de los cuales se cree que descubrió el naufragio más antiguo conocido en el lago Erie.

Los médicos de la ciudad son estrictamente para los profesionales médicos, pero ¿quién puede negar el valor de empoderar a los ciudadanos comunes, también conocidos como pacientes, para acelerar las mejoras en la salud? Los pacientes pueden usar sus teléfonos inteligentes para ayudar en el proceso de diagnóstico y verificar sus signos vitales y monitorear los niveles de azúcar en la sangre. Seguramente habrá más avances con la participación de millones de pacientes que colaboran con médicos, investigadores médicos y farmacéuticos.

En general, es una tendencia positiva. Después de todo, una profesión existe para el beneficio de todos. Médicos, abogados, albañiles, manicuristas: todos están acreditados con el fin de atender las necesidades de la comunidad en general. Entre las personas a las que sirven seguramente habrá personas cuyas ideas y trabajo puedan promover la profesión. Sabemos que la innovación suele ser más fácil de lograr en unidades más pequeñas y ágiles, y que la innovación que tiene lugar en la base puede ser extraordinariamente creativa y rápida, lo que no es de poca importancia en la necesidad actual de velocidad.

Riesgos tecnológicos

Cuando se trata de tecnología, el fenómeno Citizen X representa tanto un riesgo como una recompensa.

Uno de los ejemplos más destacados es el desarrollador ciudadano, a quien Gartner define como “un empleado que crea la funcionalidad de la aplicación para consumo personal o de otras personas, utilizando herramientas que no están prohibidas activamente por TI o unidades comerciales”. Como era de esperar, encuentran esta libertad esencial para su satisfacción laboral. Pueden automatizar procesos que facilitan su trabajo, como completar tareas de recursos humanos, o más rápido. A menudo están muy cerca de las necesidades de los usuarios y saben qué innovación puede aportar valor a los usuarios y las herramientas de código abierto necesarias para producirla. No solo eso, sino que son invaluables cuando se trata de crear prototipos.

Pero, al mismo tiempo, tienden a centrarse en un resultado particular y menos atentos a los problemas en los que los desarrolladores profesionales calificados son escrupulosos. Por ejemplo: ¿este software es redundante con lo que otros ya han creado? ¿Se puede compartir para su reutilización por otras personas que realizan un trabajo similar? ¿Fue creado en una plataforma compatible con otras? ¿La seguridad está integrada? ¿Está rigurosamente probado?

Los límites son esenciales, dado el riesgo de que los desarrolladores ciudadanos no tengan experiencia y cumplan plenamente con las políticas y protocolos esenciales relacionados con la seguridad, la privacidad y la repetibilidad. La supervisión de TI y el gobierno formal son fundamentales para cualquier negocio que no sancione a los desarrolladores de código o código bajo. TI debe construir y monitorear rigurosamente la infraestructura de TI subyacente.

Crear un buen gobierno para el trabajo de Citizen X no requiere un invento completamente nuevo, solo una adaptación cuidadosa del gobierno de TI actual de una organización. Debe tener el mismo nivel de protocolo y documentación para todo: estándares de desarrollo, funciones y responsabilidades, credenciales, cumplimiento, etc. Ya sea que las aplicaciones de Citizen estén destinadas a la producción corporativa o al uso de los clientes, TI debe garantizar que las aplicaciones funcionen correctamente, cumplan con los estándares de alta calidad, hagan un uso adecuado de la marca corporativa y, especialmente en el entorno actual, cumplan con los más altos estándares de seguridad. Puede haber una gobernanza más laxa para la creación de prototipos o aplicaciones de uso limitado, pero aún se necesita protección contra el compromiso empresarial.

Con la tendencia hacia un mundo basado en datos, vemos herramientas y plataformas que alientan a los científicos de datos ciudadanos, a veces llamados ingenieros de IA ciudadanos. Estas plataformas, herramientas y servicios aceleran los procesos de uso, análisis y distribución de datos. Los principales proveedores de la nube ofrecen servicios de ciencia de datos e inteligencia artificial que permiten no solo a los profesionales, sino también a los profesionales novatos, crear rápidamente aplicaciones de aprendizaje automático y lenguaje natural.

Esta nueva tecnología es valiosa dada la perenne falta de científicos de datos con credenciales. Pero, de nuevo, la baja barrera de entrada que brindan estas plataformas también permite que las personas pasen por alto cuando no tienen la experiencia para ajustar los datos, comprender los algoritmos y abordar las trampas que los expertos en datos e ingenieros de IA estarían enfrentando. capaz de evitar.

Las trampas van desde algoritmos que simplemente no funcionan como se esperaba cuando se distribuyen en datos en tiempo real, lo que aumenta los costos, hasta algoritmos que podrían causar daño. AI y ML no son sistemas deterministas. No se pueden probar tan exhaustivamente como la mayoría de los otros programas porque están diseñados para seguir cambiando a medida que adquieren nuevos datos en tiempo real. No se pueden probar para cada permutación que puedan encontrar y, cuando están en el mundo real, es posible que no se comporten como se espera. Deben ser monitoreados por comportamiento inesperado y no intencionado.

La IA ética es una disciplina próspera por una buena razón: en extremo, existe el potencial de que los algoritmos causen un daño real a medida que reemplazan o aumentan a los humanos en la toma de decisiones críticas. Los ejemplos notorios incluyen la herramienta de reclutamiento de Amazon que estaba sesgada contra las mujeres, una herramienta racista de puntuación de reincidentes y los algoritmos publicitarios discriminatorios de Facebook.

Es poco probable que los ciudadanos científicos de datos tengan una educación profunda en la disciplina en evolución de la IA ética y pueden fácilmente, aunque sin saberlo, producir modelos que podrían poner en peligro a las personas, ofender a los clientes o contravenir las reglas y leyes. Siguen surgiendo más y más regulaciones y recomendaciones de AI / ML, que requieren que las empresas emitan pautas estrictas sobre el tema y requieren la supervisión de científicos de datos capacitados y expertos legales.

El científico de datos capacitado, a diferencia del científico de datos ciudadano, encarna un sentido de responsabilidad por todo el ciclo de vida de un modelo, protegiéndose de los modelos defectuosos que resultan, por ejemplo, del ajuste excesivo o inadecuado de los datos y de las desviaciones del modelo de monitoreo. alteraciones sutiles.

Suzanne Taylor, PhD, es Vicepresidenta de Innovación y Tecnologías Emergentes en Unisys, donde se enfoca en aplicar tecnologías emergentes y disruptivas a problemas comerciales.

Tomadores de decisiones de datos

¡Bienvenido a la comunidad VentureBeat!

DataDecisionMakers es el lugar donde los expertos, incluidos los ingenieros de datos, pueden compartir ideas e innovaciones relacionadas con los datos.

Si desea leer ideas de vanguardia e información actualizada, las mejores prácticas y el futuro de los datos y la tecnología de datos, únase a nosotros en DataDecisionMakers.

¡Incluso podría considerar contribuir con su propio artículo!

Leer más de DataDecisionMakers

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *