El panorama tecnológico actual enfrenta desafíos éticos inéditos sobre cuestiones de privacidad, equidad, transparencia y responsabilidad. Efectivamente, tecnologías avanzadas, como inteligencia artificial (IA), aprendizaje automático, los sistemas inteligentes, el cifrado, el seguimiento y el reconocimiento facial, están cada vez más en el centro de debates políticos, académicos y del público en general, en un entorno inconsistentemente regulado que crea importantes riesgos sociales.
La propia industria si no adopta rápidamente un marco legal y ético, viable y confiable, rápidamente se verá atrapada en un atolladero de leyes contradictorias.
Ante esta situación el Instituto de Tecnología, Ética y Cultura (ITEC), ubicado en Santa Clara University, California, en colaboración con el Dicasterio para la Cultura y la Educación de la Santa Sede han dado a conocer Ethics in the Age of Disruptive Technologies: An Operational Roadmap (“Ética en la era de las tecnologías disruptivas: un mapa de ruta operativo”) en que se convoca a empresas, sociedad civil, academia y gobiernos a promover una reflexión profunda sobre el impacto de la tecnología en la humanidad.
Desde hace décadas Santa Clara University –perteneciente a la Compañía de Jesús– es reconocida por su colaboración con empresas como Salesforce, IBM y Microsoft para aplicar estándares éticos en el diseño, desarrollo e implementación de tecnología.
Inteligencia Artificial: cuáles son los empleos que corren mayor riesgo
El objetivo de la reciente publicación, a modo de manual, no está guiado sólo por una preocupación intrínseca por actuar éticamente, sino también por el deseo de evitar daños a la reputación de las empresas y atraer a los mejores talentos para que incorporen una dimensión ética en su desempeño.
El manual del ITEC considera que la industria para evitar impactos negativos de las tecnologías, como discriminación, desinformación, amenazas a la seguridad humana y a la privacidad, requiere un marco coherente y procedimientos auditables, para implementar efectivamente estándares éticos que funcionen durante el ciclo de vida de un sistema.
El desafío al que se enfrentan las empresas a la hora de dar primacía a las cuestiones éticas se ve agravado por el criterio de maximizar la rentabilidad o la “primacía de los accionistas”.
No obstante, en los últimos años –afirma el documento del ITEC– ha habido algunas modificaciones al modelo de primacía de los accionistas y se están desarrollando nuevas estructuras y modelos corporativos que incluyen una mayor atención a cuestiones ambientales, sociales y de gobernanza en los consejos de administración.
Por lo tanto, un desafío crítico que enfrentan los líderes empresariales en el nuevo mundo de la IA y las tecnologías avanzadas es cómo gestionar el negocio dentro del modelo de primacía del accionista y al mismo tiempo lograr los conceptos más amplios de comportamiento ético vistos por las partes interesadas internas y externas, a través de métricas y procesos auditables. Esa necesidad es la que busca cubrir el Manual del ITEC.
El desafío ético de las tecnologías disruptivas
El ITEC considera que adoptar, aplicar y demostrar la eficacia de usos éticos significa que las organizaciones deben:
- Comprender los requisitos éticos de sus clientes internos y externos: accionistas, gobiernos, formuladores de políticas, sociedad civil, académicos y empleados.
- Transformar su propia cultura empresarial para garantizar que todos conozcan las consecuencias de la tecnología de la empresa y la responsabilidad por su impacto sobre la humanidad y el planeta.
- Implementar un sistema de gestión de tecnología responsable, que se enfoque en cumplir requisitos del cliente y valores éticos de las partes interesadas durante todo el ciclo de vida de los productos y servicios ofrecidos.
En ese sentido, el Manual ITEC es una guía práctica personalizable para ayudar a las organizaciones a transformar su mentalidad y cultura, y poner en práctica principios de uso ético y humano para construir valor para el accionista y demás partes interesadas.
Estos pasos ayudan a garantizar que los productos y servicios promuevan una vida saludable y sostenible en el planeta, cumpliendo con la normativa aplicable y logrando la mejora continua de su desempeño ético.
El manual proporciona una hoja de ruta de operaciónalización a través de la adopción de un marco de gobernanza de la ética tecnológica y su implementación en un Sistema de Gestión de Tecnología Responsable (RTMS, por sus siglas en inglés).
