IBM pidió reglas que eliminen el sesgo en la inteligencia artificial para aliviar las preocupaciones de que la tecnología use datos basados en prácticas discriminatorias pasadas y puedan perjudicar a mujeres, minorías, discapacitados, adultos mayores y otros.
Mientras busca definir un creciente debate en Estados Unidos y Europa sobre cómo regular la floreciente industria, IBM instó a la industria y los gobiernos a desarrollar conjuntamente normas para medir y combatir la posible discriminación.
IBM lanza nueva generación de servidor para combatir cibercrimen
La compañía con sede en Armonk, Nueva York, emitió propuestas de política el martes antes de un panel sobre inteligencia artificial el miércoles que será dirigido por su directora ejecutiva, Ginni Rometty, al margen del Foro Económico Mundial en Davos. La iniciativa está diseñada para encontrar un consenso sobre reglas que pueden ser más estrictas de lo que la industria podría producir, pero menos estrictas de lo que los gobiernos podrían imponer por sí mismos.
"Nos parece bastante claro que la regulación gubernamental de la inteligencia artificial es la próxima frontera en la regulación de la política tecnológica", asegura Chris Padilla, vicepresidente de asuntos gubernamentales y regulatorios de International Business Machines Corp.
La compañía de 108 años, una vez líder mundial en tecnología, se ha rezagado con respecto al sector durante años. En su lucha por seguir siendo relevante, IBM ha vinculado su futuro a tecnologías más nuevas como la inteligencia artificial y los servicios en la nube. Sin embargo, aún no ha mostrado un crecimiento significativo de los ingresos de esas áreas.
Utilizaron Inteligencia Artificial para imitar la voz de un CEO y robar US$240 mil
Las recomendaciones de IBM exigen que las empresas trabajen con los gobiernos para desarrollar normas sobre cómo asegurarse, por ejemplo, de que a los afroamericanos se les garantice un acceso justo a la vivienda a pesar de los algoritmos que se basan en datos históricos como códigos postales o tasas hipotecarias y pueden estar sesgados por la discriminación. En Estados Unidos, eso probablemente ocurriría a través del Instituto Nacional de Normas y Tecnología del Departamento de Comercio de Estados Unidos.
IBM también sugiere que las compañías nombren altos funcionarios de ética de IA, lleven a cabo evaluaciones para determinar cuánto daño puede representar un sistema de IA y mantengan la documentación sobre los datos al "hacer determinaciones o recomendaciones con implicaciones potencialmente significativas para las personas", a fin de que sea posible explicar las decisiones.
Encabezar el debate sobre la regulación de la IA le da a IBM la oportunidad de volver a ser el centro de atención como líder en tecnología de vanguardia, una posición que no ha mantenido en años.
Las propuestas de inteligencia artificial tienen como objetivo evitar crisis potenciales que podrían enfurecer a clientes, legisladores y reguladores de todo el mundo, similar a lo que sucedió con Facebook Inc. en el escándalo de datos de Cambridge Analytica, cuando los datos personales de millones de estadounidenses fueron transferidos a la firma de consultoría política sin su conocimiento.
"No creo que aún estemos en el mismo lugar en materia de inteligencia artificial", dijo. "Así que no creo que sea demasiado tarde para probar este enfoque".
Opinión | Los robots vienen por nuestros empleos y no nos parece buena idea
Las preocupaciones sobre la inteligencia artificial y el aprendizaje automático, herramientas de software que utilizan los datos existentes para automatizar el análisis futuro y la toma de decisiones, van desde la identificación de rostros en imágenes de cámaras de seguridad hasta la determinación de las tasas hipotecarias. La inteligencia artificial es fundamental para el futuro de muchas compañías de tecnología, incluida IBM, pero ha generado preocupaciones de que podría eliminar empleos y propagar las disparidades existentes en áreas como la aplicación de la ley, el acceso al crédito y la contratación.
IBM ha estado trabajando con la administración de Donald Trump desde el verano pasado en su enfoque de la regulación de la IA. A principios de este mes, la Casa Blanca emitió directrices para el uso de la tecnología por parte de las agencias federales, que enfatizaron el deseo de no imponer controles onerosos. La semana pasada, un grupo bipartidista de senadores estadounidenses develó un proyecto de ley con el que buscan impulsar la financiación privada y pública para la IA y otras industrias del futuro.
La Unión Europea está considerando nuevos requisitos legalmente vinculantes para los desarrolladores de inteligencia artificial, a fin de garantizar que la tecnología se desarrolle y utilice de manera ética. IBM asesoró a un comité europeo de académicos, expertos y ejecutivos que recomendaron evitar reglas innecesariamente prescriptivas.
El brazo ejecutivo de la UE propondrá que las nuevas reglas se apliquen a los "sectores de alto riesgo", como la atención médica y el transporte. También puede sugerir que el bloque actualice las leyes de seguridad y responsabilidad, según un borrador de un llamado libro blanco sobre inteligencia artificial obtenido por Bloomberg. La Comisión Europea presentará el documento a mediados de febrero y es probable que la versión final cambie.
Si bien Rometty ha promocionado el potencial de crecimiento para nuevas ofertas en servicios en la nube, el informe de ganancias del tercer trimestre de la compañía en octubre no alcanzó las estimaciones de Wall Street. Fue el quinto trimestre consecutivo en que IBM redujo sus ventas, a pesar de la adquisición en julio del proveedor de software de código abierto Red Hat, diseñado para reforzar su estrategia de servicios híbridos en la nube. La compañía informará los resultados del cuarto trimestre el martes al cierre del mercado.
Padilla afirma que el cumplimiento de las normas podría convertirse en un punto de venta para las empresas y tal vez ayudar a reducir su responsabilidad legal.
"Si adoptamos un enfoque de simplemente decir no, o simplemente esperar, las posibilidades de que los gobiernos reaccionen ante algo que suceda son mayores", dice. "Entonces, la regulación será prescriptiva y de arriba hacia abajo".
