Gates, la IA y el poder de decir basta
Bill Gates contempla un freno a la IA mientras Washington apuesta a compromisos voluntarios de las empresas.
Bill Gates, cofundador de Microsoft, volvió a pedir controles obligatorios para la inteligencia artificial en una entrevista con Ezra Klein publicada por The New York Times a finales de septiembre. Advirtió sobre riesgos de ciberataques y bioterrorismo, y rechazó que la industria pueda supervisarse sola. Su preocupación llega hasta considerar un freno al desarrollo, si existiera un plan creíble para aplicarlo a escala mundial.
Esa posibilidad ya figuraba en su ensayo del 26 de agosto: probablemente apoyaría una desaceleración global, aunque él mismo veía difícil que ocurriera. El 15 de septiembre, ante NDTV, explicó por qué le resultaba llamativo decirlo después de una vida defendiendo la innovación. Considera que esta vez el cambio puede ser demasiado amplio y demasiado rápido.
Gates se suma a una discusión que lleva años. Lo significativo es el lugar desde el que habla: alguien que construyó una de las empresas centrales de la revolución informática ahora acepta discutir cuánto conviene acelerar la siguiente. Su trayectoria vuelve incómodo el atajo de despachar cualquier advertencia como miedo al progreso.
El mismo 29 de septiembre que Gates dio la entrevista al New York Times, Donald Trump reunió a ejecutivos tecnológicos en la Casa Blanca y anunció un acuerdo voluntario de seguridad. El compromiso contempla controles internos y auditorías externas. Su cumplimiento descansa, en buena medida, en las propias compañías. Trump lo describió como moralmente vinculante.
La crítica de Gates a la autorregulación precede a este anuncio. Frente a Klein fue categórico: confiar en que la industria se controle sola le parece una locura. A la vez, sostuvo que incorporar salvaguardas y monitoreo no retrasaría significativamente el desarrollo. En su planteo conviven dos discusiones: si sería posible desacelerar globalmente y qué controles deberían exigirse desde ahora.
Camila Velasco. Ingeniera, emprendedora y conductora. @kamivelasco
La diferencia aparece cuando frenar tiene un costo. Imaginemos una empresa que detecta un riesgo en su próximo modelo mientras un competidor prepara un lanzamiento. Esperar puede significar perder clientes e inversiones. Seguir puede exponer a otros a un daño. El asunto en cuestión es quién puede revisar esa decisión cuando la seguridad y el negocio tiran para lados distintos.
Un compromiso voluntario puede mejorar las prácticas de una compañía. Una auditoría externa puede detectar problemas que sus propios equipos pasaron por alto. Para que ese control tenga consecuencias, hace falta saber qué información recibe el auditor, qué independencia tiene y qué sucede si recomienda demorar un lanzamiento. Publicar un informe sirve de poco si nadie debe actuar sobre sus conclusiones.
También hay razones para desconfiar de una regulación escrita a medida de los gigantes. Exigencias costosas y trámites interminables pueden dejar afuera a desarrolladores pequeños, mientras las empresas instaladas pagan abogados y siguen adelante. Una política de seguridad que termina cerrando el mercado merece tantas preguntas como una promesa de autorregulación.
Por eso las exigencias deberían guardar relación con los riesgos. Una herramienta que ayuda a redactar un catálogo y un sistema que interviene en una red eléctrica requieren evaluaciones distintas. El alcance del control debe poder explicarse: qué daño busca evitar, qué pruebas exige y qué condiciones permitirían continuar. La incertidumbre tampoco puede convertirse en un permiso para prohibir cualquier cosa.
Del otro lado, hace falta capacidad técnica. Un organismo sin especialistas puede producir formularios y seguir sin entender qué está evaluando. Lo valioso sería contar con equipos capaces de examinar pruebas, contrastar resultados y exigir correcciones. También con procedimientos que permitan discutir sus decisiones. Quien tiene el poder de frenar debe poder justificar cómo lo usa.
Para la Argentina, esta discusión tiene una traducción práctica. Conviene que una pyme pueda incorporarIA, bajar costos y competir mejor. Conviene que haya empresas locales desarrollando soluciones y profesionales capaces de venderlas al mundo. La adopción necesita reglas comprensibles y previsibles, para que invertir no dependa de adivinar qué exigencia aparecerá mañana.
Esa previsibilidad incluye responsabilidades. Una empresa que contrata un sistema debería saber qué datos entrega, qué límites tiene el producto y qué respaldo ofrece el proveedor si falla. En usos que pueden afectar la salud o servicios esenciales, esas preguntas deberían resolverse antes de ponerlo a funcionar. Son condiciones que también protegen a quien invierte y compra tecnología.
La transformación del trabajo merece la misma seriedad. Incorporar herramientas puede mejorar la productividad y cambiar tareas o eliminar puestos. Las empresas y las instituciones educativas deberían preparar a las personas para esos cambios, sin vender la capacitación como una garantía automática de empleo. Hay decisiones concretas sobre formación y organización del trabajo que pueden tomarse desde ahora.
El debate gana precisión cuando exige respuestas verificables. Ante un riesgo grave, ¿Quién puede ordenar una pausa, sobre qué evidencia y hasta cuándo? ¿Qué debe corregir una empresa para seguir? Un límite sin fundamento puede frenar un desarrollo útil. Una advertencia fundada que nadie está obligado a atender puede llegar demasiado tarde.
Gates pone su voz detrás de una posibilidad incómoda para la industria: que avanzar también implique aceptar una demora. La inteligencia artificial tiene mucho para ofrecer y sin ir más lejos Argentina tiene razones para aprovecharla. Esa apuesta será más sólida si sabemos quién responde cuando algo falla y quién puede intervenir antes. El poder de decir basta empieza a existir cuando una advertencia fundada puede cambiar una decisión.
MEG