Desarrollo y análisis de la política ética en materia de IA y del marco de gobernanza interna

Con el tiempo, la inteligencia artificial (AI) deja de parecer algo nuevo o «futurista» – que acaba de ir en segundo plano. La IA en la que se especializa nuestro bufete de abogados es utilizada por su banco para procesar solicitudes, hospitales para analizar imágenes y departamentos de recursos humanos para filtrar currículos. Ofrecemos una gama extra-sectorial de servicios – desde el apoyo legal de soluciones de IA en la salud y las finanzas a la industria SaaS y desarrollo de tecnologías de próxima generación.

Naturaleza dual de la IA

En el mejor de los casos, la IA proporciona una velocidad y precisión que pocas personas pueden lograr. Pero también es capaz de causar un daño significativo si se crea con errores o se usa incorrectamente. Por ejemplo, la aplicación de algoritmos que se relacionan injustamente con determinados grupos demográficos puede dar lugar a problemas aún más graves. Este es un punto clave en el que la IA ética y el cumplimiento corporativo convergen: un sistema ineficiente puede acarrear riesgos para la organización, incluidas las violaciones del GDPR o la legislación antidiscriminación, así como afianzar una reputación asociada con el sesgo de los algoritmos. Aquí es donde nuestro equipo de asesores legales aborda tales lagunas antes de que se conviertan en acciones colectivas.

Importancia de la gestión interna

Como dijo mi colega del Perú: «La gestión no es una marca de verificación para el cumplimiento; es confianza. Pierdes confianza – y pierdes». Una gobernanza interna eficaz no es un proceso estático, sino que requiere retroalimentación, actualizaciones y mejoras periódicas a medida que evolucionan las tecnologías y la legislación. Ayudamos a los clientes a crear códigos de ética de IA sólidos que reflejen sus verdaderos objetivos, cumplan con las mejores prácticas y pasen auditorías regulatorias.

Por qué es importante la gobernanza interna

Las soluciones críticas para la sociedad – desde invitaciones a entrevistas y visualización de contenido hasta el nombramiento de atención médica – hoy en día se basan en gran medida en las tecnologías digitales. Tanto los resultados objetivos como la percepción pública importan cuando se trata de inteligencia artificial: muchos americanos creen que la IA puede ser dañina para la sociedad (Pew Research), pero sólo una de cada tres empresas tiene un marco formal para gestionar tales sistemas (McKinsey). Sin embargo, los que las aplican experimentan un notable aumento de la confianza de los consumidores. Nuestro equipo legal garantiza el cumplimiento del GDPR y los requisitos reglamentarios de la industria, teniendo en cuenta el desarrollo futuro de los modelos de gestión de IA.

Ejemplos de fallos en la gestión real

Los fallos de gobernanza han hecho titulares – por ejemplo, el modelo de contratación sesgado en Amazon o la prohibición del uso de tecnologías de reconocimiento facial en algunas ciudades debido a su baja precisión. Estos incidentes ponen de relieve la necesidad de que nuestros servicios lleven a cabo auditorías periódicas del marco de gestión de la IA para garantizar su cumplimiento continuo con la legislación nacional e internacional.

Lo que es realmente la gestión

La buena gobernanza no es un libro de miles de páginas, sino una colección de todos los procesos necesarios para una gobernanza eficaz a diferentes niveles con funciones claramente definidas. Se forma a partir de patrones de conducta prescritos por la ley y alineados con los valores corporativos. Nuestros socios implementan reglas basadas en normas de gobierno corporativo y legislación global.

Protección continua

La gestión es un proceso continuo. Comienza antes de que se cree el modelo y continúa a lo largo de su ciclo de vida – desde el aprendizaje hasta la aplicación. Estamos introduciendo un marco que incorpora salvaguardias directamente en los registros de aprendizaje y despliegue del modelo en una etapa temprana del desarrollo del proyecto, e integrando DSC a lo largo del ciclo de vida del sistema de IA.

Las reglas que yo seguiría

• Habla claro.
• Garantizar la transparencia del sistema y el uso de los datos en las juntas competentes.
• Realizar ensayos de campo, no sólo pruebas de laboratorio.
• Evitar volúmenes excesivos de datos; si es posible, anonimizar y aplicar medidas adicionales para aumentar la confidencialidad.
• Definir un marco claro de rendición de cuentas.

Ayudamos a los clientes a formular estas mejores prácticas operativas como cláusulas contractuales alineadas con la ética de AI, integrando requisitos de cumplimiento y protección de datos.

Cómo funciona en la práctica

Fintech, una empresa de calificación crediticia, ha añadido la función «explicabilidad» a su plataforma, que muestra cómo se forma la valoración. El hospital realiza verificaciones trimestrales de la precisión y falta de sesgo en sus herramientas diagnósticas. En el entorno de TI corporativo, la IA se utiliza para la detección proactiva de software sombra. Nuestra tarea consiste en documentar estas especificaciones de procedimiento en un conjunto de normas deontológicas del código de IA que puedan soportar la verificación.

Redacción de políticas

En la práctica, la creación de una política sólida requiere identificar qué IA/datos se están utilizando, evaluar los riesgos potenciales, establecer expectativas éticas y proporcionar capacitación y actualizaciones periódicas. Nuestro proceso de desarrollo de políticas combina los principios de la IA responsable con los requisitos actuales del sector y el cumplimiento corporativo.

Del código a la confianza – gestión de blockchain en el mundo real

Algunas empresas han integrado las políticas directamente en el sistema de IA (con aplicación automática), mientras que otras prueban el sesgo en una etapa temprana utilizando escáneres de sesgo, herramientas de seguimiento de datos y otros métodos. Estamos trabajando para armonizar las normas internacionales de ética de la IA con los equipos técnicos.

La tecnología está cambiando demasiado rápido para que la documentación esté siempre al día, y las leyes también cambian con frecuencia. Las situaciones de crisis pueden evitarse si se cumplen con antelación los requisitos reglamentarios. Nuestra práctica de asesoramiento legal ayuda a los clientes a minimizar la complejidad mediante auditorías periódicas, mapeo de cumplimiento y automatización.

Esto, a su vez, conducirá a una autorregulación global impulsada por la IA en la que los reguladores gestionarán los riesgos legales y éticos. Nuestro objetivo es garantizar que los clientes cumplan con la legislación antes de que los requisitos sean vinculantes.

Conclusión

Idealmente, la gobernanza debería tener como objetivo extraer valor de la IA sin caer en trampas legales y éticas. Combinamos la ética de la IA, las capacidades legales y reglamentarias para garantizar que se desarrolle un marco de gobernanza de la IA robusto y conforme. Esto incluye la preparación de políticas, códigos éticos de IA, contratos y otros servicios jurídicos para proyectos de IA – incluyendo nuevas áreas como la realidad virtual – para proteger la innovación en un entorno regulatorio siempre cambiante.

¿La administración es solo papeleo?

No, esto incluye procedimientos y controles para garantizar la seguridad y el cumplimiento de la IA.

¿Qué leyes importan?

Las claves son: el Reglamento de la UE sobre IA (EU AI Act), GDPR, HIPAA, ISO 42001, NIST AI RMF y los Principios de la OCDE sobre IA.

¿Cómo garantizar la ética de la IA generativa?

Desarrollar modelos industriales (DSM) e implementar mecanismos de gestión que permitan la supervisión de profesionales independientes.

¿Es transparente el modelo de «caja negra»?

No exactamente, pero su trabajo puede documentarse y explicarse a través de políticas contractuales.

¿Cómo prevenir el sesgo en las herramientas de contratación?

Diversificar los datos, realizar auditorías periódicas y crear canales de comunicación inversa.

¿Cómo mantener la relevancia de la gestión?

Actualizar regularmente los enfoques, realizar un seguimiento de los cambios legislativos y capacitar al equipo.

¿Por qué es importante el énfasis en las leyes de política de privacidad?

El material discute la importancia del procesamiento de datos de acuerdo con el GDPR para el funcionamiento legítimo de la IA.