Evaluación de riesgos para modelos de cimentación

En todas partes a nuestro alrededor, la participación está siendo interrumpida, y la Inteligencia Artificial está en el centro de todo. Los gobiernos, por su parte, están luchando por averiguar cómo podría surgir un nuevo régimen de regulaciones. Un estándar de comportamiento de este tipo sería el papel de una Oficina de IA en Europa. En Estados Unidos, mientras tanto, algunos legisladores estatales están debatiendo dónde recae la responsabilidad legal en los sistemas de IA en evolución. Una conclusión de estos ajustes es la naturaleza anticuada y poco ágil del sistema legal y las leyes; tardan mucho en ponerse al día con algo tan dinámico como la Inteligencia Artificial.

Modelos Fundamentales

• Riesgos de los modelos fundamentales

Como ya se ha mencionado, los potentes sistemas de IA actuales se basan en modelos fundamentales: sistemas grandes, de alto rendimiento pero versátiles que pueden impulsar una variedad de capacidades que van desde herramientas de automatización de contenidos hasta entornos inmersivos de realidad virtual. Los modelos de código abierto están abiertos a la innovación construida sobre lo común; sin embargo, esta misma naturaleza compartida también los hace propensos a daños de segundo orden. Cuando todos pueden ver el código y manipular los bloques de construcción, la creación de contenido dañino, el uso malicioso o la desviación del propósito previsto se vuelve mucho más difícil de controlar.

**Consejo clave:** También es importante tener en cuenta el aspecto legal, ya que puede variar de un país a otro. Nuestro equipo de abogados ayuda a los clientes con toda la propiedad intelectual, el cumplimiento normativo y los mecanismos preventivos. En un mundo orientado al software, es importante dejar claro el cumplimiento, la exposición a la responsabilidad legal y, con suerte, la protección frente a responsabilidades.

• Modelos fundamentales: Evaluación de riesgos legales

Los modelos fundamentales presentan una serie de problemas legales, ya que la base misma sobre la que se sustentan es problemática. Las evaluaciones de riesgo deben tener en cuenta:

1. Conflictos con las leyes de privacidad
2. Vulnerabilidades en las regulaciones de contenido
3. Gobernanza de datos transfronteriza
4. Incertidumbres jurisdiccionales

Los modelos abiertos complican aún más las cosas. Su conveniencia los hace susceptibles de ser mal utilizados por otros, quienes a veces eliminan las protecciones necesarias que tenían en mente los creadores originales. La atribución puede resultar difícil, especialmente si los conjuntos de entrenamiento incluyen datos sujetos al RGPD o si el resultado de los modelos de IA infringe los derechos de los usuarios. No se trata de un riesgo abstracto; se trata de una exposición legal futura.

Aspectos normativos clave

El cumplimiento legal va más allá del cumplimiento de la IA. Nuestro asesoramiento se centra en lo siguiente:

• Cumplimiento del RGPD: Las etapas de entrenamiento y despliegue están libres de PII o la confidencialidad se gestiona de forma segura.
• Aspectos prácticos: Crear ecosistemas humano-IA con términos de privacidad legibles por humanos, aplicables y exigibles para herramientas de IA que procesen datos personales.
• Gestión de contenidos impulsada por políticas: Abordar los medios sintéticos, la desinformación y la creación no consensuada de contenidos.

Con cada nueva capa regulatoria, se debe documentar, establecer estrategias de aplicación y poner en marcha mecanismos de respuesta inmediata para que, en caso de irregularidad, las empresas puedan actuar rápidamente y evitar el riesgo de sanciones.

¿Quién es responsable? Comprender la cadena de valor de la IA

Los diseños de modelos fundamentales no son software lineal; evolucionan con el tiempo. Las actividades posteriores también implican exposición legal más allá del lanzamiento de un modelo. Los roles clave incluyen:

• Creadores de modelos base: Desarrolladores y colaboradores del modelo base.
• Adaptadores: Ingenieros especializados en modelos.
• Generalistas 3D alojados: Propietarios de modelos como estudios de marca blanca.
• Instalaciones de políticas públicas/privadas
• Ingenieros de aplicaciones de usuario final: Principalmente suscriptores de los modelos para crear interfaces o herramientas para el usuario final.

Las relaciones entre editores, socios comerciales y terceros son complejas, y varios actores a lo largo de la cadena de responsabilidad podrían estar expuestos dependiendo del papel (si lo hubiera) que esa tecnología haya desempeñado.

Responsabilidades a largo plazo

Utilizamos un enfoque metódico que funciona en el ciclo Prevenir — Detectar — Responder.

• Prevenir

1. Estructuras de responsabilidad: Una licencia para el uso permisivo y consensuado.
2. Auditorías de cumplimiento: Comprobación de los datos con los que se entrenó el modelo para detectar violaciones del RGPD y de derechos de autor.
3. Lanzamientos de seguimiento: Implementaciones graduales en cada etapa del modelo y sus mecanismos de defensa.
4. Evitar que las herramientas públicas prometan demasiado o rindan poco: Etiquetas de advertencia y pruebas de seguridad.

• Detectar

1. Herramientas de monitoreo: Detección de uso indebido y desviaciones en los resultados no deseados.
2. Cómo informar incidentes: Notificación de problemas legales, de cumplimiento o éticos.
3. Seguimiento regulatorio: Mantenerse al día con los cambios en las leyes en diferentes geografías.

• Responder

1. Gestión de incidentes: Investigaciones forenses de incidentes y responsabilización de las partes infractoras.
2. Divulgaciones públicas: Requisitos de transparencia posteriores a un incidente.
3. Aplicación de sanciones: Implementación de bloqueos o prohibiciones de usuarios cuando sea necesario.

Este enfoque de doble vía permite a nuestros abogados elaborar planes estratégicos según si un cliente participa en el desarrollo del sistema de IA o en su uso, garantizando estrategias de gestión de riesgos de IA adaptadas en cada etapa.

¿Necesita asistencia legal?

Las empresas se enfrentan al desafío de entrenar modelos fundamentales y de IA generativa de distintos tamaños. Su riesgo legal es real y puede ser alto, ya sea que esté lanzando un nuevo sistema de IA, ajustando modelos existentes o incorporando herramientas de terceros.

**Los servicios incluyen:**

• Estrategia de cumplimiento de IA
• Auditoría legal
• Análisis normativo
• Gestión del análisis de responsabilidad
• Redacción de contratos para el uso de IA

Le ayudamos de forma proactiva a identificar y abordar los problemas antes de que surjan, a defender sus derechos y a proteger sus innovaciones técnicas bajo las normas legales existentes y futuras. Si necesita cualquier tipo de asistencia legal en este campo en crecimiento, Eternity Law International es su guía. Contáctenos ahora para analizar cómo podemos ayudarle con sus necesidades de riesgo y cumplimiento en IA.