Versión en PDF

La inteligencia artificial (IA) se ha convertido en un elemento central del desarrollo tecnológico actual. Lejos de ser una proyección futurista, hoy está integrada de forma silenciosa pero constante en ámbitos tan diversos como la sanidad, el transporte, la industria, los seguros, el comercio electrónico o las finanzas. Los algoritmos toman decisiones, analizan datos y ejecutan tareas con un grado creciente de autonomía, sin intervención humana directa o con una supervisión cada vez más limitada.

Este avance abre enormes oportunidades, pero también plantea interrogantes jurídicos de primer orden. ¿Qué ocurre cuando un sistema de IA provoca un daño? ¿Quién debe responder si un algoritmo toma una decisión errónea? ¿Cómo se prueba la relación causal cuando el funcionamiento interno del modelo es opaco incluso jpara sus desarrolladores?

Estas preguntas ponen a prueba las bases tradicionales de la responsabilidad civil y obligan a repensar, de manera profunda, los mecanismos de imputación y reparación del daño.

Un marco jurídico en transición

En España, a día de hoy, no existe una normativa específica y completa que regule la responsabilidad civil derivada del uso de sistemas de inteligencia artificial. En ausencia de un régimen particular, los operadores jurídicos se ven obligados a recurrir a:

• Las normas generales del Código Civil (art. 1902 y ss.).
• La legislación sobre responsabilidad por productos defectuosos.
• Los criterios jurisprudenciales tradicionales basados en la culpa.
• Reglamentación sectorial (transporte, protección de datos, consumidores, etc.).

Este “mosaico normativo” genera inevitablemente inseguridad jurídica, especialmente en casos donde la autonomía tecnológica impide identificar con claridad la conducta humana que originó el daño.

La UE ha sido consciente del reto que supone la transformación digital y lleva años impulsando un marco regulatorio más claro. Entre los hitos más destacados se encuentran:

• Resolución del Parlamento Europeo de 20 de octubre de 2020, que sentó las bases para un sistema armonizado de responsabilidad.
• Reglamento (UE) 2024/1689 sobre Inteligencia Artificial, conocido como AI Act, que establece obligaciones de transparencia, seguridad, trazabilidad y evaluación del riesgo, especialmente para sistemas catalogados como de alto riesgo.

Este esfuerzo europeo marca una línea clara: avanzar hacia un marco jurídico que combine innovación con protección de los ciudadanos frente a posibles daños derivados de la IA.

¿Responsabilidad por culpa o responsabilidad objetiva? Un debate en plena evolución

Uno de los debates más relevantes en la actualidad gira en torno a la elección del régimen de responsabilidad aplicable. El modelo clásico exige acreditar:

1. Una conducta negligente.
2. Un daño.
3. Un nexo causal entre ambos.

Este esquema ha funcionado durante décadas, pero muestra sus limitaciones cuando se enfrenta a sistemas autónomos, complejos y con capacidad de aprendizaje. En muchos casos, resulta prácticamente imposible determinar con precisión dónde se produjo el error, qué agente lo provocó, o incluso si hubo negligencia humana.

Ante esta realidad, cada vez cobra más fuerza la idea de imponer un régimen de responsabilidad objetiva —o “sin culpa”— en determinados supuestos de uso de IA, especialmente aquellos que introducen un riesgo intensificado en el tráfico jurídico.

Algunos ejemplos paradigmáticos son:

• Vehículos autónomos, capaces de circular sin intervención del conductor.
• Algoritmos de apoyo clínico, que pueden influir en diagnósticos o tratamientos médicos.
• Modelos de IA en mercados financieros, donde decisiones automatizadas pueden generar pérdidas masivas en cuestión de milisegundos.

En casos como estos, exigir a la víctima que demuestre que el daño se debió a una conducta negligente del operador, desarrollador o fabricante supone una carga probatoria excesiva.

Por ello, cada vez más voces doctrinales proponen trasladar la responsabilidad a quienes introducen el riesgo en el mercado, ya sean:

• El desarrollador del software.
• El fabricante del dispositivo.
• La empresa explotadora.
• El proveedor de servicios basado en IA.
• O la entidad que obtiene un beneficio económico del uso del sistema.

Este planteamiento presenta dos ventajas evidentes, por un lado, refuerza la protección de las víctimas, al eliminar la necesidad de un complejo proceso probatorio y, por otro lado, se adapta mejor a la realidad tecnológica, donde la opacidad algorítmica y la actuación autónoma dificultan identificar una conducta humana concreta como causa del daño.

Otro de los puntos a tener en cuenta es la dificultad probatoria es, quizás, uno de los problemas más graves del régimen actual. En numerosos supuestos, demostrar que un fallo del sistema causó el daño es tarea casi imposible, especialmente cuando intervienen tecnologías basadas en aprendizaje automático, con arquitectura opaca (black box) y que operan con múltiples actualizaciones y variables no siempre controlables.

El legislador europeo ha propuesto introducir herramientas que alivien esta carga, entre ellas, el derecho a solicitar información y pruebas antes de presentar la demanda, algo especialmente relevante en sistemas con documentación técnica inaccesible para el usuario final y presunciones de causalidad cuando se acredite que el operador o fabricante ha incumplido sus obligaciones de diligencia.

Esto no elimina la necesidad de prueba, pero sí permite un reparto más equilibrado de la carga procesal, trasladando al demandado la obligación de demostrar que actuó correctamente o que el daño no se produjo por el sistema de IA.

Todo apunta a que el futuro inmediato evolucionará hacia un sistema mixto:

• Responsabilidad objetiva para sistemas de alto riesgo.
• Responsabilidad por culpa para usos ordinarios, con supervisión humana significativa.
• Seguros obligatorios para determinados operadores, al estilo de lo que ya sucede con los vehículos de motor.
• Eventualmente, fondos públicos de garantía para casos donde no exista un responsable claramente identificable.

La irrupción de la inteligencia artificial obliga a replantear los cimientos del derecho civil. No basta con adaptar artículos aislados: es necesario reconstruir categorías enteras como la culpa, el riesgo, el nexo causal o el concepto de producto defectuoso para que respondan adecuadamente a la realidad tecnológica. La IA plantea situaciones inéditas:

• Actúa de forma autónoma.
• Toma decisiones en base a patrones no siempre comprensibles.
• Intervienen múltiples actores (desarrolladores, entrenadores, proveedores de datos, comercializadores, usuarios).
• El funcionamiento no es estrictamente determinista.

Ante este escenario, pretender aplicar sin más las reglas construidas para relaciones humanas directas resulta insuficiente.

Lo que está en juego no es solo la seguridad jurídica, sino la propia confianza social en la innovación tecnológica. Para que la IA sea aceptada y utilizada de manera responsable, debe existir un marco normativo que garantice protección eficaz de las víctimas, reglas claras para los operadores económicos y incentivos adecuados para la innovación.

ES por ello que, nos encontramos en un momento decisivo para el derecho civil y para la regulación de la inteligencia artificial. La tecnología avanza a gran velocidad, mientras que las normas deben adaptarse para mantener el equilibrio entre innovación y protección jurídica.

El desafío es mayúsculo: diseñar un sistema de responsabilidad capaz de responder a daños que no siempre pueden atribuirse a una conducta humana concreta, y que exigen nuevos enfoques basados en el riesgo, la transparencia y la diligencia reforzada.

El camino hacia un marco regulatorio europeo común ya está en marcha, pero queda todavía mucho por definir. Lo que sí parece claro es que el equilibrio entre progreso tecnológico y responsabilidad será uno de los grandes retos jurídicos de las próximas décadas.

Este artículo es meramente divulgativo y no supone asesoramiento. Para mas información: info@gimenez-salinas.es

Versión en PDF