Juristas y expertos en ética llevan tiempo advirtiendo de lo mismo, y hoy lo han vuelto a decir con claridad: cuando la inteligencia artificial generativa se presenta como una tecnología autónoma, imprevisible o casi humana, a las empresas les resulta más fácil desdibujar su responsabilidad cuando algo sale mal. Y a medida que estos sistemas se meten en todas partes, crecen los incidentes, las demandas y la presión regulatoria, ese relato, sostienen, empieza a calar también entre reguladores y consumidores.
Eso es, justamente, lo que cada vez más especialistas están señalando.
Para la eticista Giada Pistilli y otros académicos, la discusión sobre si una máquina es “consciente” o “sintiente” puede acabar desviando la atención del problema de fondo. Los daños no son hipotéticos, ya están aquí, y detrás de ellos hay empresas concretas que diseñan, entrenan, venden y ponen en circulación estos productos.
También hay muchos expertos en derecho que descartan la idea de un supuesto “vacío de responsabilidad”.
Su planteamiento es bastante más terrenal: doctrinas que ya existen, como la negligencia o la responsabilidad por productos defectuosos, pueden ajustarse a esta tecnología. Por eso, dicen, la responsabilidad no tendría que desplazarse al sistema, sino seguir en manos de quienes se benefician de él.
Y los datos dejan claro que el asunto hace tiempo que dejó de ser teórico.
La base de datos AI Incident Database registró 362 incidentes en 2025, frente a 233 en 2024. Por su parte, la Organización para la Cooperación y el Desarrollo Económicos (OCDE) detectó un aumento de alrededor de diez veces en los incidentes reportados por los medios entre comienzos de 2020 y enero de 2026. IBM sumó otra señal preocupante en 2026: las brechas facilitadas por estos sistemas costaron a las empresas una media de 6 millones.
Ese aumento de incidentes ya está encontrando su camino a los tribunales.
Se han presentado demandas por homicidio imprudente y lesiones contra empresas de chatbots como OpenAI y Character.AI, con acusaciones que relacionan sus herramientas con suicidios y con daños graves para la salud mental. De hecho, al menos un tribunal ya ha dejado caer que el contenido generado por un sistema podría tratarse como un “producto”, una interpretación que recortaría la protección tradicional de la Sección 230 en Estados Unidos.
La respuesta regulatoria, aun así, no avanza al mismo paso en todas partes.
En Europa, el Reglamento de Inteligencia Artificial de la Unión Europea debería aplicarse por completo hacia junio de 2026, mientras continúa el trabajo sobre una directiva específica de responsabilidad. En Estados Unidos, en cambio, el enfoque sigue mucho más volcado en el mercado, con mayor peso de los compromisos voluntarios y de los reguladores que ya existen.
Entre tanto, las empresas empiezan a apretar un poco más en su gobernanza interna, aunque ni de lejos al ritmo que reclaman los críticos.
La proporción de compañías sin políticas de uso responsable bajó del 24% al 11% en 2025, pero el 59% sigue citando la falta de conocimiento y el 48% las limitaciones presupuestarias como los principales frenos.
La confianza del público, por su parte, sigue por detrás.
Un 57% de los expertos cree que esta tecnología tendrá un impacto positivo en Estados Unidos durante las próximas dos décadas, frente al 17% del público. Al mismo tiempo, el 43% de los estadounidenses teme sufrir perjuicios personales, frente al 24% de los expertos. La gran pregunta de 2026 no es si una máquina siente, sino quién paga cuando falla. Sigue sin estar claro hasta qué punto tribunales y reguladores responderán con la misma rapidez.
